Articles for tag: Algorithmic Justice, Algorithmic Transparency, Herrschaft des Algorithmus, KI, Tech Inequality

Global Inequities in Algorithms

Algorithms can seem like esoteric subjects, often relegated to the realm of engineers and technology companies, given the technical nature of algorithmic design. Algorithms, when applied, take on a social character that invites us into peer beneath the hood to understand both their function and application. Given the growing ubiquitousness of algorithms in our daily lives, policymakers are looking to capture algorithms within regulatory mechanisms. This article seeks to understand the inequalities that undergird algorithmic applications, in order to understand how to regulate these systems.

31. März 2022

, , , ,

Artificial Intelligence, Human Flourishing and the Rule of Law

One function of the rule of law is the promotion of human flourishing, often represented by the term ‘autonomy’. However, the ability to rely on the rule of law as a tool for counteracting AI’s constricting effect on human flourishing is being negated as the composition and design AI systems flout the ideals that the rule of law demand as necessary for a certain type of society.

30. März 2022

, ,

Proactive Contestation of AI Decision-making

Liberal democracies have an artificial intelligence problem. The disruptive impact and complex harms of artificial intelligence (AI) decision-making, including their intrusive surveillance, unjustifiable biases, and deceptive manipulations matter in all societies, but they matter more in open, pluralist democracies, which depend on messy human accountability processes. AI decision-making systems are notoriously resistant to demands for external scrutiny.

30. März 2022

, , ,

Our Minds, Monitored and Manipulated

Well-functioning democracies require a well-informed citizenry, an open social and political discourse and absence of opaque or deceitful influence. Western democracies have however always been prone to power asymmetries and to coercion and the curbing of these freedoms through oppression and propaganda. Adoption of AI and datafication has raised concerns whether society is sliding into an Orwellian nightmare, where all of our actions are being scrutinized, controlled and manipulated at a scale that has never been possible before. So, what is it exactly that makes this time so different?

28. März 2022

, , , ,

Artificial Intelligence Must Be Used According to the Law, or Not at All

Democracy requires to strengthen the Rule of Law wherever public or private actors use algorithmic systems. The law must set out the requirements on AI necessary in a democratic society and organize appropriate accountability and oversight. To this end, the European Commission made several legislative proposals. In addition to the discussion on how to use algorithmic systems lawfully, the question when it is beneficial to use them deserves more attention.

28. März 2022

, , , ,

Fake-Strafrecht in Wahlkampfzeiten

Genügen die Aufklärung durch Staat und Medien, um den Gefahren zu begegnen, die gerade in Wahlkampfzeiten von Falschinformationen ausgehen? Der Umgang mit Fakes ist in der digitalisierten Gesellschaft eine große Herausforderung. Das Strafrecht erscheint jedoch kaum als geeignetes Instrument, um einer Beeinflussung des Wählerwillens entgegenzuwirken. Der Gesetzgeber sollte vor allem keine Fake-Strafgesetze schaffen, die vorspiegeln, etwas zur Bekämpfung reeller Probleme beizutragen, obwohl sie dies nicht leisten können.

7. September 2021

, , ,

Machines Learning the Rule of Law

On 21 April 2021, the European Commission proposed the world’s first Artificial Intelligence Act, with the intention to explicitly protect the rule of law against the “rule of technology”. Despite this expressed goal, the normative power of the regulation raises serious concerns from the perspective of fundamental rights protection.

13. Juli 2021

, , ,

Workers vs Algorithms

On 11 May, Spain passed a new provision that regulates algorithmic transparency in the employment field. This new norm gives workers the right to be informed about the parameters, rules and instructions via which algorithms or artificial intelligence systems impact their working conditions and determine access to employment. The provision, for its novelty, appears to be ambitious, but its potential limitations and practical consequences will determine its success.

27. Mai 2021

, , , ,

Mit künstlicher Intelligenz auf Verbrecherjagd

Zur Fahndung nach den Beteiligten am Sturm auf das US-amerikanische Kapitol werden nach Medienberichten wohl auch Gesichtserkennungstechnologien eingesetzt, die teilweise auf künstlicher Intelligenz beruhen. Nach deutschem Recht wäre das derzeit unzulässig. Die Einführung einer entsprechenden Rechtsgrundlage erfordert aufgrund ethischer, technischer und menschenrechtlicher Implikationen eine intensive Debatte auf gesetzgeberischer Ebene.

22. Januar 2021

, , ,

Männer fahren LKW, Frauen erziehen Kinder

Facebook spielt Stellenanzeigen in diskriminierender Weise an die Nutzer:innen seiner Plattformen aus. Untersuchungen von AlgorithmWatch zeigen, dass sich Facebook an groben Genderstereotypen zu orientieren scheint, um die Zielgruppe von Anzeigen zu bestimmen – auch wenn die Auftraggeber:innen die Ausschreibungen genderneutral gestalten. Die Untersuchungen von AlgorithmWatch machen deutlich, dass das klassische Antidiskriminierungsrecht, insbesondere das AGG in seiner aktuellen Form, den Herausforderungen einer sogenannten „Algorithmendiskriminierung“ nicht gewachsen ist. Insbesondere die mangelnden Sanktionsmöglichkeiten von Diskriminierungen ohne identifizierbares Opfer, werden mit dem zunehmenden Einsatz algorithmischer Systeme mehr und mehr zum Problem.

6. November 2020

, , ,