Thema: Digitalisierung & Technologie

Verfassungsrecht für digitale Technologien, KI-Governance, Plattformregulierung, digitale Rechte und verfassungsrechtliche Aspekte des technologischen Wandels. Umfasst digitale Grundrechte, Datenschutz als Verfassungsrecht und verfassungsrechtliche Regulierung neuer Technologien.

Examining the EU’s Artificial Intelligence Act

Finally, consensus on the EU Artificial Intelligence Act. The academic community is thus finally in a position to provide a (slightly) more definitive evaluation of the Act’s potential to protect individuals and societies from AI systems’ harms. This blog post attempts to contribute to this discussion by illustrating and commenting on the final compromises regarding some of the most controversial and talked-about aspects of the AI Act, namely its rules on high-risk systems, its stance on General Purpose AI, and finally its system of governance and enforcement.

7. Februar 2024

, ,

Orwell’sche Gleichgültigkeit und Europäische Demokratie

Stolz wurde am 9. Dezember 2023 verkündet, dass „der KI-Deal steht“ – so ließe sich die damalige Pressemeldung des Rates paraphrasieren. Mittlerweile ist allerdings Besorgnis im Hinblick auf die weitere Ausformung des erzielten Kompromisses angebracht. Nachdem die Institutionen bei einem langwierigen letzten Treffen innerhalb der Trilog-Verhandlungen zwischen Parlament, Rat und Kommission zu einem „provisional agreement“ fanden, das den langen wie gewundenen Weg der (angeblich) „weltweit ersten“ KI-Regulierung zu einem Ende bringen könnte, scheint sich der für Ende Januar erwartete konkrete Textentwurf des AI Acts in mehrerlei Hinsicht von den dortigen Festlegungen zu entfernen. In der Sache lassen sich gewichtige rechtliche Einwände gegen den konkreten Regulierungsansatz vorbringen; noch schwerwiegender lastet allerdings das bedeutsame wie kritische Defizit der demokratischen Legitimierung dieser wichtigen regulatorischen Entscheidung auf den aktuellen Entwicklungen des AI Acts.

23. Januar 2024

, ,

Datenschutzgrundverordnung gilt für parlamentarische Untersuchungsausschüsse

Der EuGH hat sich in einer lange erwarteten Entscheidung mit der Frage auseinandergesetzt, ob die DSGVO auf parlamentarische Untersuchungsausschüsse anwendbar ist. In der Rs C-33/22 (Österreichische Datenschutzbehörde) hat der EuGH am 16. Jänner 2024 in einem österreichischen Fall entschieden, dass die DSGVO auf parlamentarische Untersuchungsausschüsse grundsätzlich anwendbar ist. Dadurch haben Untersuchungsausschüsse in Ausübung ihrer parlamentarischen Kontrollrechte auch das Recht auf Datenschutz von Auskunftspersonen zu achten. Dies betrifft essenzielle verfassungsrechtliche Fragen zum Umgang mit diesem zentralen demokratischen Kontrollinstrument bzw Kontrollrechten allgemein und dem Verhältnis zum Datenschutz  und geht weit über den Ausgangssachverhalt hinaus. Die österreichische Judikatur und Praxis, wonach die Gesetzgebung von der Anwendbarkeit der Datenschutz-Grundverordnung (DSGVO) ausgenommen ist, wird nach diesem EuGH-Urteil nicht aufrechterhalten werden können.

19. Januar 2024

,

Putting X’s Community Notes to the Test

All of the biggest social media platforms have a problem with disinformation. In particular, a flood of false information was found on X, formerly Twitter, following the terrorist attack by Hamas on 7 October 2023 and the start of the war in Ukraine. The EU Commission therefore recently initiated formal proceedings against X under Art. 66 para. 1 of the Digital Services Act (DSA). One of the subjects of the investigation is whether the platform is taking sufficient action against disinformation. Despite these stakes, X takes an approach different to all other platforms: As can be inferred from the X Transparency Report dated 03.11.2023 posted information is not subject to content moderation, but solely regulated through a new tool: The Community Notes.

8. Januar 2024

, , , ,

Community Notes auf dem Prüfstand

Die größten Social Media Plattformen haben ein Problem mit Desinformation. Insbesondere auf X, vormals Twitter, war nach dem Terroranschlag der Hamas am 07.10.2023 und dem Beginn des Krieges in der Ukraine eine Flut an Falschinformationen feststellbar. Daher hat die EU-Kommission vor Kurzem mitgeteilt, dass sie ein förmliches Verfahren nach Art. 66 Abs. 1 Digital Services Act (DSA) gegen X eingeleitet hat. Gegenstand der Untersuchung ist unter anderem, ob die Plattform hinreichend gegen dieses Problem vorgeht. X setzt dabei alles auf eine Karte: Wie aus dem X Transparency Report vom 03.11.2023 geschlossen werden kann, unterliegen Desinformationen nicht der sog. Content Moderation, sondern ihnen soll allein durch den Einsatz eines neuen Tools entgegengewirkt werden. Das heißt, dass die Nutzerinhalte auf X von Seiten des Betreiberunternehmens weder durch Algorithmen noch durch dazu beauftragte Personen auf Falschinformationen kontrolliert werden.

8. Januar 2024

, , ,

To Score Is to Decide

Can the act of assigning a score to someone constitute a decision? This, in essence, is the question the Court of Justice of the European Union (CJEU) had to answer in Case C-634/21. And the Court’s answer is yes, following in the footsteps of the Advocate General’s opinion on the case. Rendered on 7 December, this ruling was eagerly awaited as it was the first time the Court had the opportunity to interpret the notorious Article 22 of the General Data Protection Regulation (GDPR) prohibiting decisions “based solely on automated processing".

14. Dezember 2023

, , ,

What’s Missing from the EU AI Act

The AI Act negotiators may still have been recovering from the political deal that was struck during the night of December 8 to 9 when two days later Mistral AI, the French startup, open sourced its potent new large language model, Mixtral 8x7B. Though much smaller in size, it rivals and even surpasses GPT 3.5 on many benchmarks thanks to a cunning architecture combining eight different expert models. While a notable technical feat, this new release epitomizes the most pressing challenges in AI policy today, and starkly highlights the gaps left unaddressed by the AI Act: mandatory basic AI safety standards; the conundrum of open-source models; the environmental impact of AI; and the need to accompany the AI Act with far more substantial public investment in AI.

13. Dezember 2023

,

Biden, Bletchley, and the emerging international law of AI

Everyone talks about AI at the moment. Biden issues an Executive Order while the EU hammers out its AI Act, and world and tech leaders meet in the UK to discuss AI. The significance of Biden’s Executive Order can therefore only be understood when taking a step back and considering the growing global AI regulatory landscape. In this blogpost, I argue that an international law of AI is slowly starting to emerge, pushing countries to adopt their own position on this technology in the international regulatory arena, before others do so for them. Biden’s Executive Order should hence be read with exactly this purpose in mind.

15. November 2023

, , , ,

Im Wettlauf mit der Zeit

Die Ampel hat sich in ihrem Koalitionsvertrag bis 2025 eine umfassende Reform des Sicherheitsrechts vorgenommen. Wie so oft in dieser Legislatur kam ihr dabei jedoch etwas in die Quere – diesmal das Bundesverfassungsgericht. Karlsruhe erklärte im Herbst 2022 bestimmte Informationsübermittlungsvorschriften des Bundesverfassungsschutzgesetzes für verfassungswidrig – und setzte dem Gesetzgeber enge Fristen zur Reparatur bis Ende 2023. Nicht viel Zeit, um einen Kernbereich des Sicherheitsrechts neu zu justieren und zugleich in einem hoch volatilen politischen Umfeld angemessene Regelungen zu finden. Inzwischen liegt ein Gesetzentwurf vor, der allerdings an mehreren Stellen mit den Vorgaben aus Karlsruhe offensichtlich nicht zu vereinbaren ist.

14. November 2023

, ,

A Primer on the UK Online Safety Act

The Online Safety Act (OSA) has now become law, marking a significant milestone in platform regulation in the United Kingdom. The OSA introduces fresh obligations for technology firms to address illegal online content and activities, covering child sexual exploitation, fraud, and terrorism, adding the UK to the array of jurisdictions that have recently introduced new online safety and platform accountability regulations. However, the OSA is notably short on specifics. In this post, we dissect key aspects of the OSA structure and draw comparisons with similar legislation, including the EU Digital Services Act (DSA).

13. November 2023

, , ,