Big Brother Is Analyzing You

Angesichts der Möglichkeiten automatisierter Datenanalyse wachsen bei den Sicherheitsbehörden die Begehrlichkeiten. Mit der im August 2024 in Kraft getretenen KI-Verordnung existiert eine Regelung, die die Gestaltung und Nutzung von Hochrisiko-KI-Systemen reguliert und dadurch die verfassungsrechtlichen sowie datenschutzrechtlichen Anforderungen an die polizeiliche Datenanalyse schärft. Für die gesetzlichen Vorgaben von Analysebefugnissen und deren Anwendung ist es entscheidend, klare Leitlinien für einen verantwortungsvollen und grundrechtsschonenden Einsatz von KI in Gefahrenabwehr und Strafverfolgung zu etablieren.

11. Dezember 2024

, ,

Ein Anfang, mehr nicht

Kein anderes Thema hat die Gemüter beim Ringen um die KI-Verordnung der EU so sehr erhitzt wie die automatisierte Gesichtserkennung in der Strafverfolgung und ihre Regulierung. Jetzt stehen die Vorschriften für Gesichtserkennung und andere Methoden biometrischer Fernidentifizierung fest – zumindest der aller-äußerste Rahmen, den die KI-Verordnung festlegt. Diese Regelungen sind allerdings nur ein Anfang, mehr nicht.

11. Dezember 2024

, ,

AI Act and the Prohibition of Real-Time Biometric Identification

Remote biometric identification (RBI) systems are increasingly becoming part of our daily lives. The most prominent example is the use of facial recognition technologies in public spaces (e.g. CCTV cameras). The AI Act regulates the use of RBI systems distinguishing between real-time and post RBI systems. While one of the main aims of the AIA was to ban real-time RBI systems, the Regulation failed to do so in an effective manner. Instead, it can be argued that the AIA still allows for a broad use of such systems.

10. Dezember 2024

, , ,

KI im Einsatz für die Sicherheit

Mit der Verabschiedung der KI-Verordnung wurde nicht nur ein Rechtsrahmen für den sicherheitsbehördlichen KI-Einsatz geschaffen, sondern erneut die Diskussion über eine kompetenzwidrige Europäisierung des Sicherheitsrechts aufgeworfen. Neben der Notwendigkeit gemeinsamer datenschutzrechtlicher Mindeststandards im Raum der Freiheit, der Sicherheit und des Rechts sprechen jedoch auch die Einhaltung grundrechtlicher Garantien und die in der KI-Verordnung vorgesehenen Regelungsspielräume der Mitgliedstaaten für die Zulässigkeit einer übergreifenden Regulierung des KI-Einsatzes durch den EU-Gesetzgeber.

10. Dezember 2024

, ,

The AI Act National Security Exception

In 2024, the EU legislators adopted a detailed national security exception to the AI Act, contravening prior EU case law. Beyond the possibility of a future ruling that would realign the AI Act’s scope with said case law, the impact of this exception might be limited by other applicable laws and the interpretative and practical difficulty of distinguishing between national and public security. The AI Act’s failure to sufficiently account for these intricacies risks further legal uncertainty within the already complex security landscape. Therefore, this blog post explores the challenges of implementing the exception of national security to the AI Act’s scope of application.

9. Dezember 2024

, , ,

The EU AI Act’s Impact on Security Law

The process of integrating European security law is imperfect and unfinished – given the constraints posed by the European Treaties, it is likely to remain that way for the foreseeable future. This inevitable imperfection, lamentable as it may be, creates opportunities for legal scholarship. Legal scholars are needed to explore the gaps and cracks in this new security architecture and to ultimately develop proposals for how to fix them. This debate series, being a product of VB Security and Crime, takes the recently adopted AI Act as an opportunity to do just that: It brings together legal scholars, both German and international, in order to explain, analyze and criticize the EU AI Act’s impact on security law from both an EU and German national law perspective.

9. Dezember 2024

, , ,

Paula Escarameia

Paula Ventura de Carvalho Escarameia’s legacy extends beyond classical legal achievements. With a diversified career over decades that got cut short way too soon at the age of fifty, she’s earned global acclaim for her expertise in public international law, especially concerning the situation in East Timor. She believed that public international law was no rigid construct but could and should be changed especially in the areas of self-determination and the protection of human rights – ultimately contributing to the establishment of the International Criminal Court.

8. Dezember 2024

, , ,

Offener Zugang zum Grundgesetz

Weltweit erstarken autoritäre Kräfte, die sich offen gegen demokratische Strukturen wenden. In der Rechtswissenschaft wird zumeist das klassische Instrumentarium der wehrhaften Demokratie diskutiert. Kaum eine Rolle spielt dagegen das Thema der Verfassungsrechtsvermittlung – obwohl für die Rechtsbefolgung und damit für die Resilienz der Verfassungsordnung Normverständnis bekanntlich viel wichtiger ist als Zwang. Welchen Beitrag aber leistet die Rechtswissenschaft, Verständnis für und Einsicht in den Wert unserer Verfassung zu fördern? Wie steht es überhaupt um ihr Verhältnis zur verfassungsrechtlichen Bildung?

5. Dezember 2024

, , , , ,

A Right to Anonymity in the Digital Age

Although digital anonymity is associated with a wide range of opportunities, it also stands in the way of successful criminal prosecution. The right to respect private and family life under the the EU Charter as well as the right to protection of personal data are of fundamental importance for natural persons. However, since life is increasingly taking place online, anonymity can be exploited to spread hate, discriminatory content, and fake news. Considering these risks, the ECJ has opened the door to data retention in Europe and thereby restricted digital anonymity.

2. Dezember 2024

, , , ,

Data Retention Laws and La Quadrature du Net II

La Quadrature du Net II has been criticized for allowing generalized metadata retention measures. However, it is important not to lose sight of the fact that the law must not become a mechanism for protecting criminals. The scale of online rights violations are a real problem. P2P networks are not only a threat to copyright protection, but also an environment for the distribution of content related to serious crime. It is therefore necessary to strike a balance between these two concerns and to propose solutions that adequately protect users without guaranteeing impunity for criminals.

2. Dezember 2024

, , , ,