BRAK-Podcast – neue Folge: Wie weit darf staatliche KI gehen?
Chatkontrolle, Vorratsdatenspeicherung, Massenbiometrie: Die Pläne zur „Stärkung digitaler Ermittlungsbefugnisse“ von Bundeskriminalamt und Bundespolizei sind hochaktuell – und hochumstritten. Wie weit dürfen staatliche Überwachungsbefugnisse im digitalen Zeitalter gehen? Darum dreht sich die neueste Folge des Podcasts „(R)ECHT INTERESSANT!“.
Die neue Law-and-Order-Politik: Mehr Befugnisse dank KI
Die Bundesregierung forciert mit einem aktuellen Referentenentwurf eine umfassende Erweiterung polizeilicher Ermittlungsbefugnisse im digitalen Raum. Das Ziel: Die automatisierte Suche und Identifizierung von Zielpersonen mithilfe öffentlich zugänglicher Internetdaten und der Einsatz selbstlernender Systeme (KI). Der Entwurf, der unter anderem die umstrittene US-Software Palantir ins Spiel bringt, wird von Datenschützern und Verfassungsrechtlern scharf kritisiert.
Im BRAK-Podcast „(R)ECHT INTERESSANT!" beleuchtet ein ausgewiesener Experte die Hintergründe dieser „digitalen Zeitenwende“: Lukas Theune, Fachanwalt für Strafrecht und Geschäftsführer des Republikanischen Anwältinnen- und Anwältevereins e.V. (RAV).
Kollision mit dem EU-Recht
Theune warnt warnt davor, dass der aktuelle Referentenentwurf sogar über die Andeutungen im Koalitionsvertrag hinausgeht. Er sieht darin eine Politik, die stets an Einzelfällen (wie Attentaten) aufgehängt wird, um weitreichende Befugnisse zu legitimieren. Die rechtlichen Hürden seien massiv:
- Verstoß gegen die EU-KI-Verordnung: Die geplante automatisierte Erstellung von Datenbanken zur Gesichtserkennung durch ungezieltes Auslesen von Bildern ist nach der neuen EU-Verordnung klar verboten.
- Keine digitale Souveränität: Entgegen früherer Versprechen öffnet der Entwurf die Tür für den Einsatz von Software aus Drittstaaten (z.B. Palantir), was die digitale Souveränität weiter untergräbt.
- Orwell'sches Überwachungssystem: Insbesondere die geplante KI-gestützte Auswertung von Kameraüberwachung in Echtzeit wird als Schritt in Richtung eines allgegenwärtigen Überwachungssystems – vergleichbar mit dem in China – kritisiert.
Widerspruch? Nicht möglich!
Während Nutzer:innen von privaten Diensten wie TikTok zumindest die Möglichkeit haben, den AGB nicht zuzustimmen, bestünde diese Wahl bei staatlicher Überwachung nicht mehr. „Man kann nur noch drinnen bleiben“, so Theune. Für Anwälte und Anwältinnen ist die Kenntnis dieser Entwicklungen essenziell, da die geplanten Befugnisse weitreichende Implikationen für die Mandantenberatung im Straf-, Polizei- und Versammlungsrecht haben.
Jetzt reinhören: Was bedeuten Palantir, Hackbacks und Massenbiometrie wirklich für den Rechtsstaat? Und warum ist „Sicherheit um jeden Preis“ keine Sicherheit mehr, wenn die Unbefangenheit im öffentlichen Raum geopfert wird?
Weiterführende Links:
Hinweis:
Der Podcast kann über Amazon Music | Apple Podcasts | Deezer | Podigee | Podimo | Spotify | Youtube | YouTube Music angehört werden.
Folgen Sie dem Podcast auch auf Instagram, Youtube und TikTok.
Sie haben auch die Möglichkeit, einen RSS-Feed zu jeder neuen Ausgabe zu abonnieren.