Ein neues britisches Vorhersagesystem zur Identifikation potenzieller Gewalttäter sorgt für Kontroversen.
In Kürze
- System verarbeitet sensible Daten von 500.000 Menschen
- Kritik an Diskriminierung und Verletzung von Persönlichkeitsrechten
- EU AI Act könnte rechtliche Hürden aufwerfen
Ein neues Vorhersagesystem aus Großbritannien
Ein neues Vorhersagesystem aus Großbritannien sorgt für Aufregung und wirft zahlreiche ethische Fragen auf. Das System, das unter Premierminister Rishi Sunak ins Leben gerufen wurde, hat sich zum Ziel gesetzt, potenzielle Gewalttäter zu identifizieren, bevor sie Straftaten begehen. Hierfür werden sensible Daten von rund einer halben Million Menschen verarbeitet, darunter Informationen von Opfern und Personen mit psychischen Erkrankungen.
Analyse sensibler Daten
Die NGO Statewatch hat interne Dokumente erhalten, die zeigen, dass das System eine Vielzahl von Daten analysiert, darunter Geburtsdaten, ethnische Zugehörigkeit und gesundheitliche Details. Diese Vorgehensweise stößt auf heftige Kritik. Viele Menschen empfinden die Nutzung solcher sensibler Informationen als übergriffig, insbesondere die Einbeziehung von Daten über psychische Gesundheit wirft Bedenken auf.
Forschungsphase und Kritik
Das System trägt mittlerweile den Namen „Daten teilen zur Verbesserung von Risikoanalysen“ und befindet sich offiziell noch in der Forschungsphase. Dennoch wird bereits über eine zukünftige operative Nutzung nachgedacht. Kritiker warnen, dass Vorhersagemodelle wie dieses fehleranfällig sind und insbesondere ethnische Minderheiten diskriminieren könnten. Zudem wird befürchtet, dass die Persönlichkeitsrechte der Betroffenen verletzt werden.
Forderungen und rechtliche Hürden
Statewatch fordert einen sofortigen Stopp des Projekts, da es die Gefahr birgt, diskriminierende Praktiken zu automatisieren. Das britische Justizministerium hingegen betont, dass es sich lediglich um ein Forschungsprojekt handelt, das sich auf verurteilte Täter konzentriert. Doch auch auf europäischer Ebene könnte ein solches System auf erhebliche rechtliche Hürden stoßen. Der EU AI Act stellt strenge Anforderungen an KI-Anwendungen, insbesondere im Strafvollzug, und könnte somit dem Vorhaben in Großbritannien einen Strich durch die Rechnung machen.
Fortlaufende Diskussion
Die Diskussion um den Einsatz solcher Technologien ist damit eröffnet und wird sicherlich noch für Gesprächsstoff sorgen.
Quellen
- Quelle: britisches Justizministerium
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
