Britische Aufseher machen Firmen für persönliche KI‑Agenten verantwortlich.
In Kürze
- Haftung bei Fehlverhalten
- Aussage von CMA, FCA, ICO, Ofcom
- Bestehende Gesetze gelten, bis 10% Umsatzstrafe
Vier britische Aufsichtsbehörden machen Schluss mit der Ausrede: „Das AI hat es getan“ zählt nicht. Wenn ein persönlicher KI‑Agent im Auftrag eines Unternehmens Fehler macht — etwa falsch einkauft, Daten weitergibt oder irreführende Empfehlungen gibt — haftet das Unternehmen, das den Agenten einsetzt.
Die Quelle und wer dahintersteht
Die Klarstellung kommt vom Digital Regulation Cooperation Forum (30. Oktober). Das ist ein Zusammenschluss von vier Behörden:
- Competition and Markets Authority (CMA, Wettbewerbsbehörde)
- Financial Conduct Authority (FCA, Finanzaufsicht)
- Information Commissioner’s Office (ICO, Datenschutzaufsicht)
- Ofcom (Medienregulierer)
Was sind „persönliche KI‑Agenten“?
Damit meinen die Aufsichtsbehörden Programme, die für Nutzerinnen und Nutzer Aufgaben ausführen — nicht nur Fragen beantworten.
- Termine und Reisen buchen
- Preise und Produkte suchen
- E‑Mails verschicken
- Ausgaben verwalten
- Einkäufe tätigen
Als aktuelles Beispiel nennen Kritiker häufig OpenAIs „Dot“, den Agenten in ChatGPT.
Welche Regeln gelten — und wer haftet?
Die Behörden betonen, dass bestehende Gesetze bereits gelten:
- Wettbewerbs‑, Verbraucher‑ und Datenschutzrecht
- Vorschriften zu Online‑Sicherheit
- Regeln zu Finanzdienstleistungen und Zahlungen
- Cyber‑Security‑Vorschriften
Unternehmen bleiben verantwortlich für Handlungen ihrer eingesetzten Agenten, selbst wenn diese „autonom“ handeln. Sehen die Behörden einen möglichen Rechtsverstoß, werden sie ihre Befugnisse nutzen.
Genannte Risiken
- betrügerische Aktionen und Scams
- unerwartete Weitergabe persönlicher Daten
- irreführende oder schädliche Empfehlungen und Entscheidungen durch die Agenten
Gibt es konkrete Folgen?
Die Erklärung schafft keine neuen Regeln, macht die Warnung aber praktisch wirkmächtig: Seit April 2025 kann die CMA Verbraucherrechtsverstöße selbst feststellen — ohne Gerichtsverfahren — und Unternehmen Bußgelder von bis zu 10 % des weltweiten Umsatzes auferlegen. Das erhöht den Druck auf Firmen, Kontroll‑ und Prüfmechanismen für ihre Agenten einzurichten.
Warum das jetzt relevant ist
Während einige große US‑Händler und Banken bereits externe Einkaufs‑Agenten blockieren, richtet sich die britische Mitteilung besonders an Firmen, die solche Agenten für ihre Kundschaft einsetzen: Ihr tragt die Verantwortung für deren Handeln. Für dich als Nutzer bedeutet das mehr Klarheit darüber, an wen du dich bei Problemen wenden kannst — noch bevor spezielle Regelungen nur für Agenten eingeführt werden.
Quellen
- Quelle: Digital Regulation Cooperation Forum (CMA / FCA / ICO / Ofcom)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
