Autonome KI‑Agenten: Wer trägt die Haftung?

• Unklare Haftung
• Mehrere Rechtsbereiche betroffen
• EU‑AI Act fordert Aufsicht

KI‑Agenten treffen Entscheidungen — und das wirft neue rechtliche Fragen auf

KI‑Agenten sind Programme, die mehr tun als nur Vorschläge liefern: Sie setzen selbst Ziele, wählen Werkzeuge aus und treffen Entscheidungen. Schon heute kommen solche Agenten in der Softwareentwicklung zum Einsatz — etwa beim Analysieren von Fehlermeldungen, beim Starten von CI/CD‑Pipelines oder sogar beim automatischen Anpassen von Repositories. Diese Autonomie bringt praktische Vorteile, zugleich aber auch rechtliche Unsicherheiten.

Unklare Haftungsfrage

Wer haftet, wenn ein autonomer Agent Schaden anrichtet? Betreiber, Entwickler oder der Anbieter der Software — die Antwort ist rechtlich oft offen. Es fehlt an einer einheitlichen juristischen Definition von „KI‑Agent“, deshalb entscheidet meist der konkrete Einzelfall darüber, wer Verantwortung trägt.

Mehrere Regelwerke greifen

Beim Einsatz von Agenten überschneiden sich verschiedene Rechtsbereiche: Neben dem geplanten EU‑AI Act spielen Urheberrecht, Datenschutz (DSGVO) und Produkthaftungsregeln eine Rolle. Je nach Branche kommen zusätzliche Vorgaben hinzu — zum Beispiel spezifische Sicherheitsanforderungen in Medizin oder Automotive.

Was der EU‑AI Act verlangt

Die EU‑Regel folgt einem risikobasierten Ansatz. Für Agenten, deren Verhalten sich im Betrieb verändern kann, fordert der Entwurf unter anderem:

• Risikoklassifizierung,
• kontinuierliche Überwachung des Systems,
• und wirksame menschliche Aufsicht, da sich das Gefährdungspotenzial während des Betriebs erhöhen kann.

Rollen können sich ändern

Ein Betreiber, der einen Agenten modifiziert, umbenennt oder anders einsetzt, kann rechtlich die Rolle des „Anbieters“ übernehmen — mit zusätzlichen Pflichten. Solche Rollenwechsel sollten bei der Planung bedacht werden.

Praktische Anforderungen für einen rechtssicheren Einsatz

Zu einem rechtlich tragfähigen Betrieb gehören:

• klare Anwendungsfälle,
• ein durchdachtes Rollen‑ und Rechtekonzept,
• Notfall‑ und Abschaltmechanismen.

Außerdem müssen die relevanten Vorgaben beachtet werden:

• AI Act
• DSGVO
• Produkthaftung
• gegebenenfalls branchenspezifische Regeln

Grenzen der Regulierung

Der risikobasierte Ansatz des AI Act stößt an Grenzen, wenn Agenten sehr dynamisch agieren und ihr Risikoprofil im Lauf der Zeit wächst. Ein Beispiel: Ein ursprünglich als Entwicklungsassistent geplantes Tool könnte durch automatische Auswahl von Bibliotheken oder Änderungen an Build‑Konfigurationen in sicherheitsrelevante Abläufe eingreifen.

Was das für dich heißt

Wenn du KI‑Agenten einsetzen willst, gehört zur technischen Planung frühzeitig die rechtliche Perspektive: Verantwortlichkeiten, Überwachung und Notfallpläne sollten von Anfang an mitgedacht werden. Eine pauschale Rechtsauskunft gibt es nicht — die juristische Bewertung bleibt einzelfallabhängig.

Quellen

• Quelle: European Commission / AI Act
• Der ursprüngliche Artikel wurde hier veröffentlicht
• Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.