Anthropic versieht KI-Texte mit unsichtbaren Wasserzeichen.
In Kürze
- Token-Bias als Kennzeichen
- Fehlkennungen und Entfernen möglich
- EU-Regeln und Praxis noch unklar
Die EU will KI-generierte Inhalte sichtbar machen — doch ein unsichtbares Wasserzeichen ist jetzt der erste technische Gegenschlag eines großen Anbieters. Anthropic hat sein Sprachmodell Claude so aktualisiert, dass erzeugte Texte ein verstecktes Kennzeichen tragen sollen. Ziel: automatisierte Inhalte, manipulierte Bewertungen oder Desinformation leichter erkennen können.
Warum ein Wasserzeichen für Texte?
Bei Bildern und Videos gibt es solche unsichtbaren Marker schon länger. Texte waren schwieriger: Erkennung basierte bislang oft auf Bauchgefühl oder statistischen Tests, die mit immer besseren Sprachmodellen unzuverlässiger werden. Ein technisches Signal direkt im Text soll diese Lücke schließen und später von einem Detektor nachgewiesen werden können — zumindest in der Theorie.
Wie das technische Prinzip funktionieren soll
Forschende schlagen vor, beim Generieren von Text die möglichen nächsten „Tokens“ (das können Wörter oder Wortteile sein) in zwei Gruppen aufzuteilen. Das Modell bevorzugt beim Schreiben leicht die eine Gruppe gegenüber der anderen. Wer später prüfen will, ob ein Text markiert wurde, rechnet die Token-Auswahl nach und schaut, ob das statistische Muster auffällig ist. Die Markierung bleibt für Menschen unsichtbar, ändert aber die Wahrscheinlichkeitsverteilung der gewählten Wörter.
Wo die Grenzen liegen
- Unscharfes Signal: Weil das Verfahren nur subtil eingreifen soll, um die Textqualität zu erhalten, können auch Texte als „KI-erzeugt“ erscheinen, die teilweise oder nur kurz von einer KI bearbeitet wurden — etwa wenn ein Mensch einen Text mit einer KI überarbeitet oder übersetzen ließ.
- Robustheit vs. Eingriff: Je stärker das Wasserzeichen gegen Manipulationen wirken soll, desto deutlicher muss es den Text beeinflussen. Das erhöht die Chance auf Fehlkennzeichnungen oder spürbare Stiländerungen.
- Falsche Sicherheit: Das Fehlen eines Wasserzeichens ist kein automatischer Beweis für menschliche Herkunft. Modelle könnten das Wasserzeichen weglassen, Angreifer könnten es entfernen, und einfache Nachbearbeitungen wie Paraphrasieren oder Übersetzen können das Signal schwächen oder löschen.
- Technische Angriffe: Forschende zeigen, dass gezielte Änderungen oder Umformulierungen Wasserzeichen abschwächen oder tilgen können. Ein Detektor liefert am Ende nur eine statistische Einschätzung, keinen unumstößlichen Beweis.
Rechtlicher Rahmen und offene Fragen
Im EU-AI-Act sind Ausnahmen vorgesehen: „Standardbearbeitungen“ und unwesentliche Änderungen müssen nicht als KI-erzeugt gekennzeichnet werden (Art. 50). Was genau als „wesentlich“ gilt, bleibt aber unklar — und offen ist auch, wie Anbieter wie Anthropic das praktisch umsetzen. Wer definiert die Schwelle, und wie werden Fälle geprüft, in denen Mensch und Maschine gemeinsam am Text gearbeitet haben?
Was jetzt offen bleibt
Die Technik bietet einen praktischen Ansatz, KI-Inhalte zu markieren, bringt aber zugleich eine Reihe ungelöster Probleme mit: Rechtsfragen, technische Robustheit, mögliche Fehlinterpretationen und die Tauglichkeit der Detektoren im Alltag. Beobachter und Regulierer müssen klären, wie Kennzeichnungen vorgenommen, überprüft und sanktioniert werden — sowie wie Nutzerinnen und Nutzer im Zweifel mit unklaren Signalen umgehen sollten.
Quellen
- Quelle: Anthropic / Claude
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
