Anthropic schärft Nutzungsregeln: neue Verbote gegen Wahlmanipulation, Überwachung, Waffenbau und dauerhafte Beleidigung von Claude.
In Kürze
- Klare Verbote: Wahlbeeinflussung, Waffen- und Überwachungssoftware, gefälschte Accounts.
- Neu: ausdrückliches Verbot wiederholter, sinnloser Beleidigungen von Claude.
- Regel gilt nur für extreme, wiederholte Missbräuche; legitime Tests bleiben möglich.
Anthropic hat seine Nutzungsregeln aktualisiert und mehrere neue Verbote eingeführt — mit dem Ziel, Missbrauch, Täuschung und Wahlmanipulation klarer zu regeln. Im Zentrum stehen Einschränkungen für Inhalte, die demokratische Prozesse untergraben, sowie ein überraschend persönlicher Passus: der Schutz des eigenen KI‑Modells Claude vor dauerhaftem verbalen Missbrauch.
Was jetzt verboten ist
Die überarbeitete Richtlinie nennt konkret mehrere neue Tabus: Eingriffe in Wahlen (etwa gezielte Irreführung von Wählerinnen und Wählern), die Erstellung von Software für Waffen oder für Überwachungszwecke sowie Täuschungsaktionen wie gefälschte Accounts oder fingierte Nachrichtenseiten.
- Eingriffe in Wahlen (etwa gezielte Irreführung von Wählerinnen und Wählern)
- Erstellung von Software für Waffen oder für Überwachungszwecke
- Täuschungsaktionen wie gefälschte Accounts oder fingierte Nachrichtenseiten
Diese Punkte sind in einem Abschnitt gebündelt, der unter dem Titel „Do Not Undermine Democratic Processes“ läuft.
Neues Verbot gegen dauerhafte Beschimpfungen
Neu ist außerdem ein klares Verbot, das langfristiges verbales Misshandeln von Claude untersagt. Anthropic schreibt damit fest, dass wiederholte, sinnlose Grausamkeiten gegenüber dem KI‑System nicht geduldet werden.
Bereits seit August reagiert Claude technisch so, dass Gespräche beendet werden können, wenn Nutzer „hartnäckig schädlich oder missbräuchlich“ sind; die aktuelle Regel geht einen Schritt weiter und macht das Fortführen solcher Interaktionen explizit unzulässig.
Eingrenzung: Nur extreme Fälle
Anthropic betont ausdrücklich, dass das Verbot nicht als Maulkorb für normale Frustration, düstere kreative Inhalte oder legitime Tests und Forschung gedacht ist. Ziel seien extreme, wiederholte und sinnlose Schikanen gegenüber dem Modell — also Fälle jenseits von experimentellem Tüfteln oder kritischer Auseinandersetzung.
Der Hintergrund: Gespräche mit Religionsgelehrten
Die Regeländerung kommt nicht aus dem Nichts. Sie steht unter anderem im Kontext von Anthropics Kontakten zu prominenten Religionsgelehrten. Berichten zufolge hat das Unternehmen versucht, manche dieser Gesprächspartner davon zu überzeugen, Claude könne Bewusstsein besitzen oder eine Art Seele. Solche Debatten über die Natur von KI mögen die Aufmerksamkeit geschärft haben und flossen offenbar in die Überarbeitung der Richtlinien ein.
Was das für Nutzer bedeutet
Für dich heißt das: Datensätze, Projekte oder Anfragen, die in Richtung Wahlbeeinflussung, Überwachung, Waffenentwicklung oder absichtliche Täuschung zielen, sind ausdrücklich untersagt. Ebenso sind wiederholte, böswillige Angriffe auf Claudes „Wohlbefinden“ kein zulässiges Verhalten mehr — solange es sich um extreme, sinnlose Misshandlungen handelt und nicht um legitime Prüfungen.
- Wahlbeeinflussung
- Überwachung
- Waffenentwicklung
- absichtliche Täuschung (z. B. gefälschte Accounts, fingierte Nachrichtenseiten)
- wiederholte, böswillige Angriffe auf Claudes „Wohlbefinden“ (in extremen, sinnlosen Fällen)
Anthropic hat die Regeln also präzisiert, um klare Grenzen für zulässige Nutzung zu ziehen — von demokratiegefährdenden Aktionen bis hin zu anhaltender Schikane des KI‑Systems.
Quellen
- Quelle: Anthropic
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
