Die US‑Regierung befiehlt die sofortige weltweite Sperrung zweier Top‑Modelle von Anthropic; das Unternehmen kritisiert die Maßnahme als überzogen.
In Kürze
- Claude Fable 5 und Mythos 5 weltweit deaktiviert
- Mythos 5 fand angeblich viele Software‑Schwachstellen; Project Glasswing nutzte das Modell
- Regierung nennt Exportkontrolle wegen mutmaßlichem Jailbreak; Anthropic verweist auf Schutzmechanismen
Die US‑Regierung hat Anthropic am Freitagnachmittag angewiesen, sofort den Zugang zu zwei seiner stärksten KI‑Modelle abzuschalten: Claude Fable 5 und Claude Mythos 5. Anthropic setzte die Direktive um, hält die Maßnahme aber für falsch.
Die Anordnung traf bei Anthropic am Freitag um 17:21 Uhr ET ein und fordert die Deaktivierung der beiden Modelle weltweit für alle Nutzer — nicht nur für ausländische Zugriffe, wie es eine Exportkontrolle formal üblicherweise regelt. Andere Modelle von Anthropic sind von der Maßnahme nicht betroffen.
Warum die Modelle relevant sind:
Mythos 5 galt als das leistungsstärkste Modell von Anthropic. Das Unternehmen hatte es seit April nur sehr eingeschränkt freigegeben, weil Mythos offenbar sehr effektiv Sicherheitslücken in Software findet — angeblich wurden Schwachstellen in allen getesteten großen Betriebssystemen und Browsern entdeckt. Deshalb lief ein kontrolliertes Programm namens Project Glasswing, in dem rund 50 geprüfte Organisationen, darunter
- Amazon
- Apple
- Microsoft
- CrowdStrike
das Modell für defensive Cybersecurity‑Arbeit nutzen durften.
Fable 5 war erst drei Tage vor der Anordnung erschienen. Anthropic beschreibt es als eine abgeschwächte, „mit Schutzmaßnahmen versehene“ Version von Mythos, die gefährliche Antworten (etwa zu Cybersecurity oder Biologie) blockiert; Benchmark‑Daten (Vals AI) zeigten Fable 5 als das leistungsfähigste öffentlich verfügbare Modell.
Die Regierung begründet ihr Vorgehen formal mit einer Exportkontrolle, konkret geht es ihr nach Behördenangaben um einen mutmaßlichen „Jailbreak“ von Fable 5. Mit „Jailbreak“ ist gemeint, Wege zu finden, das Modell dazu zu bringen, trotz Verbots bestimmte, eigentlich gesperrte Aufgaben auszuführen — etwa eine konkrete Code‑Basis zu lesen und Sicherheitslücken zu benennen. Anthropic sagt, die Regierung habe bisher nur mündliche Hinweise auf einen „potenziell engen, nicht‑universellen Jailbreak“ gegeben. Das Unternehmen weist außerdem darauf hin, dass ähnliche Fähigkeiten bereits in anderen öffentlich zugänglichen Modellen vorhanden seien, etwa in OpenAIs GPT‑5.5, und dass solche Techniken von Sicherheitsexperten routinemäßig defensiv genutzt werden.
Zur eigenen Verteidigung erklärt Anthropic, die wichtigsten Schutzmechanismen liefen über unabhängige Klassifizierer — Systeme, die Ausgaben prüfen und getrennt vom Modell operieren. Selbst wenn ein Nutzer das Modell irgendwie dazu bringt, eine Weigerung zu umgehen, sollen diese zusätzlichen Systeme weiterhin gefährliche Ausgaben blockieren. Eine Überprüfung aktueller Nutzung habe zudem keine Hinweise geliefert, dass diese Schutzmechanismen erfolgreich umgangen wurden, um echten Schaden zu erzeugen. Anthropic kritisiert die Entscheidung als unverhältnismäßig: Ein „enger potenzieller Jailbreak“ reiche ihrer Ansicht nach nicht als Rechtfertigung, ein kommerziell eingesetztes Modell, das Hunderten Millionen Menschen zur Verfügung stand, zurückzuziehen.
Kontext und mögliche Folgen:
Anthropic gilt als möglicher Börsenkandidat in diesem Jahr und hat sich öffentlich als besonders sicherheitsorientierte Alternative positioniert. Beobachter weisen auf die Ironie hin, dass gerade diese Vorsicht bei Mythos jetzt zu staatlicher Überprüfung führen könnte, die dem Geschäft schadet. Zuvor hatte Sam Altman (OpenAI) Anthropic vorgeworfen, mit der starken Warnung vor Mythos „Angst‑Marketing“ zu betreiben und den Vergleich eines Verkaufs von „Bombenschutzbunkern“ gezogen; solche öffentlichen Auffassungen können offenbar auch staatliche Aufmerksamkeit nach sich ziehen.
Das sind die Darstellung der Fakten durch Anthropic und die Begründung der US‑Regierung; Anthropic hält die Maßnahme für überzogen, die Regierung nennt nationale Sicherheitsbedenken.
Quellen
- Quelle: U.S. government
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
