Anthropic meldet, dass sein Modell Claude Mythos Schwachstellen in HAWK und einer verkürzten AES‑Variante identifiziert hat.
In Kürze
- Mythos fand in rund 60 Stunden neue Symmetrie‑Attacke gegen HAWK
- Möbius Bridge verbessert Angriffe auf 7‑Runden‑AES um 200–800×
- Kein direkter Praxisangriff; Befunde koordiniert offengelegt
Anthropic berichtet, dass sein KI‑Modell Claude Mythos Preview Schwachstellen in zwei kryptografischen Konstrukten identifiziert hat: dem Post‑Quantum‑Signaturkandidaten HAWK und einer auf sieben von zehn Runden reduzierten Variante des verbreiteten Verschlüsselungsstandards AES. Wichtiger Kontext: Laut Anthropic stellt das keinen sofortigen Angriff auf heute eingesetzte Systeme dar — HAWK ist noch ein Prüf‑Kandidat im NIST‑Verfahren, und der AES‑Angriff betrifft nur die verkürzte Testvariante, nicht die voll verwendete Version.
Wie die KI arbeitete
Mythos lief in einem Multi‑Agenten‑System, in dem mehrere KI‑Agenten weitgehend eigenständig Ideen ausprobierten, Hypothesen testeten und Resultate kombinierten. Menschen steuerten das Projekt, lieferten vereinfachte Prompts und überprüften am Ende die Resultate.
- Für jede der beiden Untersuchungen nennt Anthropic API‑Kosten von rund 100.000 US‑Dollar.
- Beim AES‑Durchlauf verarbeitete Mythos insgesamt etwa eine Milliarde Tokens.
HAWK: Lattice‑Symmetrie als Ansatzpunkt
Im Fall von HAWK fand Mythos innerhalb von etwa 60 Stunden einen verbesserten Angriff. Das Modell nutzte eine zuvor nicht erkannte Symmetrie in dem Gittermodell, auf dem HAWKs Sicherheit beruht. Spannend ist, dass ein Agent die Idee zunächst verwerfen wollte, während ein anderer einen Weg fand, sie auszunutzen. Der beteiligte Forscher war laut Anthropic kein Spezialist für gitterbasierte Kryptografie und übernahm primär die Projektkoordination.
AES (reduzierte Variante): „Möbius Bridge“ verbessert Fingerprinting‑Angriffe
Gegen die auf sieben Runden reduzierte AES‑Variante entwickelte Mythos nahezu autonom eine neue Fingerprinting‑Methode, die Anthropic „Möbius Bridge“ nennt. Diese Technik eliminiert einen Rate‑Schritt, den Angreifer üblicherweise durchführen müssen, und verbessert damit die bisher besten bekannten Angriffe auf diese reduzierte AES‑Version um den Faktor 200 bis 800.
Zuerst weigerte sich das Modell, das Problem anzugehen; nach einer gezielten Ermutigung durch einen Forscher („suche wirklich neuartige Ideen“) arbeitete es deutlich kreativer. Über drei Tage erzeugte Mythos mehrere hundert Millionen Tokens; insgesamt gibt Anthropic für diesen Lauf etwa eine Milliarde Tokens und rund 100.000 Dollar an API‑Gebühren an. Menschliche Prüfer, die laut Anthropic keine Kryptografie‑Experten waren, benötigten danach mehrere Hundert Stunden, um die Ergebnisse zu verifizieren.
Transparenz, Koordination und Tools
- Anthropic hat die Befunde vorab an US‑Regierungsstellen und Industriepartner weitergegeben.
- Die Schwachstelle in HAWK wurde koordiniert mit den Autoren des Verfahrens offengelegt.
- Anthropic hat gemeinsam mit Forschern der ETH Zürich, der Universität Tel Aviv und der Universität Haifa den Benchmark „CryptanalysisBench“ entwickelt, mit dem sich die kryptanalytischen Fähigkeiten von Sprachmodellen systematisch testen lassen.
- Mythos Preview selbst bleibt für die Öffentlichkeit nicht zugänglich.
Quellen
- Quelle: Anthropic
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
