US-Regierung rief Bankchefs zusammen: Sie sollen das neue Anthropic‑Modell Mythos auf Schwachstellen testen.
In Kürze
- Banken prüfen Mythos auf sensible Antworten
- Anthropic drosselt Zugang wegen Sicherheitsbedenken
- Aufseher in USA und Großbritannien beobachten die Entwicklung
US-Regierung bittet Bankchefs, neues KI-Modell auf Schwachstellen zu prüfen
US-Regierungsvertreter haben diese Woche führende Bankchefs zu einem Treffen geladen und sie laut Bloomberg dazu ermuntert, das neue KI‑Modell Mythos von Anthropic auf Sicherheitslücken zu testen. Im Mittelpunkt standen offenbar Überlegungen, technologische Risiken besser einschätzen zu können — und zwar ausgerechnet mit dem KI‑Modell, das potenziell selbst Sicherheitsfragen aufwirft.
Beteiligte Institute
Offiziell war zunächst nur JPMorgan Chase als Partner genannt. Medienberichten zufolge prüfen aber auch folgende Institute das System:
- Goldman Sachs
- Citigroup
- Bank of America
- Morgan Stanley
Die Institute sollen das Modell auf Schwachstellen testen, etwa wie es auf sensible Anfragen reagiert oder welche Informationen es preisgeben kann.
- wie es auf sensible Anfragen reagiert
- welche Informationen es preisgeben kann
Anthropic hat Mythos diese Woche vorgestellt, den Zugang aber vorerst beschränkt. Die Begründung: Mythos wurde zwar nicht speziell für IT‑Sicherheit trainiert, zeigt sich in Tests aber überraschend gut darin, Sicherheitslücken aufzuspüren — weshalb das Unternehmen vorsichtig agiert. Kritiker und Marktbeobachter sehen das unterschiedlich: Einige halten die Vorsicht für übertrieben, andere für eine kluge Kommunikationsstrategie von Anthropic.
Die Lage ist brisant, weil Anthropic gleichzeitig in einem juristischen Konflikt mit der Trump‑Regierung steckt. Das US‑Verteidigungsministerium hatte das Unternehmen als „Supply‑Chain‑Risk“ eingestuft, nachdem Verhandlungen über Einschränkungen bei Regierungseinsätzen der Modelle gescheitert waren. Diese Einstufung signalisiert Behörden Bedenken gegenüber der Rolle eines Anbieters in der Software‑ und Lieferkette.
Auch außerhalb der USA beobachten Aufseher die Entwicklung: Laut Financial Times befassen sich britische Finanzregulierer mit möglichen Risiken von Mythos und prüfen, welche Folgen ein Einsatz für Banken haben könnte.
Was bedeutet „Supply‑Chain‑Risk“ konkret?
Kurz gesagt: Es geht um das Risiko, das ein Drittanbieter für die Sicherheit und Zuverlässigkeit von Systemen darstellt. Eine solche Einstufung kann für ein KI‑Unternehmen Folgen haben wie:
- strengere Prüfungen
- Einschränkungen beim Einsatz in staatlichen Projekten
- Hemmnisse bei öffentlichen Ausschreibungen
- und natürlich erhöhte Aufmerksamkeit von Regulierern und Kunden
Für dich heißt das: Banken testen ein leistungsfähiges neues Modell, die Hersteller drosseln den Zugang — und Aufseher in den USA und Großbritannien halten die Lupe drauf. Wie weit Tests, Regulierungsdruck und rechtliche Auseinandersetzungen die Verbreitung von Mythos beeinflussen, bleibt Gegenstand laufender Beobachtung.
Quellen
- Quelle: Anthropic
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
