Konflikt um Claude: Anthropic setzt Grenzen bei Überwachung und Waffen; Pentagon fordert Freiheiten, Präsident ordnet Stopp an.
In Kürze
- Anthropic verbietet Claude für Massenüberwachung und vollautonome Waffen
- Pentagon verlangt Einsatzfreiheit, verweigert schriftliche Zusicherungen
- Trump ordnet Nutzenstopp an; DPA-Zwang und Klage wahrscheinlich
Ein Streit um Kontrolle, Haftung und Einsatzregeln: Das KI‑Unternehmen Anthropic und das US‑Verteidigungsministerium liegen offen im Clinch — Dreh‑ und Angelpunkt ist Claude, Anthropics Sprachmodell, und die Frage, wofür das Pentagon es nutzen darf.
Worum es konkret geht
Anthropic‑CEO Dario Amodei zieht klare rote Linien:
- Claude darf nicht für massenhafte Inlandsüberwachung eingesetzt werden — also kein automatisches, großflächiges Tracking von Bürgerinnen und Bürgern
- Claude darf nicht für vollautonome Waffen verwendet werden, die tödliche Entscheidungen ohne menschliche Kontrolle treffen
Zugleich sagt Amodei, dass Claude bereits im Pentagon für folgende Zwecke verwendet wird:
- Geheimdienstanalysen
- Simulationen
- Einsatzplanung
- Cyberoperationen
Warum Anthropic Bedenken hat
Amodei argumentiert, heutige KI‑Modelle seien nicht zuverlässig genug, um Menschen aus kritischen Entscheidungen vollständig zu entfernen. Anthropic bot dem Pentagon gemeinsame Forschung an, um die Zuverlässigkeit zu verbessern; dieses Angebot sei abgelehnt worden, sagt das Unternehmen.
Die Reaktion des Verteidigungsministeriums
Das Pentagon sieht das anders: Technologiechef Emil Michael erklärte öffentlich, bestehende Gesetze und Pentagon‑Regeln reichten aus. Michael weigerte sich, schriftliche Zusicherungen zu geben, dass Claude nicht für Massenüberwachung oder vollautonome Waffen genutzt werde, und warf Amodei in scharfen Worten vor, ein „Lügner“ mit „Gott‑Komplex“ zu sein.
Parallel bot das Pentagon gewisse Zugeständnisse an — etwa:
- die schriftliche Anerkennung bestimmter Regeln
- einen Sitz für Anthropic im Militär‑KI‑Ethikrat
Der Präsident schaltet sich ein
Nachdem Fristen ergebnislos verstrichen, griff Präsident Donald Trump via Post auf Truth Social ein: Er ordnete an, alle Bundesbehörden sollen die Nutzung von Anthropics Technologie sofort einstellen. Trump beschuldigt das Unternehmen, Bedingungen aufzuzwingen, bezeichnete es als „radikal links/woke“ und drohte mit der „vollen Macht der Präsidentschaft“ sowie zivil‑ und strafrechtlichen Schritten. Den Behörden wurde eine sechsmonatige Übergangsfrist eingeräumt.
Wie weit kann der Staat zwingen?
Rechtswissenschaftler Alan Z. Rozenshtein beleuchtet das mögliche Instrumentarium: Der Defense Production Act (DPA) erlaubt der Regierung in besonderen Sicherheitslagen, Firmen zu bestimmten Lieferungen zu verpflichten. Zwei Szenarien wären denkbar:
- Die Regierung könnte verlangen, das bereits existierende Modell ohne vertragliche Einschränkungen zu nutzen — das wäre vergleichsweise leichter durchsetzbar.
- Deutlich schwieriger wäre es, die Firma zu zwingen, das Modell neu zu trainieren oder Sicherheitsbeschränkungen zu entfernen; das würde faktisch ein neues Produkt schaffen und könnte verfassungsrechtliche Probleme nach sich ziehen.
Rozenshtein schätzt, dass Anthropic wohl zunächst gehorchen und anschließend klagen würde.
Weitere Punkte im Streit
- Anthropic betont, in der Vergangenheit hunderte Millionen Dollar Umsatz vermieden zu haben, um strengere Zugänge für chinesische Firmen aufrechtzuerhalten, und unterstützt Exportkontrollen für Chips — ein Vorgehen, das zugleich die Wettbewerbssituation beeinflussen kann.
- Sollte das Pentagon Claude aus seinen Systemen entfernen wollen, verspricht Anthropic einen geordneten Übergang zu anderen Anbietern.
Worum es hier letztlich geht
Im Kern dreht sich der Konflikt um Vertrauen, Haftung und Kontrolle: Das Militär will sich Handlungsspielraum bei der Abwehr von Bedrohungen sichern, Anthropic möchte Grenzen setzen, um Missbrauch durch Überwachung und autonome Waffen zu verhindern. Rechtlich bleibt offen, wie weit die Regierung Firmen wie Anthropic zwingen kann — das Szenario dürfte vor Gericht ausgefochten werden.
Quellen
- Quelle: Anthropic / Pentagon / Donald Trump
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
