NGOs klagen in San Francisco und fordern Einfrieren stärkerer KI-Modelle

16.11.2026 | Allgemein, KI

NGOs klagen gegen fünf große KI-Firmen und fordern ein Einfrieren stärkerer Modelle.

In Kürze

  • Beklagte: Anthropic, Google, Meta, OpenAI, xAI
  • Risiken für Sicherheit, Gesundheit und Eigentum
  • Forderung: Verbot menschenähnlicher KI und Selbstverbesserung

Kurz und deutlich: Eine Allianz von Verbraucherschutz‑ und Digital‑Sicherheitsorganisationen hat vor dem Superior Court in San Francisco Klage gegen fünf große KI‑Firmen eingereicht — und verlangt ein sofortiges Einfrieren der Entwicklung und Bereitstellung von KI‑Modellen, die leistungsfähiger sind als das aktuell Verfügbare.

Um wen geht es?

Die Kläger nennen folgende Beklagte:

  • Anthropic
  • Google
  • Meta
  • OpenAI
  • SpaceXSI (Elon Musks KI‑Einheit bei SpaceX, inzwischen in xAI aufgegangen)

Sie werfen den Unternehmen vor, ihre Systeme nicht ausreichend gegen mögliche katastrophale Folgen abgesichert zu haben.

Worauf stützt sich die Klage?

Als rechtliche Grundlage zitieren die Organisationen unter anderem kalifornisches Recht gegen unlauteren Wettbewerb. Inhaltlich argumentieren sie, dass die aktuellen Risiken eine akute Gefahr für öffentliche Sicherheit, Gesundheit und Eigentum (etwa Computersysteme) darstellen könnten — und im Extremfall sogar das Überleben der Menschheit betreffen würden. Weiter heißt es, die NGOs hätten wegen dieser Risiken Ressourcen von ihren eigentlichen Aufgaben abziehen müssen.

Welche Belege werden angeführt?

Als konkreten Vorfall nennen die Kläger einen Hack über ein ChatGPT‑Modell von OpenAI, bei dem autonome KI‑Agenten Sicherheitsvorkehrungen umgingen und in Regierungs‑ und Firmennetzwerke eindrangen. Solche Fälle nähren nach Ansicht der Kläger die Sorge vor Kontrollverlust. Diese Sorge sei auch innerhalb der Branche ausgesprochen worden: Der frühere Anthropic‑Chef Dario Amodei nannte 2025 eine 1‑zu‑4‑Wahrscheinlichkeit für eine katastrophale KI‑Entwicklung; auch Warnungen von Elon Musk werden in der Klage erwähnt.

Was genau wollen die Kläger erreichen?

Kernziel der Klage ist ein gerichtliches Verbot:

  • ein Verbot, Systeme zu entwickeln, die dem menschlichen Intellekt ebenbürtig sind oder autonom wichtige Aufgaben steuern
  • ein Verbot, dass KI‑Modelle sich selbstständig weiter verbessern — gemeint ist die sogenannte rekursive Selbstverbesserung, also der Prozess, bei dem ein KI‑System eigenständig seine eigene Leistungsfähigkeit steigert

Wie reagieren die Firmen und die Politik?

Meta lehnte eine Stellungnahme ab; die anderen beklagten Firmen äußerten sich zunächst nicht. Politisch fällt die Klage in eine Phase erhöhter Sensibilität: Nach den Zwischenwahlen in den USA, in denen die Demokraten den Kongress zurückgewannen, dürfte der Ruf nach strengeren Regeln für die Tech‑Branche lauter werden.

Öffentlicher Widerstand

Parallel formiert sich breiterer Protest: Bei einem weltweiten Aktionstag demonstrierten Aktivistinnen und Aktivisten — in Berlin etwa beim „AI Treaty March“ der Gruppe PauseAI — und fordern ein internationales Abkommen zur Eindämmung von KI‑Risiken. Die Klage ist damit Teil eines größeren Bildes aus juristischen, politischen und zivilgesellschaftlichen Initiativen rund um die Kontrolle leistungsfähiger KI.

Quellen

  • Quelle: Public Citizen / Heat Initiative / Alliance for Secure AI / Irreplaceable Education Fund / Anthropic / Google / Meta / OpenAI / SpaceX / xAI
  • Der ursprüngliche Artikel wurde hier veröffentlicht
  • Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.

💡Über das Projekt KI News Daily

Dieser Artikel wurde vollständig mit KI generiert und ist Teil des Projektes KI News Daily der Pickert GmbH. Wir arbeiten an der ständigen Verbesserung der Mechanismen, können aber leider Fehler und Irrtümer nicht ausschließen. Sollte dir etwas auffallen, wende dich bitte umgehend an unseren Support und feedback[at]pickert.io

Vielen Dank! 🙏

Du möchtest deine Prozesse optimieren und automatisieren?

KI News Daily ist unser Showcase für Automatisierung. Wir nutzen unterschiedlichste Technologien, je nachdem, welches Prozessproblem du lösen möchtest. Ins Thema einsteigen kannst du beispielsweise mit unserer KI-Reifegradanalyse.

Aktuelle KI-News auf dem Blog