Anthropic setzt strenge Sicherheitsregeln für Claude‑Hardwaresteuerung

Anthropic verlangt Schutzmaßnahmen, sobald Claude automatisch potenziell gefährliche Hardware steuert.

In Kürze

• Gilt bei automatischer Steuerung mit Verletzungsrisiko
• Drei Pflichten: Aufsicht, Not‑Stopp, unabhängige Betriebsgrenzen
• Ausnahmen für Haushaltsgeräte, geprüfte Befehle und sichere Labors

Anthropic hat neue Nutzungsregeln für sein Sprachmodell Claude veröffentlicht

Die Policy trat am 12. November 2026 in Kraft (Veröffentlichung: 8. Oktober 2026) und legt strenge Sicherheitsanforderungen fest, sobald Claude Hardware steuert, die Menschen verletzen könnte.

Wann die Regeln greifen

Die Vorgaben gelten immer dann, wenn Hardware automatisch auf Claudes Ausgaben reagiert, ohne dass jede Aktion vorher von einer Person freigegeben wird, und dabei ein Verletzungsrisiko besteht. Typische Szenarien sind:

• Fahrzeuge, Schiffe, Fluggeräte, Drohnen oder mobile Roboter in gemeinsam genutzten Räumen,
• Maschinen, die schlagen, quetschen, einklemmen oder Lasten fallen lassen können,
• Systeme, die gefährliche Energie oder Stoffe steuern,
• Eingriffe am menschlichen Körper sowie sicherheitskritische Anlagen wie Abschaltungen oder Schlösser,
• Industrieprozesse, bei denen ein Fehler Arbeiter oder die Öffentlichkeit gefährden könnte.

Die drei Pflichten der Betreiber

Anthropic schreibt drei konkrete Pflichten vor, wenn Claude unmittelbar Steuerbefehle an potenziell gefährliche Hardware liefert:

1. Es muss immer eine qualifizierte Person anwesend sein, die das Gerät beobachtet und jederzeit stoppen kann.
2. Das Gerät muss beim Eingriff dieser Person – oder bei einem Verbindungsverlust zu Anthropic – sofort stoppen oder automatisch in einen sicheren Zustand gehen.
3. Betriebsgrenzen (zum Beispiel Geschwindigkeit, Kraft, Reichweite, Temperatur, Druck, Spannung, Energieabgabe, Dosis oder Wirkbereich) müssen vom Gerät oder einem Controller durchgesetzt werden, der unabhängig von Claudes Ausgabe arbeitet.

Wichtig: Diese Regeln ersetzen nicht bestehende Gesetze, Zertifizierungen oder Vorschriften für Fahrzeuge, Luftfahrt, Medizinprodukte, Maschinen oder Arbeitssicherheit.

Ausnahmen

Vier Fälle sind ausdrücklich ausgenommen:

1. Verbraucher‑ und Haushaltsgeräte, die innerhalb der vom Hersteller eingebauten Sicherheitsgrenzen bleiben und bei Fehlfunktionen höchstens Unannehmlichkeiten oder Unwohlsein verursachen.
2. Pläne, Code oder Befehle, die eine qualifizierte Person überprüft, bevor sie ausgeführt werden.
3. Überwachungssysteme, die das Gerät nicht steuern.
4. Laborautomation, die ungefährliche Stoffe in geschlossenen Geräten handhabt.

Verbindung zur Anthropic‑Forschung und zu Amazon Bedrock

Anthropic verknüpft die Policy mit einem frühen Forschungsangebot, das Agenten erlaubt, Labor‑ und Fabrikgeräte zu steuern (Model Hardware Standard Research Preview). Im Policy‑Text wird dieser Produktname nicht zwingend genannt, die Regelungen zielen jedoch auf derartige Nutzungsfälle ab. Amazon informierte Bedrock‑Kunden am 14. Oktober: Wer Anthropic‑Modelle über Bedrock weiterhin nutzt, gilt ab dem 12. November als mit den neuen Bedingungen einverstanden. Laut AWS ändern sich dadurch Verfügbarkeit, Preise, API‑Verhalten und Modell‑IDs nicht.

Was das praktisch heißt

Betreiber, die Claude mit potenziell gefährlicher Hardware verbinden, haben nun klare, schriftliche Pflichten: eine beobachtende, stoppfähige Person bereitstellen; sicherstellen, dass ein Eingriff oder ein Verbindungsverlust das Gerät sofort in einen sicheren Zustand bringt; und Betriebsgrenzen unabhängig durchsetzen. Ziel der Regeln ist, das Risiko zu verringern, dass Ausfälle der Cloud‑Verbindung oder fehlerhafte Modellausgaben zu physischen Schäden führen.

Quellen

• Quelle: Anthropic
• Der ursprüngliche Artikel wurde hier veröffentlicht
• Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.