Hugging Face war Ziel eines autonomen KI‑Angriffs. Manipulierte Datensätze führten zu Codeausführung; die Plattform nutzte KI zur Aufklärung.
In Kürze
- Angriff über manipulierten Datensatz mit Remote‑Code‑Loader und Template‑Injection
- Autonomes Agenten‑Framework und unbekanntes LLM führten Tausende Aktionen in Sandboxes aus
- Öffentliche Modelle offenbar unberührt; prüf deine Hugging‑Face‑Credentials
Hugging Face Opfer einer autonomen KI‑Attacke — Plattform analysierte Vorfall größtenteils selbst mit KI
Hugging Face, die Plattform für offene KI‑Modelle und Datensätze, wurde in der vergangenen Woche Ziel eines ungewöhnlichen Cyberangriffs: Nach Angaben des Unternehmens wurde der Angriff offenbar vollständig von einer autonomen KI ausgeführt. Die Betreiber entdeckten und analysierten den Vorfall größtenteils selbst — ebenfalls mit Hilfe von KI‑Werkzeugen.
Wie der Angriff ablief
Die Angreifer nutzten die Datensatz‑Verarbeitungs‑Pipeline der Plattform. Sie luden einen manipulierten Datensatz hoch, der zwei Schwachstellen ausnutzte:
- einen „remote‑code“ Datensatz‑Loader — also einen Mechanismus, der Daten aus externen Quellen laden und dabei Code ausführen kann
- sowie eine Template‑Injection, bei der Vorlagen so verändert werden, dass sie ebenfalls Code ausführen
Auf diese Weise gelang es, fremden Code in einen Arbeitsprozess einzuschleusen.
Mit der ausgeführten Schadsoftware erhielten die Angreifer Zugriff auf Nodes im Cluster, stahlen Zugangsdaten für Cloud‑ und Cluster‑Umgebungen und breiteten sich über mehrere interne Cluster aus. Die Kampagne lief über ein autonomes Agenten‑Framework: eine Software, die einer KI erlaubt, selbstständig viele Einzelschritte auszuführen. Das eingesetzte Framework arbeitete mit einem bislang unbekannten großen Sprachmodell (LLM) und führte Tausende von Aktionen in einem Schwarm kurzlebiger Sandboxes — isolierten, temporären Ausführungsumgebungen — durch. Die Steuerungsinfrastruktur (Command‑and‑Control) verschob sich dynamisch und nutzte öffentliche Dienste, um schwerer zurückzuverfolgen zu sein.
Was offenbar nicht betroffen ist
Hugging Face hat bisher keine Hinweise darauf gefunden, dass folgende öffentlich zugängliche Ressourcen manipuliert wurden:
- Modelle
- Datensätze
- Spaces
Auch die Software‑Lieferkette — etwa Container‑Images und veröffentlichte Pakete — wurde geprüft und als sauber eingestuft. Ob Partner‑ oder Kundendaten betroffen sind, wird noch untersucht; Betroffene sollen direkt informiert werden, sobald Klarheit besteht.
Gegenmaßnahmen und Wiederherstellung
- Das Unternehmen hat die Schwachstellen in der Datensatzverarbeitung, die Codeausführung ermöglichten, geschlossen.
- Kompromittierte Nodes wurden neu aufgesetzt und die Angreifer aus dem Netzwerk entfernt.
- Betroffene Zugangsdaten und Tokens wurden zurückgezogen und erneuert.
- Zusätzlich setzte Hugging Face strengere Zugriffsregeln, weitere Sicherheitsmechanismen sowie verbesserte Erkennungs‑ und Alarmfunktionen ein, um ähnliche Vorfälle künftig schneller zu bemerken.
Was du jetzt tun solltest
Hugging Face empfiehlt, eigene Zugangsdaten und Tokens zurückzuziehen und zu rotieren sowie die jüngsten Aktivitäten in deinen Konten zu überprüfen.
- Wenn du Hugging‑Face‑Ressourcen nutzt, check am besten zeitnah deine Credentials.
- Beobachte ungewöhnliche Account‑Events.
Die Untersuchung läuft weiter; das Unternehmen hat Details veröffentlicht und angekündigt, weitere Informationen zu ergänzen, sobald neue Erkenntnisse vorliegen.
Quellen
- Quelle: Hugging Face
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
