Google-Forscher dokumentieren: KI-Systeme identifizieren Schwachstellen, generieren Exploits und führen sie selbst aus.
In Kürze
- Framework „exploit_agent“ nutzt mehrere Sprachmodelle zur Code‑Analyse
- Vergleich von Quellcode vor/nach Updates erzeugt und startet Exploits automatisch
- GTIG stuft Vorfall als Stufe 5; Angriffe sind aktuell forensisch sichtbar
Google warnt: KI findet und nutzt Sicherheitslücken ganz ohne Menschen
Google‑Forscher haben erstmals dokumentiert, dass Angreifer mithilfe von Künstlicher Intelligenz Sicherheitslücken selbstständig finden, passende Exploits bauen und diese automatisch ausführen — ganz ohne menschliches Zutun. Die Meldung stammt von der Threat Intelligence Group (GTIG) der Google Cloud.
Was die Forscher fanden
- Auf einem offen erreichbaren Server entdeckte GTIG ein KI‑gestütztes Framework namens „exploit_agent“. Das System nutzt mehrere Sprachmodelle (also KI‑Modelle, die Texte verstehen und erzeugen), um Code zu analysieren und Aktionen zu koordinieren.
- exploit_agent vergleicht automatisch Software‑Quellcode vor und nach Updates, identifiziert daraus entstehende Schwachstellen, generiert passende Exploits (also Programme, die diese Lücken ausnutzen) und führt die Exploits eigenständig aus.
- In Konfigurationsdateien fanden sich russischsprachige Kommentare, was Hinweise auf die Herkunft oder die Sprache der Betreiber geben kann.
- Die auf dem Server gespeicherten Spuren deuten darauf hin, dass hauptsächlich französische Websites aus den Bereichen Medien, Unterhaltung und Bildung angegriffen wurden.
Wie Google die Lage einstuft
GTIG bewertet diesen Vorfall mit Stufe 5: Mehrere Angriffsphasen laufen mit nur minimaler menschlicher Beteiligung über KI‑Tools ab. Google warnt, dass deutlich schwererwiegende Angriffe nach dem gleichen Muster innerhalb von Monaten möglich sein könnten.
Erkennungs‑ und Forensiklage
Interessanterweise sind solche autonomen Angriffe laut GTIG derzeit oft weniger verdeckt als klassische, manuell gesteuerte Angriffe. Die KI‑gestützten Abläufe hinterlassen auffällige forensische Spuren, was die Entdeckung erleichtern kann — zumindest vorerst.
Quelle
Quellen
- Quelle: Google Threat Intelligence Group (GTIG)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.




