Microsoft: Schatten‑KI wächst, Sicherheitsmaßnahmen fehlen.
In Kürze
- KI in >80% der Fortune‑500
- Nur 47% mit KI‑Sicherheitskontrollen
- Memory‑Poisoning beobachtet
Microsoft warnt vor „Schatten‑KI“ — Neuer Cyber‑Report legt Defizite offen
Kurz vor der Münchner Sicherheitskonferenz hat Microsoft seinen Cyber Pulse Report veröffentlicht und zieht eine ernüchternde Bilanz: KI‑Assistenten verbreiten sich rasant in Unternehmen, ohne dass die Sicherheitsarchitektur Schritt hält. In mehr als 80 % der Fortune‑500‑Konzerne werden KI‑Tools bereits beim Programmieren eingesetzt. Gleichzeitig haben nur 47 % der untersuchten Firmen spezifische Sicherheitskontrollen für generative KI implementiert.
Was ist „Schatten‑KI“?
Unter dem Begriff „Schatten‑KI“ fasst Microsoft die Nutzung von KI‑Tools durch Mitarbeitende zusammen, die IT‑ und Sicherheitsverantwortliche nicht genehmigt oder gar nicht kennen. Dazu zählen auch autonome Programme, sogenannte Agenten — Computerprogramme, die eigenständig Aufgaben ausführen. Solche unregistrierten Anwendungen schaffen blinde Flecken in der Überwachung von Datenzugriffen und Prozessen.
Warum das ein Problem ist
Die schnelle Einführung von KI‑Agenten kann etablierte Sicherheits‑ und Compliance‑Kontrollen umgehen. Agenten mit zu vielen Rechten oder fehlerhaften Anweisungen können selbst zur Schwachstelle werden — ähnlich einem fehlgeleiteten Mitarbeiter mit Administratorzugang. Microsoft berichtet zudem von konkreten Angriffen: Das Defender‑Team entdeckte eine Kampagne mit „Memory Poisoning“. Dabei wird der Speicher von KI‑Assistenten manipuliert, sodass die Tools dauerhaft verfälschte oder falsche Ergebnisse liefern.
Was Unternehmen tun sollten — und was du jetzt wissen musst
Microsoft nennt im Report mehrere Gegenmaßnahmen:
- Prinzip der minimalen Rechte: KI‑Tools dürfen nur auf jene Daten zugreifen, die sie wirklich benötigen.
- Zentrales Register: Erfassbar machen, welche KI‑Agenten im Einsatz sind, wer für sie verantwortlich ist und auf welche Daten sie zugreifen.
- Erkennung und Isolation: Nicht genehmigte Agenten identifizieren und vom Netz trennen.
Wenn du in einem IT‑ oder Sicherheitsteam arbeitest, heißt das konkret: Berechtigungen prüfen, Inventare erstellen und automatisierte Scans für unbekannte Prozesse einführen. Microsoft sieht in diesen Schritten keinen Luxus, sondern eine notwendige Reaktion auf das schnelle Wachstum der KI‑Nutzung in Unternehmen.
Quellen
- Quelle: Microsoft
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
