MIT und Thorn prüfen KI‑Modelle auf CSAM‑Eignung — ohne je illegale Bilder zu erzeugen.
In Kürze
- Gaussian Probing analysiert LoRA‑Adapter statt Modell‑Ausgaben
- In Tests 100% Erkennung, kostengünstig und skalierbar
- Einsetzbar bei Plattformen und Ermittlungen, schützt Prüfer:innen
Forscher:innen von MIT und der Kinderschutz‑Organisation Thorn haben eine Technik entwickelt, mit der sich generative KI‑Modelle auf ihre Eignung zur Erzeugung kinderpornografischer Inhalte (CSAM) prüfen lassen — und das, ohne jemals solches Material zu erzeugen.
Warum das nötig ist
Offene, generative Modelle lassen sich relativ leicht anpassen. Das ist praktisch, wenn du etwa einen bestimmten Bildstil willst — aber dieselbe Offenheit macht es auch möglich, Modelle so umzubauen, dass sie illegale Inhalte liefern. Die Zahl gemeldeter KI‑generierter CSAM‑Fälle stieg laut den Autor:innen von 67.000 im Jahr 2024 auf mehr als 1,5 Millionen im Jahr 2025.
Normale Prüfverfahren greifen auf gezielte Aufforderungen (Prompts) zurück und bewerten die Ausgaben. Bei CSAM ist das rechtlich und ethisch unmöglich (in den USA ist die Erzeugung solcher Bilder illegal) und außerdem psychisch belastend für Prüfer:innen.
Wie die Methode funktioniert
Statt die Ausgaben eines Modells zu betrachten, analysiert die neue Methode die internen Änderungen, die beim Feinabstimmen vorgenommen wurden. Genauer: Viele Anpassungen nutzen LoRA (low‑rank adaptation) — eine effiziente Technik, mit der man ein vortrainiertes Modell für eine Aufgabe anpasst, ohne das komplette Modell neu zu trainieren. Diese Anpassungen werden oft in Form kleiner Adapterdateien verteilt.
Die Forschenden konzentrieren sich auf genau diese LoRA‑Adapter. Mit sogenanntem Gaussian Probing füttern sie das Modell nicht mit sinnvollen Prompts, sondern mit zufälligen Eingaben und untersuchen, wie sich diese Signale durch die internen Schichten des Modells verändern. Weil dabei keine vollständige Generierung eines Bildes nötig ist, entstehen weder CSAM‑Bilder noch rechtliche Probleme für die Prüfenden.
Was die Ergebnisse zeigen
In Tests erkannten die Autor:innen alle getesteten Modellvarianten, die für CSAM‑Erzeugung angepasst worden waren, mit 100 % Genauigkeit — verglichen mit bekannten LoRA‑Adaptern als Ground‑Truth. Die Methode lässt sich relativ kostengünstig und skalierbar ausführen, was wichtig ist, weil täglich Tausende neuer Modellvarianten auftauchen.
Außerdem erwies sich Gaussian Probing als robust gegen einfache Evasionsversuche: Ein Angreifer müsste tief in die interne Struktur des Basismodells eingreifen, um die Erkennung zu umgehen.
Wer beteiligt war und wie es weitergeht
Das Team wurde unter anderem von Vinith Suriyakumar (MIT‑Doktorand), Ashia Wilson und Marzyeh Ghassemi (MIT) geleitet; weitere Autor:innen stammen vom MIT, der Boston University und von Thorn. Die Arbeit wurde beim Workshop „Trustworthy AI for Good“ auf der ICML vorgestellt. Gefördert wurde die Forschung teilweise durch das Bridgewater AIA Labs Research Fellowship.
Als nächste Schritte nennen die Forschenden Tests an einer größeren Vielfalt von Modellen und die Untersuchung, ob sich schädliche Fähigkeiten bereits im Basis‑Modell (also vor einer LoRA‑Anpassung) nachweisen lassen.
Was das praktisch bedeutet
- Die Autor:innen schlagen vor, dass Plattformbetreiber:innen die Technik einsetzen könnten, um unsichere Modellvarianten zu markieren oder deren Upload zu verhindern.
- Auch Ermittlungsbehörden könnten von der Methode profitieren, weil sie Hinweise liefert, ohne illegale Inhalte zu erzeugen oder Prüfer:innen zu gefährden.
Quellen
- Quelle: Massachusetts Institute of Technology / Thorn
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
