Viele Nutzer schicken sensible Daten an ChatGPT & Co. Ein Prototyp filtert sie vor dem Senden.
In Kürze
- Filtert Daten
- DSGVO-basiert
- Nicht perfekt
Wenn du regelmäßig ChatGPT, Perplexity oder Copilot nutzt, gehörst du wahrscheinlich zu dem Drittel der Deutschen, das KI-Tools mindestens einmal pro Woche einsetzt – etwa zum Formulieren von E‑Mails oder zur Auswertung langer Dokumente. So praktisch das ist: Häufig landen dabei unbeabsichtigt persönliche oder sensible Angaben bei den Anbietern, viele davon US‑ oder chinesische Konzerne.
Warum das ein Problem sein kann
Solche Einzelangaben wirken für sich genommen harmlos, in der Summe können sie Profile über dich bilden. Im schlimmsten Fall werden diese Daten bei Hackerangriffen missbraucht oder fließen als Trainingsdaten zurück in die Modelle – und tauchen später in Antworten für andere Nutzer wieder auf. Besonders kritisch sind Angaben zu Gesundheit, Finanzen oder Geschäftsgeheimnissen.
Was die Forscher vorschlagen
Pascal Tippe von der Fernuniversität Hagen und Masterstudent Michael Maximilian Grötzner halten ein generelles Verbot generativer KI für den falschen Weg: Es würde Produktivität stark einschränken und Nutzung nicht stoppen. Stattdessen haben sie einen technischen Schutzprototypen entwickelt: das „Privacy Gateway“.
Wie Privacy Gateway funktioniert
Das System hängt sich zwischen dich und das Sprachmodell und entfernt automatisch sensible Informationen, bevor sie an das Modell gesendet werden. Wichtig: Es schaut nicht nur nach einzelnen Schlüsselwörtern oder Zahlenfolgen, sondern bewertet den gesamten Kontext deiner Anfrage. Damit kann das Gateway erkennen, ob Angaben im Zusammenspiel persönlich identifizierbar sind – also etwa, ob mehrere harmlose Datenpunkte zusammen ein Personenprofil ergeben.
Das besondere an ihrem Ansatz
Die Forschenden haben ein sogenanntes „Codebook“ erstellt, das juristische Vorgaben wie die Datenschutz‑Grundverordnung (DSGVO) – etwa die Definition personenbezogener Daten oder Regeln zu besonders sensiblen Kategorien wie Gesundheitsinformationen – sowie das deutsche Geschäftsgeheimnis in konkrete Erkennungs‑ und Schutzregeln überträgt. Dadurch unterscheidet sich ihr Ansatz von einfachen Filtern, die nur Stichwörter schwärzen.
Wie gut das System arbeitet
In Tests mit vielen Alltags‑Szenarien erkannte und anonymisierte Privacy Gateway sensible Informationen in vielen Fällen zuverlässig. Gleichzeitig zeigte die Studie einen Zielkonflikt: Manchmal lässt sich sensible Information nicht entfernen, ohne die Qualität oder Brauchbarkeit der Antwort stark einzuschränken – etwa bei sehr datenintensiven medizinischen Fragen. Datenschutz und Nutzbarkeit stehen also nicht immer ohne Verlust zueinander.
Der Stand: Prototyp, kein Allheilmittel
Privacy Gateway ist ein technischer Prototyp, der zeigt, wie kontextbasierter Schutz aussehen kann. Er reduziert Risiken, löst aber nicht alle Probleme – insbesondere dann nicht, wenn vollständige, präzise Antworten nur mit sensiblen Daten möglich sind.
Quellen
- Quelle: Privacy Gateway / FernUniversität Hagen
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
