Sicherheitsforscher fanden Hinweise, dass Metas KI Muse detaillierte Profile zu Personen im Umfeld von Nutzer:innen anlegt.
In Kürze
- Muse speichert Fakten, Lebensereignisse und Beziehungsdetails
- Stündliche Updates aus Chats, Fotos und Meta‑Diensten
- Daten könnten trotz Löschversuchen in Systemrepräsentationen bleiben
Sicherheitsforscher haben Metas KI-Assistenten Muse dazu gebracht, interne Dateien preiszugeben — und die Aufzeichnungen, die sie fanden, zeichnen ein ungewöhnlich detailliertes Bild davon, welche Informationen das System über Menschen im Umfeld von Nutzer:innen sammelt.
Was die Dateien zeigen
Die Dokumente legen nahe, dass Muse systematisch Dossiers über Verwandte, Freundinnen und Bekannte anlegt. Diese Einträge beginnen demnach als leere Platzhalter und werden nach und nach mit Informationen gefüllt. Die Ermittler, darunter Karan Joshi und Peter James, analysierten Anweisungen und Strukturvorgaben aus Metas Systemdateien.
So sind die Dossiers aufgebaut
Laut den gefundenen Anweisungen gliedert Muse die Profile in mehrere Rubriken:
- „Fakten“: Basisangaben wie Namen, Geburtstage, Adressen, Beruf, wichtige Jahrestage – plus Angaben dazu, wie oft und wann zuletzt Kontakt bestand.
- „Geschichte“: Zeitlich geordnete Ereignisse, etwa wie man sich kennengelernt hat, gemeinsame Reisen oder Streitpunkte; möglichst mit Belegen.
- „Die Beziehung“ (und weitere Abschnitte wie „Gemeinsamkeiten“, „Offene Themen“, „Stärkung“): Hinweise zur Nähe, Grundlage der Beziehung, typische Umgangsformen, aktuelle Bedürfnisse der Person, wie man am besten kommuniziert, sowie Versprechen aus der Vergangenheit.
Aktualisierung und Datenquellen
Die Dateien sollen demnach stündlich aktualisiert werden.
In die Einträge fließen offenbar Chat-Nachrichten, Fotos und andere sogenannte „Gedächtnisinhalte“ ein.
Hinweise deuten außerdem darauf hin, dass Muse auf Informationen aus Metas Ökosystem — also Diensten wie Facebook und Instagram — zurückgreift.
Datenschutzbedenken aus den Anweisungen
Die Anleitungen erwähnen mehrere Orte, an denen Informationen auch dann verbleiben könnten, wenn Nutzer:innen versuchen, Daten zu löschen.
- zentral gespeicherte Repräsentationen der Nutzerdaten (sogenannte „Embeddings“)
- Lern-Daten, die aus vielen Geräten zusammenlaufen („Fleet-Learning“)
- zentral veröffentlichte Lektionen
- Community-Maps
- Telemetrie oder Nutzungsdaten
Außerdem soll Muse auf Instagram-Interessen zugreifen können — mit der Anweisung, dies dem Nutzer nicht mitzuteilen.
Unklarheit über Aktualität und Meta-Aussage
Wie aktuell oder vollständig die offengelegten Systemdateien sind, lässt sich von außen nicht sicher prüfen. Meta hat die Darstellung gegenüber Wired nicht bestritten und argumentiert, ein hilfreicher Assistent brauche Kontext über dich und die Menschen in deinem Umfeld.
Demnach nutze Meta öffentlich zugängliche sowie freiwillig geteilte Informationen; als Beispiel nennt Meta, dass ein Assistent wissen könne, welcher Klempner dir eine Rechnung geschickt hat oder welche Blumen dein Partner mag.
Quellen
- Quelle: Meta Platforms / Muse
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
