On‑device‑KI warnt dein Smartphone in Echtzeit vor Social‑Engineering‑Chats – ohne deine Daten in die Cloud zu schicken.
In Kürze
- Über 50% der Straftaten in Singapur sind Betrug; Schaden >4 Mrd SGD seit 2019
- Leichtes Gemma‑Modell analysiert Chats lokal in einer Sovereign Sandbox
- Zweistufen-Ansatz: sparsamer Vorfilter plus feingetuntes Modell reduziert Fehlalarme und schont Akku
Mehr als die Hälfte aller gemeldeten Straftaten in Singapur sind Betrugsfälle — seit 2019 summiert sich der Schaden auf über 4 Milliarden Singapur-Dollar. Während früher meist einfache Phishing-SMS die Hauptgefahr waren, haben Täter inzwischen auf ausgefeilte soziale Manipulation umgestellt: glaubwürdige Gespräche, mit denen sie Geld oder Zugangsdaten abschöpfen. Solche Angriffe stehen heute für bis zu 80 Prozent der Verluste.
Genau gegen diese Maschen haben Google DeepMind und GovTech, die Technologiebehörde Singapurs, ein neues Schutzsystem gebaut, das direkt auf Smartphones läuft. „On-device“ heißt: die Analyse passiert lokal auf deinem Gerät, nicht in der Cloud — ein zentraler Punkt für die Privatsphäre.
Wie das System aufgebaut ist
Als Kern dient eine leichte Version des Gemma-Modells, ein KI-Modell, das explizit für ressourcenarme Geräte entworfen wurde. Dieses Modell wurde zusätzlich in einer kontrollierten Umgebung mit lokalen Betrugsbeispielen feinabgestimmt — etwa Nachahmungen von Behörden oder Banken und typische regionale Tricks — damit es regionale Eigenheiten besser erkennt.
Zwei Stufen gegen falsche Alarme und hohen Stromverbrauch
- Ein sparsamer Vorfilter (ein simpler Classifier) checkt eingehende Nachrichten mit minimalem Stromverbrauch und markiert verdächtige Fälle.
- Sobald ein Verdacht besteht, analysiert das feinabgestimmte Gemma-Modell einen größeren Gesprächsausschnitt, um Warnungen zu bestätigen oder Fehlalarme zu reduzieren.
Was du im Alltag sehen würdest
Erkennt die KI manipulative Muster in einem Chat, erscheint sofort eine Warnmeldung auf dem Gerät. Die Aufforderung ist klar: kurz pausieren und vorsichtig sein, bevor du persönliche Daten oder Geld herausgibst. Ziel ist es, Nutzerinnen und Nutzer im Moment der Entscheidung zu warnen — ohne private Inhalte an Server zu schicken.
Datenschutz, Training und Tests
Die Entwicklung folgte strengen Regeln und wurde auf der Singapore International Cyber Week 2026 vorgestellt. Das Fine-Tuning lief in einer kontrollierten GovTech-Umgebung — einer sogenannten „Sovereign Sandbox“ innerhalb der Google-Cloud-Infrastruktur — damit Trainingsdaten isoliert blieben. GovTech und DeepMind betonen, dass keine privaten oder personenbezogenen Daten verwendet wurden; stattdessen kamen anonymisierte Datensätze aus Betrugsmeldungen und Sicherheitsinformationen zum Einsatz.
Zum Testumfang gehörten synthetisch erzeugte Dialoge sowie lokale Textsammlungen, um unterschiedliche Betrugsarten und neue Nachahmungstaktiken abzubilden.
Welche Optionen sich ergeben
Das Projekt zeigt, dass Schutz vor Betrug und Datenschutz kombiniert werden können, wenn die Analyse lokal statt in der Cloud stattfindet. Messaging-Anbieter und Betriebssystem-Hersteller könnten solche leichten Modelle integrieren, um Nutzer direkt auf dem Gerät vor betrügerischen Gesprächsmustern zu warnen — ohne private Chats an externe Server weiterzugeben.
Quellen
- Quelle: Google DeepMind / Government Technology Agency of Singapore (GovTech)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
