Anthropic stellt FlashProve vor: Ein Open‑Source‑System, das kryptografisch nachweist, welches Modell eine KI‑Antwort erzeugte.
In Kürze
- Kryptografischer Fingerprint bestätigt Modellherkunft
- Fingerprints schützen interne Gewichte, Prüfung lokal möglich
- Specs und Code offen, derzeit Forschungsprojekt
Anthropic veröffentlicht Open‑Source‑Tool FlashProve für prüfbare KI‑Antworten
Anthropic hat mit FlashProve ein Open‑Source‑System vorgestellt, das kryptografisch nachweisen soll, welches KI‑Modell eine bestimmte Antwort erzeugt hat. Ziel ist eine sogenannte „provable inference“ — also ein mathematischer Beweis, der die Herkunft einer Ausgabe garantiert und so beweisbar macht, ob eine Antwort wirklich vom angegebenen Modell stammt.
Warum das wichtig sein kann
FlashProve soll vor allem Fälschungen verhindern: Ähnlich wie eine digitale Signatur bei E‑Mails würde das System verhindern, dass sich ein anderes Modell als das behauptete ausgibt. Praktisch heißt das: Ein Anbieter könnte nicht heimlich ein deutlich billigeres Modell einsetzen und es als teures ausgeben, und Zahlen in Benchmarks oder Abrechnungen wären leichter überprüfbar.
Auch Drittbehauptungen sollen sich leichter verifizieren lassen. Du könntest etwa kontrollieren, ob ein Security‑Scan tatsächlich von dem hochbewerteten Sicherheitsmodell stammt, das angegeben wurde, oder ob ein Prüfbericht wirklich von dem Modell erstellt wurde, das man dafür benutzen wollte.
So funktioniert FlashProve für Nutzer:innen
- Modelle erhalten einen eindeutigen Fingerprint, den die Labs veröffentlichen.
- Wenn eine Ausgabe erzeugt wird, lässt sich diese kryptografisch mit dem Fingerprint abgleichen, sodass sich nachprüfen lässt, ob die Antwort vom angegebenen Modell stammt.
- Die Fingerprints verraten dabei nicht die internen Gewichte des Modells — also die vertraulichen Parameter, die Hersteller oft geheim halten. Auf diese Weise können Anbieter die Nachweisfunktion nutzen, ohne ihr Geschäftsgeheimnis offenzulegen.
- Die Überprüfung ist so leicht gebaut, dass sie auch lokal auf deinem Gerät möglich sein soll; ein Cloud‑Check ist also nicht zwingend nötig.
Stand der Entwicklung
Anthropic hat die technische Spezifikation und funktionierenden Code unter einer Open‑Source‑Lizenz veröffentlicht. Die Arbeit ist derzeit als Forschung zu verstehen; es gibt aktuell keine Pläne, FlashProve bei Anthropic oder automatisch bei anderen Labs produktiv einzusetzen. Die Veröffentlichung dient dazu, die Community einzuladen, die Lösung zu prüfen, zu testen und weiterzuentwickeln.
Quellen
- Quelle: Anthropic
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
