Das BSI hat mit Quaidal einen Katalog zur Qualität von Trainingsdaten für KI vorgestellt, der entscheidend für sichere Anwendungen ist.
In Kürze
- Neuer Katalog zur Bewertung von KI-Trainingsdaten
- 143 Metriken zur Sicherstellung von Datenqualität
- Fokus auf ethische und faire Datenverwendung
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und der neue Katalog
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat einen neuen Katalog ins Leben gerufen, der die Qualität von Trainingsdaten für Künstliche Intelligenz (KI) in den Fokus rückt. Dieser Schritt ist besonders wichtig, denn die Qualität der Daten ist entscheidend für die Leistungsfähigkeit von KI-Systemen.
Anwendungen mit hohem Risiko
Wenn es um Anwendungen mit hohem Risiko geht, wie etwa beim autonomen Fahren oder in der medizinischen Diagnostik, wird die Bedeutung von fehlerfreien und zuverlässigen Daten noch deutlicher.
Der Katalog Quaidal
Der Katalog trägt den Namen Quaidal und hat das Ziel, sicherzustellen, dass die verwendeten Daten nicht nur korrekt, sondern auch fair sind. Verzerrungen oder Diskriminierung sollen so vermieden werden. Entwickler von KI-Systemen sind aufgefordert, sich an die festgelegten Qualitätsstandards zu halten, um sowohl die Sicherheit der Technologien als auch deren gesellschaftliche Akzeptanz zu fördern.
Umfang und Bedeutung
Insgesamt umfasst der Katalog 143 Metriken und Methoden, die eine präzise Bewertung der Daten ermöglichen. Ein zentraler Punkt der Veröffentlichung ist die Betonung, dass bereits früh im Entwicklungsprozess auf die richtige Datenqualität geachtet werden sollte. So wird sichergestellt, dass KI-Anwendungen nicht nur technisch einwandfrei, sondern auch ethisch vertretbar sind.
Quellen
- Quelle: Bundesamt für Sicherheit in der Informationstechnik (BSI)
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
