EleutherAI hat mit „Common Pile v0.1“ ein neues Dataset veröffentlicht, das KI-Entwicklung ohne urheberrechtliche Probleme ermöglicht.
In Kürze
- Dataset umfasst 8 Terabyte aus lizenzierten und gemeinfreien Quellen
- Entwicklung von zwei leistungsstarken Sprachmodellen
- Neue Maßstäbe für ethische KI-Entwicklung gesetzt
EleutherAI und das neue Text-Dataset „Common Pile v0.1“
EleutherAI hat mit „Common Pile v0.1“ ein neues Text-Dataset ins Leben gerufen, das mit satten 8 Terabyte aufwartet und ausschließlich aus lizenzierten sowie gemeinfreien Quellen besteht. Das Ziel? Leistungsstarke KI-Modelle zu trainieren, ohne dabei urheberrechtlich geschützte Inhalte zu verwenden – ein Problem, das viele bisherige Ansätze geplagt hat. Mit diesem Schritt will EleutherAI rechtliche Grauzonen vermeiden und gleichzeitig die Entwicklung von KI vorantreiben.
Zusammenarbeit und Quellen
Das Dataset entstand in enger Zusammenarbeit mit Partnern wie Hugging Face und verschiedenen Hochschulen. Es umfasst Texte aus 30 unterschiedlichen Quellen, darunter wissenschaftliche Arbeiten, Bücher und transkribierte Audios. Bei der Zusammenstellung wurde besonders auf die Qualität und rechtliche Sicherheit der Daten geachtet, um ein solides Fundament für die KI-Entwicklung zu schaffen.
Praxistest und erste Ergebnisse
Für den Praxistest hat EleutherAI zwei Sprachmodelle entwickelt, die auf 7 Milliarden Parametern basieren und jeweils bis zu zwei Billionen Datenpunkte aus dem „Common Pile v0.1“ verarbeiten können. Erste Ergebnisse zeigen, dass diese Modelle in ihrer Leistung mit solchen konkurrieren können, die auf urheberrechtlich geschützte Daten zurückgreifen. Das ist ein bemerkenswerter Fortschritt und könnte die Diskussion über die Nutzung von Daten in der KI-Entwicklung neu entfachen.
Reaktion auf rechtliche Konflikte
Mit diesem Projekt reagiert EleutherAI auf die wachsenden rechtlichen Konflikte im KI-Bereich und setzt neue Maßstäbe für ein verantwortungsvolles Training von KI-Modellen. Durch die transparente und ethische Datenbasis beweist EleutherAI, dass leistungsfähige KI auch ohne umstrittene Datenquellen möglich ist. Dieses Engagement könnte als Vorbild für andere KI-Entwickler dienen, die ebenfalls auf der Suche nach mehr ethischen Standards in der Branche sind.
Quellen
- Quelle: EleutherAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
