IBM hat Granite 4.0 vorgestellt, eine neue Generation von Sprachmodellen, die Effizienz und Kosteneinsparungen verspricht.
In Kürze
- Granite 4.0 senkt den Speicherbedarf um bis zu 70%
- Vier verschiedene Modelle für unterschiedliche Anwendungen
- Open-Source-Modelle mit hohen Sicherheitsstandards
IBM stellt Granite 4.0 vor
IBM hat seine neueste Version der Granite-Sprachmodelle vorgestellt: Granite 4.0. Mit einer cleveren Kombination aus Mamba- und Transformer-Technologien sorgt dieses Update dafür, dass der Speicherbedarf während des Einsatzes deutlich sinkt, ohne dass die Leistung darunter leidet. Diese Open-Source-Modelle sind besonders für typische Unternehmensaufgaben wie den Kundenservice geeignet, da sie nicht nur effizienter arbeiten, sondern auch die Betriebskosten senken.
Verschiedene Modelle von Granite 4.0
Granite 4.0 kommt gleich mit vier verschiedenen Modellen daher:
- Granite-4.0-H-Small: Dieser Allrounder mit 32 Milliarden Parametern ist perfekt für den produktiven Einsatz und bietet eine beeindruckende Effizienz.
- Granite-4.0-H-Tiny und Granite-4.0-H-Micro: Diese beiden Modelle sind für Anwendungen mit niedriger Latenz optimiert und eignen sich hervorragend für kleinere Hardware, wie etwa Smartphones.
- Granite-4.0-Micro: Ein klassisches Modell mit 3 Milliarden Parametern, das sich ebenfalls gut in verschiedenen Szenarien einsetzen lässt.
Alle Modelle sind unter einer Open-Source-Lizenz verfügbar und erfüllen hohe Sicherheitsstandards. IBM betont, dass Granite 4.0 bis zu 70 Prozent weniger Speicher benötigt als herkömmliche Transformer-Modelle. Das ist besonders vorteilhaft, wenn es um lange Textkontexte geht. Diese Eigenschaften machen Granite 4.0 zu einer interessanten Option für Unternehmen, die sowohl Leistung als auch Kosteneffizienz im Blick haben.
Quellen
- Quelle: IBM
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.