Granite 4.2 zielt auf lokale KI-Infrastruktur
IBM hat mit Granite 4.2 eine neue Familie von Sprachmodellen veröffentlicht, deren Modellgewichte heruntergeladen und auf eigener Infrastruktur betrieben werden können. Verfügbar sind Varianten mit 3 Milliarden, 8 Milliarden und 30 Milliarden Parametern.
Alle drei Modelle besitzen ein natives Kontextfenster von 128.000 Token. Damit können sie umfangreiche Dokumente, längere Gesprächsverläufe oder größere Mengen an Quelltext innerhalb einer Anfrage verarbeiten.
| Modellvariante | Parameter | Kontextfenster | Spezialtraining für Agenten |
|---|---|---|---|
| Granite 4.2 3B | 3 Milliarden | 128.000 Token | Nein, Tool-Nutzung wird dennoch unterstützt |
| Granite 4.2 8B | 8 Milliarden | 128.000 Token | Ja |
| Granite 4.2 30B | 30 Milliarden | 128.000 Token | Ja |
Reasoning steht erstmals im Mittelpunkt
Granite 4.2 ist laut IBM das erste Release der Modellfamilie, das gezielt auf Reasoning ausgerichtet wurde. Gemeint ist damit kein menschliches Verständnis, sondern die Fähigkeit, eine Aufgabe in mehrere Verarbeitungsschritte zu zerlegen und Zwischenergebnisse weiterzuverwenden.
Granite 4.2 ist das auf Reasoning ausgerichtete Release der Granite-Sprachmodellfamilie, so IBM sinngemäß.
Diese mehrstufige Verarbeitung kann bei komplexen Aufgaben zu präziseren Ergebnissen führen. Sie erhöht allerdings den Rechenbedarf und verlängert häufig die Antwortzeit. Für Unternehmen ist deshalb nicht nur die Modellqualität relevant, sondern auch das Verhältnis aus Laufzeit, Hardwarebedarf und tatsächlichem Nutzen.
IBM setzt bei allen Varianten auf eine Decoder-only-Architektur. Dabei erzeugt das Modell seine Ausgabe schrittweise auf Basis der bereits verarbeiteten und generierten Token, wie es bei vielen modernen Sprachmodellen üblich ist.
8B und 30B wurden für Agenten-Aufgaben trainiert
Die Varianten mit 8 und 30 Milliarden Parametern erhielten zusätzlich Agentic Reinforcement Learning. Bei diesem Trainingsverfahren wird das Modell gezielt für Handlungsabläufe optimiert, bei denen es Werkzeuge auswählt und Ergebnisse aus mehreren Schritten kombiniert.
Zu den vorgesehenen Fähigkeiten zählen die Nutzung eines Terminals, Websuchen und der Zugriff auf externe Tools. Das kleinere 3B-Modell unterstützt ebenfalls Werkzeuge, wurde dafür aber nicht mit demselben spezialisierten Verfahren trainiert.
Damit kommt Granite 4.2 grundsätzlich für spezialisierte KI-Agenten infrage. Je nach Aufgabe könnte ein kompaktes Modell einfache Schritte übernehmen, während komplexere Anfragen an die größeren Varianten weitergeleitet werden. Ein solches Modell-Routing nach Kosten, Datenschutz und Leistungsbedarf kann den Ressourcenverbrauch kontrollierbarer machen.
Self-Hosting reduziert die Abhängigkeit von Cloud-APIs
Für Unternehmen im DACH-Raum ist vor allem der lokale Betrieb relevant. Die Modellgewichte können auf eigener Infrastruktur, On-Premises oder in einem ausgewählten europäischen Rechenzentrum eingesetzt werden. Sensible Inhalte müssen damit nicht zwangsläufig an eine externe US-Cloud-API übertragen werden.
Das erleichtert Datensouveränität, macht einen Einsatz aber nicht automatisch datenschutzkonform. Entscheidend bleiben unter anderem Zugriffskontrollen, Protokollierung, Speicherfristen und die Absicherung angebundener Werkzeuge.
Self-Hosting ersetzt laufende Token-Gebühren durch eigene Infrastrukturkosten. Dadurch können die Ausgaben bei stabiler Auslastung besser planbar werden. Gleichzeitig entstehen Aufwand für Betrieb, Updates, Überwachung und ausreichend leistungsfähige Hardware.
Konkrete Anforderungen an Arbeitsspeicher oder Grafikprozessoren nennt IBM für die einzelnen Größen in den vorliegenden Angaben nicht. Auch belastbare Benchmark-Werte gegenüber konkurrierenden Modellen liegen nicht vor. Ob Granite 4.2 wirtschaftlich passt, muss deshalb anhand eigener Arbeitslasten geprüft werden, ähnlich wie bei anderen lokal betriebenen Reasoning-Modellen.
Open Weight ist nicht automatisch Open Source
IBM bezeichnet Granite 4.2 als Open-Weight-Modellfamilie. Das bedeutet zunächst, dass die trainierten Modellgewichte verfügbar sind und sich unabhängig von einer gehosteten API betreiben lassen.
Welche konkreten Nutzungsrechte und Einschränkungen gelten, geht aus den vorliegenden Informationen nicht hervor. Open Weight sollte daher nicht ungeprüft mit einer vollständig offenen Open-Source-Lizenz gleichgesetzt werden. Vor einem produktiven Einsatz ist eine Prüfung der Lizenzbedingungen erforderlich.
Strategisch erweitert Granite 4.2 dennoch die Auswahl zwischen vollständig externen KI-Diensten und selbst kontrollierten Modellen. Gerade bei agentischen Anwendungen kann diese Wahl wichtig werden, weil auch eigene Lösungen weiterhin von einzelnen Modellanbietern abhängig bleiben können, wie das Beispiel eigener Coding-Agenten mit externer Modellrechnung zeigt.