IBM sieht Open-Weight-KI wirtschaftlich im Vorteil
Open-Weight-Modelle sind nach Einschätzung von IBM inzwischen leistungsfähig genug, um einen großen Teil typischer Unternehmensaufgaben lokal zu übernehmen. IBM-CEO Arvind Krishna beziffert ihre Effektivität auf rund 90 % im Vergleich zu geschlossenen Spitzenmodellen.
Die Token-Kosten sollen zugleich nur 10 % bis 25 % der Kosten proprietärer Frontier-Modelle betragen. Open Weight bedeutet, dass die trainierten Modellgewichte zugänglich sind und auf eigener Infrastruktur betrieben werden können. Das ist nicht automatisch mit vollständig quelloffener Software gleichzusetzen, da die jeweilige Lizenz zusätzliche Einschränkungen enthalten kann.
| Kennzahl | Geschlossene Spitzenmodelle | Open-Weight-Modelle laut IBM |
|---|---|---|
| Relative Effektivität | 100 % | rund 90 % |
| Relative Token-Kosten | 100 % | 10 % bis 25 % |
| Breiter Benchmark 2024 | etwa 70 Punkte | etwa 20 bis 30 Punkte |
| Breiter Benchmark Ende 2025 | etwa 70 Punkte | etwa 50 Punkte |
Welche Modelle und Benchmarks IBM für diesen Vergleich herangezogen hat, bleibt offen. Auch der Begriff Effektivität wird nicht genauer definiert. Die Zahlen eignen sich deshalb eher als wirtschaftliche Orientierung denn als allgemeingültiger Leistungsvergleich.
Sinngemäß erklärte Krishna: Für Unternehmen stelle sich die einfache Frage, ob 90 % der Leistung zu 10 % der Kosten genügen oder ob für die verbleibende Differenz ein zehnmal höherer Preis gezahlt werden soll.
Routineaufgaben brauchen selten das teuerste Modell
Nach Krishnas Einschätzung benötigt die überwiegende Mehrheit betrieblicher Aufgaben kein geschlossenes Spitzenmodell. Als Beispiele nennt er das Verfassen und Zusammenfassen von E-Mails, die Prüfung von Verträgen sowie die Bearbeitung von Kundenanrufen.
Das spricht für eine Aufteilung nach Anwendungsfall. Anspruchsvolle Aufgaben können weiterhin an leistungsstärkere Modelle gehen, während günstigere oder lokal betriebene Modelle das tägliche Volumen abdecken. Dass ein solches Modell-Routing erhebliche Kosten senken kann, zeigt sich bereits in konkreten Unternehmensanwendungen.
Auch die Nutzung offener Modelle nimmt zu. Bei KI-Gateways zeigt sich bereits, dass Open-Weight-Modelle vor allem wegen ihrer Kostenstruktur an Bedeutung gewinnen.
Zwei bis drei Racks sollen für viele Unternehmen genügen
IBM geht davon aus, dass die meisten Unternehmen eine nützliche lokale KI-Infrastruktur mit zwei bis drei Server-Racks betreiben könnten. Damit würde On-Premises-KI nicht nur für Großkonzerne, sondern auch für größere Mittelständler und regulierte Organisationen relevant.
Die Aussage ist jedoch keine vollständige Kostenrechnung. IBM nennt weder Anschaffungskosten noch den Bedarf für Strom, Kühlung, Ersatzhardware und Wartung. Auch die erforderliche Zahl und Art der GPUs bleibt offen.
Der Vergleich der Token-Kosten darf daher nicht mit den Gesamtbetriebskosten verwechselt werden. Bei einer Cloud-API werden Infrastruktur und Betrieb über den Nutzungspreis bezahlt. Beim Self-Hosting fallen diese Kosten intern an, unabhängig davon, wie viele Tokens tatsächlich verarbeitet werden.
| Kostenblock | Geschlossene Cloud-API | Lokaler Betrieb |
|---|---|---|
| Modellzugriff | Nutzungsabhängige Token-Gebühren | Modellabhängig, oft ohne laufende API-Gebühr |
| Hardware | Im API-Preis enthalten | Eigene Investition erforderlich |
| Strom und Kühlung | Im API-Preis enthalten | Eigene Betriebskosten |
| Personal | Vor allem Integration und Kontrolle | Zusätzlich Infrastruktur und Modellbetrieb |
| Anbieterabhängigkeit | Hoch bei proprietären Schnittstellen | Je nach Modell und Plattform geringer |
Der Engpass verschiebt sich zum Personal
Das Hauptproblem sieht IBM nicht mehr bei der Modellqualität, sondern beim Betrieb. Unternehmen benötigen Fachkräfte für Kernel-Optimierung, Netzwerkarchitektur, GPU-Cluster und Caching. Diese Kompetenzen sind knapp und lassen sich nicht allein durch den Kauf von Hardware ersetzen.
Sinngemäß fragte Krishna, wo Unternehmen die Kernel-Entwickler und Netzwerkspezialisten finden sollen, die GPUs sinnvoll clustern und Ergebnisse so zwischenspeichern, dass schnelle Antwortzeiten erreicht werden.
IBM will den lokalen KI-Betrieb deshalb mit eigener Software vereinfachen. Wann diese verfügbar sein wird und welches Lizenzmodell gilt, ist bislang nicht bekannt. Gleichzeitig erwartet der Konzern zusätzliche Nachfrage nach seinen Spyre-Beschleunigerkarten für Mainframes.
Lokale Modelle werden auch von anderen Anbietern stärker auf agentische Anwendungen ausgerichtet. Ein Beispiel ist Nvidia Nemotron 3.5 für lokale KI-Agenten. Für Unternehmen bleibt entscheidend, ob solche Angebote einen Wechsel zwischen Hardware, Modellen und Betriebsplattformen erlauben.
Datensouveränität stärkt den On-Premises-Ansatz
Für Unternehmen im DACH-Raum ist der lokale Betrieb nicht nur eine Kostenfrage. Personenbezogene Daten, Vertragsinhalte, Produktionswissen und Geschäftsgeheimnisse können innerhalb der eigenen Infrastruktur bleiben. Das vereinfacht nicht automatisch die DSGVO-Compliance, reduziert aber die Zahl externer Datenflüsse und Unterauftragnehmer.
Zugleich sinkt die Abhängigkeit von Preisänderungen, Nutzungslimits und Produktentscheidungen eines einzelnen API-Anbieters. Dieser Vorteil muss gegen den höheren internen Betriebsaufwand abgewogen werden. Ohne ausreichend qualifiziertes Personal kann aus vermiedenen Cloud-Kosten schnell ein teures Infrastrukturprojekt werden.
IBM hat ein eigenes wirtschaftliches Interesse
Die Aussagen kommen von einem Anbieter, der selbst Infrastruktur, Unternehmenssoftware und Beratungsleistungen verkauft. IBMs Position deckt sich daher mit dem eigenen Produktgeschäft. Die jüngsten Geschäftszahlen zeigen, welche Bereiche für den Konzern besonders relevant sind.
| IBM-Kennzahl im 3. Quartal | Wert | Veränderung zum Vorjahr |
|---|---|---|
| Gesamtumsatz | 17,1 Milliarden US-Dollar | plus 5 % |
| Softwareumsatz | 7,8 Milliarden US-Dollar | plus 9 % |
| Infrastrukturumsatz | 3,7 Milliarden US-Dollar | plus 5 % |
| Red Hat | keine absolute Zahl genannt | plus 11 % |
Für die Investitionsentscheidung zählt deshalb nicht allein IBMs Verhältnis von Leistung zu Token-Kosten. Relevant sind das erwartete Nutzungsvolumen, die Sensibilität der Daten, vorhandene Infrastruktur und verfügbare Fachkräfte. Bei stabiler Auslastung und hohen Datenschutzanforderungen kann Self-Hosting wirtschaftlich attraktiv werden, während geringe oder stark schwankende Lasten weiterhin für Cloud-APIs sprechen können.