Routinearbeit braucht selten ein Frontier-Modell
In agentenbasierten Unternehmensprozessen entfallen neun von zehn Arbeitsschritten auf vergleichsweise einfache Operationen. Dazu zählen Klassifizierung, Werkzeugaufrufe, Datenweiterleitung, Validierung und Datenabgleich. Laut einer Analyse von Gartner erreichen Open-Weight-Modelle bei diesen Aufgaben ein ähnliches Leistungsniveau wie kommerzielle Modelle.
Open Weight bedeutet, dass die Modellgewichte verfügbar sind und das Modell auf eigener oder ausgewählter Infrastruktur betrieben werden kann. Das ist nicht automatisch mit vollständig quelloffener Software gleichzusetzen. Für Unternehmen eröffnet es aber die Möglichkeit, Routineprozesse ohne ständige Übertragung an externe Modell-APIs auszuführen.
Sinngemäß erklären die Gartner-Analysten Mark Petty und Raymond Paquet: Neun von zehn Schritten in Agenten-Workflows sind Routine. Open-Weight-Modelle bewältigen sie auf vergleichbarem Niveau für ein Viertel des Preises des günstigsten geschlossenen Modells.
Die Kostenersparnis liegt realistisch beim Faktor fünf bis sechs
Im theoretischen Bestfall kostet ein Open-Weight-Modell bei gleicher Bewertung nur 25 % eines günstigen proprietären Modells. Gegenüber einem Frontier-Modell, das für jeden einzelnen Prozessschritt aufgerufen wird, sinken die Kosten rechnerisch sogar auf 5 %.
Diese Idealwerte lassen sich nicht vollständig auf den produktiven Betrieb übertragen. Offene Modelle erzeugen teilweise längere Antworten und benötigen häufiger einen erneuten Versuch. Unter Berücksichtigung dieser Effekte veranschlagt Gartner die reale Ersparnis gegenüber Frontier-Modellen eher beim Faktor fünf bis sechs.
| Vergleich | Kosten des Open-Weight-Modells | Einordnung |
|---|---|---|
| Günstigstes geschlossenes Modell mit gleicher Bewertung | etwa 25 % | Theoretischer Vergleichswert |
| Frontier-Modell bei jedem Prozessschritt | bis zu 5 % | Theoretischer Bestfall |
| Frontier-Modell unter Praxisbedingungen | etwa fünf- bis sechsmal günstiger | Berücksichtigt längere Ausgaben und Wiederholungen |
Ähnliche Kostenvorteile zeigen sich bereits bei konkreten Unternehmensarchitekturen. So konnte Aiven seine Token-Kosten mit einem Open-Weight-Modell senken. Auch IBM sieht Open-Weight-KI nahe an der Leistung geschlossener Modelle.
Die Steuerungsschicht wird wichtiger als das Modell
Wenn Modelle zunehmend austauschbar werden, verlagert sich der Wert auf die Steuerungsschicht. Gartner bezeichnet diese als Harness. Sie orchestriert mehrere Agenten, setzt Leitplanken und leitet jede Aufgabe dynamisch an das geeignete Modell weiter.
Ein solches System kann Routineoperationen lokal ausführen und nur komplexe Aufgaben an ein leistungsfähiges Frontier-Modell übergeben. Modell-Routing, also die automatische Auswahl eines Modells nach Kosten, Leistung und Aufgabentyp, wird damit zu einem zentralen Bestandteil der Architektur. Dass dies erhebliche Einsparungen ermöglichen kann, zeigt auch das Beispiel von LegalOn mit 65 % niedrigeren Codex-Kosten durch Modell-Routing.
Gartner erwartet, dass Unternehmen vor allem domänenspezifische Modelle für stabile Prozessschritte einsetzen. Besonders relevant sind Abläufe, die millionenfach pro Monat wiederholt werden. Frontier-Modelle sollen dagegen ihre Rolle bei Forschung, Entwicklung und besonders anspruchsvollen Schlussfolgerungen behalten.
Prozessdaten bleiben innerhalb der eigenen Grenzen
Der wirtschaftliche Vorteil ist nur ein Teil der Analyse. Agenten-Workflows erzeugen detaillierte Historien über interne Prozesse, Entscheidungen, Ausnahmen und Geschäftsvorgänge. Wird jeder Routineschritt über eine externe API verarbeitet, wandert ein Teil dieses Wissens aus dem direkten Kontrollbereich des Unternehmens.
Sinngemäß lautet die Einschätzung der Analysten: Jahrelange Workflow-Historien gehören zu den wertvollsten Vermögenswerten eines Softwareunternehmens. Open-Weight-Modelle erhalten die Kontrolle darüber, die Kostenersparnis kommt zusätzlich hinzu.
Für Unternehmen im DACH-Raum ist dieser Punkt wegen Datenschutz, geistigem Eigentum und Abhängigkeiten von außereuropäischen Cloud-Anbietern besonders relevant. Lokal oder in einer kontrollierten europäischen Umgebung betriebene Modelle können den Datenabfluss begrenzen. Dafür müssen allerdings Infrastruktur, Zugriffsrechte, Protokollierung und Modellaktualisierungen selbst organisiert werden.
Gartner erwartet 90 % Open Weight bis 2030
Als strategische Annahme prognostiziert Gartner, dass bis 2030 rund 90 % der operativen Schritte in Unternehmensagenten auf Open-Weight-Modellen laufen werden. Geschlossene Spitzenmodelle würden dann nicht verschwinden, sondern gezielter für die wenigen komplexen Aufgaben eingesetzt.
Die Analyse spricht damit gegen eine Architektur, bei der sämtliche Prozesse dauerhaft an einen einzigen KI-Anbieter gebunden sind. Eine eigene Orchestrierungsschicht ermöglicht es, Modelle nach Kosten, Datenschutz und Leistungsbedarf auszutauschen. Das senkt das Risiko eines Vendor-Lock-in und macht die laufenden Ausgaben besser steuerbar.
Offen bleibt, welche konkreten Open-Weight-Modelle untersucht wurden. Gartner nennt außerdem keine bevorzugten Orchestrierungs-Frameworks. Auch die Infrastruktur- und Betriebskosten des eigenen Hostings werden nicht detailliert den reinen API-Kosten gegenübergestellt, weshalb Unternehmen die Gesamtkosten für ihren jeweiligen Lastfall separat berechnen müssen.