Thema

Modell Routing

Open-Weight-Modelle dominieren Vercels KI-GatewayBild: KI-generiert
KI-Kosten

Open-Weight-Modelle dominieren Vercels KI-Gateway

Open-Weight-Modelle verarbeiteten im September 71,5 % der Token über Vercels AI Gateway und erreichten fast ein Viertel der Ausgaben. Der Wettbewerb drückt die Tokenpreise, doch Handelsbeschränkungen und die Abhängigkeit von Hosting-Anbietern schaffen neue Risiken.

Open-Weights: 4,4 Monate Rückstand, 80 % günstigerBild: KI-generiert
KI-Kosten

Open-Weights: 4,4 Monate Rückstand, 80 % günstiger

Open-Weights-Modelle liegen laut Mozilla nur noch 4,4 Monate hinter proprietären Spitzenmodellen, kosten pro erledigter Aufgabe aber teilweise 80 % weniger. Für Unternehmen spricht das für eine aufgabenbezogene Modellauswahl statt einer pauschalen Bindung an teure KI-Anbieter.

Salesforce Koa: Reasoning-Modell mit NvidiaBild: KI-generiert
Salesforce

Salesforce Koa: Reasoning-Modell mit Nvidia

Salesforce und Nvidia haben mit Koa ein auf Unternehmensaufgaben spezialisiertes Reasoning-Modell entwickelt. Es soll Agentforce unabhängiger von geschlossenen Spitzenmodellen machen, den Tokenverbrauch senken und ohne echte Kundendaten trainiert worden sein.

KI-Ausgaben bei Top-Nutzern sinken um fast 10 %Bild: KI-generiert
KI-Kosten

KI-Ausgaben bei Top-Nutzern sinken um fast 10 %

Die Verbreitung kostenpflichtiger KI-Produkte wuchs im August nur noch leicht. Bei den größten KI-Nutzern sanken die Ausgaben pro Mitarbeiter um fast 10 %, während der durchschnittliche Token-Preis deutlich nachgab.

Spotify senkt Claude-Code-Tokenverbrauch um 90 %Bild: KI-generiert
KI-Kosten

Spotify senkt Claude-Code-Tokenverbrauch um 90 %

Spotify reduziert den Token-Verbrauch von Claude Code bei dateiintensiven Aufgaben nach eigenen Tests um durchschnittlich 90 %. Ein eigenes Routing delegiert große Lesevorgänge und Boilerplate-Code an Gemini 2.5 Flash, während Claude für anspruchsvolle Analysen zuständig bleibt.

Replit: Auto Mode routet KI-Modelle automatischBild: KI-generiert
Coding-Agenten

Replit: Auto Mode routet KI-Modelle automatisch

Replit macht den Auto Mode zur Standardeinstellung und verteilt Entwicklungsaufgaben dynamisch auf passende KI-Modelle. Das kann Token-Kosten senken, verlagert die Kontrolle über Modellauswahl und Infrastruktur aber stärker zur Plattform.

OpenAI holt bei US-Geschäftskunden wieder aufBild: KI-generiert
OpenAI

OpenAI holt bei US-Geschäftskunden wieder auf

Ramp-Ausgabendaten von mehr als 70.000 US-Unternehmen zeigen, dass OpenAI im laufenden Quartal wieder schneller wächst als Anthropic. Die schnellen Marktverschiebungen sprechen für modulare KI-Architekturen, bei denen sich Modelle ohne grundlegenden Umbau austauschen lassen.

Ramp Router verteilt KI-Anfragen zwischen ModellenBild: KI-generiert
Modell Routing

Ramp Router verteilt KI-Anfragen zwischen Modellen

Ramp startet mit Router eine zentrale API für Modelle von OpenAI, Anthropic, DeepSeek und weiteren Anbietern. Bis Ende 2026 fällt keine Servicegebühr an, die Inferenzkosten bleiben jedoch bestehen. Für den DACH-Raum sind die US-Beschränkung und die standardmäßige Datenspeicherung von einem Jahr entscheidende Hürden.

KI-Agenten: Inferenzkosten könnten sich verfünffachenBild: KI-generiert
KI-Kosten

KI-Agenten: Inferenzkosten könnten sich verfünffachen

Gartner erwartet bis 2028 eine Verfünffachung der Inferenzkosten pro agenten-basiertem Workflow. Sinkende Tokenpreise reichen demnach nicht aus, weil autonome Abläufe immer mehr Modellaufrufe, Schlussfolgerungen und Kontrollschleifen benötigen.

Stripe kauft OpenRouter für über 7 Mrd. DollarBild: KI-generiert
KI-Kosten

Stripe kauft OpenRouter für über 7 Mrd. Dollar

Der Zahlungsdienstleister Stripe soll die Übernahme des KI-Gateways OpenRouter für mehr als 7 Milliarden US-Dollar abgeschlossen haben. Das Startup bündelt den Zugang zu über 400 KI-Modellen hinter einer Schnittstelle und war im Mai 2026 noch mit 1,3 Milliarden US-Dollar bewertet. Offiziell bestätigt ist der Deal bislang nicht.

Nvidia Nemotron Lightning: Kleines Modell mit RouterBild: KI-generiert
LLM

Nvidia Nemotron Lightning: Kleines Modell mit Router

Nvidia stellt ein kleineres und schnelleres Modell der Nemotron-Reihe vor und liefert dazu einen Router, der Anfragen auf das passende Modell verteilt. Die Produktnamen lauten offenbar Nemotron Lightning und Switchyard. Technische Details, Benchmarks und die Lizenzbedingungen sind bislang nicht bestätigt.