Ramp startet eigenen KI-Modell-Router
Die US-Fintech-Plattform Ramp hat einen API-Dienst namens Router gestartet. Ein Modell-Router ist eine zentrale Vermittlungsschicht, die KI-Anfragen abhängig von Kosten, Leistung oder Verfügbarkeit an unterschiedliche Modelle weiterleitet.
Router unterstützt Modelle von OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI und Z.ai. Ramp gibt an, die zugrunde liegende Technik bereits seit drei Jahren für den eigenen KI-Einsatz zu verwenden.
Der Dienst ist vorerst ausschließlich in den USA verfügbar. Ob und wann Ramp einen Start in Europa plant, ist nicht bekannt.
Routing nach Kosten, Leistung und Schwierigkeit
Unternehmen können verschiedene Strategien für die Modellwahl hinterlegen. Dazu zählen bevorzugte Tarifstufen der Modellanbieter, sogenannte Flex Usage Tiers, sowie bis zu drei eigene Benchmarks. Router kann außerdem einfache Aufgaben an günstigere Modelle und anspruchsvolle Anfragen an leistungsfähigere, teurere Modelle senden.
Ein Dashboard zeigt Token-Verbrauch, Kosten, Antwortzeiten und fehlgeschlagene Weiterleitungsversuche. Fallbacks sorgen dafür, dass eine Anfrage bei Problemen an ein anderes Modell übergeben werden kann.
| Merkmal | Angabe von Ramp |
|---|---|
| Unterstützte Anbieter | OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI und Z.ai |
| Eigene Benchmarks | Bis zu 3 |
| Servicegebühr | 0 US-Dollar bis Ende 2026 |
| Startguthaben | 26 US-Dollar |
| Inferenzkosten | Werden weiterhin berechnet |
| Standardmäßige Datenspeicherung | 1 Jahr |
| Verfügbarkeit | Nur USA |
Wie hoch die Gebühren ab 2027 ausfallen, hat Ramp nicht mitgeteilt. Die kostenlose Nutzung bezieht sich zudem nur auf den Routing-Dienst. Die Kosten der jeweils verwendeten KI-Modelle bleiben bestehen.
Gerade bei wachsendem Agenteneinsatz kann diese Trennung relevant werden. Schätzungen zu einer möglichen Vervielfachung der Inferenzkosten durch KI-Agenten zeigen, warum Unternehmen Modellwahl und Token-Verbrauch nicht dem Zufall überlassen sollten.
Ein Jahr Datenspeicherung als Voreinstellung
Der kritischste Punkt ist die Datenhaltung. Ramp speichert Modelleingaben, Ausgaben und Tool-Aufrufe standardmäßig für ein Jahr. Die Speicherung folgt einem Opt-out-Modell, muss also aktiv deaktiviert werden.
Ramp will personenbezogene Informationen entfernen, bevor gespeicherte Inhalte zur Verbesserung des Produkts verwendet werden, sinngemäß aus dem Englischen übersetzt.
Offen bleibt, wie das Opt-out technisch und vertraglich umgesetzt wird. Ebenso ist bislang nicht bekannt, ob Ramp für einen möglichen europäischen Betrieb einen Auftragsverarbeitungsvertrag nach DSGVO anbieten würde.
Für Unternehmen im DACH-Raum wäre eine solche Voreinstellung besonders bei Quellcode, Vertragsdaten, Kundendaten oder internen Agentenprozessen problematisch. Dass andere Anbieter für ausgewählte Modelle inzwischen Zero Data Retention ohne dauerhafte Speicherung anbieten, erhöht den Druck auf Ramp, seine Datenschutzoptionen klarer zu definieren.
Weniger Modellbindung, neue Gateway-Abhängigkeit
Ein Router kann den Vendor Lock-in auf Modellebene reduzieren. Anwendungen müssen nicht fest mit einer einzelnen API verbunden bleiben und können Modelle nach Preis, Qualität oder Auslastung wechseln. Das erleichtert auch Tests neuer Anbieter, ohne jede Integration neu zu entwickeln.
Allerdings entsteht an anderer Stelle eine neue Abhängigkeit. Das Gateway sieht sämtliche Prompts, Antworten und Tool-Aufrufe. Es beeinflusst außerdem, welches Modell eine Anfrage erhält und welche Kosten entstehen.
Diese strategische Position erklärt auch das Interesse großer Zahlungsplattformen am Markt. Die Übernahme von OpenRouter durch Stripe zeigt, wie wertvoll die Vermittlung zwischen Unternehmen und Modellanbietern geworden ist.
Self-Hosting bleibt die kontrollierbare Alternative
Open-Source-Router im eigenen Betrieb können die zentrale Weiterleitung ebenfalls abbilden. Dabei bleiben Protokolle, Routing-Regeln und sensible Inhalte unter eigener Kontrolle. Gleichzeitig entstehen Aufwand für Betrieb, Überwachung, Anbieterintegration und Ausfallsicherheit.
Die wirtschaftliche Abwägung hängt deshalb nicht allein von Token-Preisen ab. Entscheidend sind auch Datenschutz, interner Betriebsaufwand und die Kosten eines späteren Anbieterwechsels. Ramp finanziert den Markteintritt vorerst ohne Servicegebühr, doch das Preismodell ab 2027 ist offen.
Das Unternehmen selbst ist finanziell stark aufgestellt. Ramp nahm im Juni 750 Mio. US-Dollar bei einer Bewertung von 44 Mrd. US-Dollar auf. Router erweitert das bisherige Geschäft mit Ausgabenverwaltung um eine Kontrollschicht für KI-Kosten, ist für europäische Unternehmen aktuell aber weder verfügbar noch datenschutzrechtlich ausreichend eingeordnet.