Nvidia investiert in niedrigere GPU-Kosten

Nvidia beteiligt sich an einer 14-Millionen-Dollar-Runde für Simplismart, dessen Software KI-Modelle effizienter auf vorhandenen GPUs ausführen soll. Für Unternehmen könnte die Technik den Eigenbetrieb von KI wirtschaftlicher machen, doch Preise und Lizenzbedingungen sind bislang offen.

Nvidia investiert in niedrigere GPU-KostenBild: KI-generiert

Simplismart erhält 14 Millionen US-Dollar

Nvidia hat sich an einer Series-B-Finanzierung des indischen Startups Simplismart beteiligt. Die Runde umfasst 14 Millionen US-Dollar und wurde von Dallas Venture Capital angeführt. Weitere Investoren sind Accel, Shastra VC und Micromax.

Die Bewertung von Simplismart liegt einschließlich des neuen Kapitals bei rund 100 Millionen US-Dollar. Das 2022 gegründete Unternehmen beschäftigt 58 Mitarbeiter. Hinter dem Startup stehen Amritanshu Jain, zuvor bei Oracle, und Devansh Ghatak, zuvor bei Google.

KennzahlAngabe
Series-B-Finanzierung14 Mio. US-Dollar
UnternehmensbewertungRund 100 Mio. US-Dollar einschließlich des neuen Kapitals
Gründungsjahr2022
Beschäftigte58
Umsatzanteil aus den USAMehr als 50 %
Wachstum der annualisierten UmsatzrateFaktor 14 innerhalb von sechs Monaten

Software optimiert die KI-Inferenz

Simplismart konzentriert sich auf die Inferenz, also die eigentliche Ausführung eines bereits trainierten KI-Modells. Die Software sitzt zwischen dem Modell und der Recheninfrastruktur. Dort passt sie unter anderem Antwortzeit, Durchsatz und GPU-Verbrauch an die Anforderungen einer Anwendung an.

Unternehmen können Modelle über die Plattform von Simplismart, in einer bestehenden Cloud oder auf eigener Infrastruktur betreiben. Zum Angebot gehören außerdem automatische Skalierung, Überwachung und Funktionen zur Modellanpassung. Auch Cloud-Anbieter können damit eigene Inferenzdienste auf ihrer GPU-Infrastruktur aufbauen.

„Niemand braucht tatsächlich die schnellste oder die billigste Inferenz.“

Amritanshu Jain, Mitgründer und CEO von Simplismart, sinngemäß aus dem Englischen

Entscheidend ist vielmehr ein passendes Verhältnis aus Kosten und Leistung. Nach Angaben des Unternehmens kommt Simplismart vor allem dann zum Zug, wenn Kunden strikte Service Level Agreements, also zugesicherte Leistungswerte, und Vorgaben zu den Gesamtbetriebskosten einhalten müssen.

56 Prozent geringere GPU-Kosten bei InVideo

Der Kunde InVideo soll seine Kosten für die GPU-basierte Bereitstellung von Modellen um 56 % gesenkt haben. Dieser Wert stammt aus Angaben von Simplismart und wurde nicht unabhängig überprüft. Weitere Kunden sind HeyGen, Higgsfield, Ema und der indische Cloud-Anbieter Yotta.

Die annualisierte Umsatzrate ist laut Simplismart innerhalb von sechs Monaten um den Faktor 14 auf einen achtstelligen US-Dollar-Betrag gestiegen. Die genaue Höhe wurde nicht genannt. Zudem basiert die Kennzahl auf der aktuellen Nutzung und nicht vollständig auf vertraglich wiederkehrenden Umsätzen.

Nvidia unterstützt Software für weniger GPUs

Das Investment wirkt zunächst widersprüchlich. Nvidia verdient an einer hohen Nachfrage nach KI-Beschleunigern, während Simplismart verspricht, bestimmte Arbeitslasten mit weniger GPU-Kapazität abzuwickeln. Eine effizientere Inferenz kann jedoch die Einstiegskosten senken und dadurch insgesamt mehr KI-Anwendungen wirtschaftlich machen.

Nvidia arbeitet auch technisch mit Simplismart zusammen. Dazu gehört die Integration der Inferenz-Software Nvidia Dynamo. Mitarbeiter beider Unternehmen sind an dieser Zusammenarbeit beteiligt.

Der Markt ist allerdings dicht besetzt. AWS, Google Cloud und Microsoft Azure bieten eigene Werkzeuge zur Bereitstellung und Optimierung von Modellen an. Auch Nvidia tritt mit eigener Inferenz-Software auf, während spezialisierte Anbieter um dieselben Kunden konkurrieren.

Eigenbetrieb wird wirtschaftlich interessanter

Für Unternehmen im DACH-Raum ist die Technik besonders dann relevant, wenn Modelle aus Datenschutz- oder Souveränitätsgründen auf eigener Hardware oder bei einem europäischen Cloud-Anbieter laufen sollen. GPU-Kosten zählen zu den größten Hürden dieses Ansatzes. Eine effizientere Auslastung kann den Eigenbetrieb gegenüber nutzungsabhängigen APIs und KI-Abos konkurrenzfähiger machen.

Dass sich die Kosten durch Optimierung deutlich verändern lassen, zeigt auch die Open-Weight-Strategie von Aiven. Zugleich gewinnen offene Modelle in produktiven Infrastrukturen an Bedeutung, wie die Nutzung von Open-Weight-Modellen in Vercels KI-Gateway zeigt. Für vollständig lokale Szenarien stehen zudem Modelle wie Nvidia Nemotron 3.5 für lokale KI-Agenten bereit.

Die technische Optimierung allein beseitigt allerdings nicht jede Abhängigkeit. Wenn die zentrale Ausführungsschicht von einem einzelnen Anbieter stammt, entsteht ein neuer möglicher Vendor-Lock-in. Vor einer Einführung sind deshalb Exportmöglichkeiten, unterstützte Modelle, Wechselkosten und der Betrieb ohne externe Dienste zu prüfen.

Preise und Lizenzmodell bleiben offen

Simplismart nennt bislang keine detaillierten Preise für Endkunden oder On-Premises-Installationen. Damit lässt sich noch nicht belastbar beurteilen, wie hoch die tatsächliche Ersparnis nach Lizenz-, Integrations- und Betriebskosten ausfällt. Gerade bei einem Wechsel von SaaS oder API-Angeboten zum Eigenbetrieb ist diese Gesamtrechnung entscheidend.

Die Finanzierung zeigt dennoch, dass Inferenz-Optimierung zu einer eigenständigen Infrastrukturschicht wird. Je besser sich vorhandene GPUs auslasten lassen, desto kleiner wird der Kostenvorteil zentraler KI-Plattformen. Das stärkt die Position von Unternehmen, die Modelle kontrolliert in der eigenen Infrastruktur betreiben wollen.