AMD Helion bündelt KI-Agenten und Inferenz
AMD erweitert sein Rack-Scale-Portfolio um Helion, ein Referenzdesign für den Betrieb von KI-Agenten. Die Architektur soll wahlweise als reine CPU-Konfiguration oder als gemischtes System mit CPUs und GPUs umgesetzt werden. Varianten mit Luftkühlung und Flüssigkeitskühlung sind vorgesehen.
Im Unterschied zu einem einzelnen KI-Server beschreibt Helion den Aufbau eines vollständigen Racks. Die Enterprise-Konfiguration vereint die Ausführung von Agenten, die GPU-basierte Inferenz und unterstützende Aufgaben wie Datenbanken oder Speicher. Dadurch lassen sich mehrere Bestandteile einer Agentenplattform in einer gemeinsamen Infrastruktur betreiben.
Für Unternehmen mit hohen Anforderungen an Datenhoheit ist das relevant. KI-Agenten und Modelle können im eigenen Rechenzentrum oder in einer Colocation-Umgebung laufen, statt sensible Daten dauerhaft an externe Cloud-Dienste zu übertragen. Einen ähnlichen Ansatz verfolgt OpenDesk mit KI-Agenten und Air-Gap-Betrieb, allerdings auf einer anderen Ebene des Software-Stacks.
Bis zu 32.768 Zen-6-Kerne pro Rack
In der maximalen Konfiguration unterstützt Helion bis zu 32.768 Zen-6-CPU-Kerne. Zum Einsatz kommen sollen Venice Epyc Prozessoren mit bis zu 256 Kernen. Für Inferenzaufgaben lassen sich bis zu 16 Instinct MI350P Beschleuniger integrieren.
| Komponente | Helion-Konfiguration |
|---|---|
| CPU-Kapazität | Bis zu 32.768 Zen-6-Kerne pro Rack |
| Prozessor | Venice Epyc mit bis zu 256 Kernen |
| GPU-Kapazität | Bis zu 16 Instinct MI350P |
| Netzwerk | Bis zu 102 Tbps Bandbreite |
| GPU-Blade | 8 Instinct MI350P in einem 5U-Server |
| Kühlung | Luft- oder Flüssigkeitskühlung |
Drei CPU-Blades für unterschiedliche Lasten
AMD plant drei Klassen von CPU-Blades. Die Dense-Variante nutzt EPYC 9006 Prozessoren mit einer Leistungsaufnahme von 400 W. Balanced-Blades sind auf 256 Kerne und 600 W ausgelegt, während Performance-Blades 96 Kerne mit 5 GHz kombinieren.
| CPU-Blade | Ausrichtung | Genannte Eckdaten |
|---|---|---|
| Dense | Hohe Packungsdichte | EPYC 9006, 400 W |
| Balanced | Ausgewogene Rechenleistung | 256 Kerne, 600 W |
| Performance | Hohe Leistung pro Kern | 96 Kerne, 5 GHz |
Die CPU-only-Ausführung richtet sich an Hyperscaler. Sie stellt Rechenleistung für die Agentenausführung bereit und bindet separate Infrastruktur für die Modellinferenz an. Die gemischte Enterprise-Version bringt Agentenlogik, GPU-Inferenz und allgemeine Serveraufgaben in einem Rack zusammen.
Für unterschiedliche Arbeitslasten brauche es optimierte und anpassbare Infrastruktur. Helion verbinde Epyc-Leistung, offene Software und flexible Rack-Designs, damit Partner Systeme am Kundenbedarf und an der verfügbaren Energie ausrichten können, erklärte AMD sinngemäß.
OCP-Spezifikation soll offengelegt werden
Helion ist mit dem Open Compute Project, kurz OCP, konform. OCP entwickelt offene Spezifikationen für Rechenzentrums-Hardware. AMD plant, die Helion-Spezifikation der Community zur weiteren Nutzung und Entwicklung bereitzustellen.
Cisco, Dell, HPE, Foxconn, Lenovo und Supermicro wollen Systeme auf Grundlage des Designs anbieten. Partnerkonfigurationen sind für November 2026 angekündigt. Konkrete Liefertermine und Preise für den europäischen Markt stehen bislang nicht fest.
Die offene Spezifikation kann den Austausch von Komponenten und die Auswahl zwischen verschiedenen Systemherstellern erleichtern. Sie beseitigt jedoch nicht jede Abhängigkeit, da das Referenzdesign auf AMD-Prozessoren und AMD-Beschleunigern basiert. Wie offen einzelne Partner ihre Managementsoftware und Wartungsmodelle gestalten, bleibt ebenfalls von deren Umsetzung abhängig.
Self-Hosting statt dauerhaftem Inferenz-Abo
Für größere Unternehmen im DACH-Raum schafft Helion eine mögliche Hardware-Basis für das Self-Hosting von KI-Agenten. Kurze Wege zwischen Agentenausführung, Datenhaltung und Modellinferenz können Latenzen reduzieren. Zugleich bleiben Unternehmensdaten innerhalb der selbst kontrollierten Infrastruktur, was bei DSGVO, Betriebsgeheimnissen und internen Zugriffsregeln Vorteile bieten kann.
Das bedeutet jedoch nicht automatisch niedrigere Kosten. AMD nennt weder Anschaffungspreise noch Betriebskosten. Auch Benchmarks zur realen Energieeffizienz und Vergleiche mit Nvidia-basierten Racks fehlen bislang.
Die Wirtschaftlichkeit hängt deshalb von Auslastung, Stromversorgung, Kühlung, Personal und Wartungsverträgen ab. Kleine lokale Systeme wie der Nvidia DGX Spark adressieren eine deutlich niedrigere Leistungsklasse. Helion richtet sich dagegen an Organisationen, die viele Agenten und Inferenzaufgaben konsolidiert im eigenen Rechenzentrum betreiben wollen.
Strategisch bietet das Design eine Alternative zu dauerhaft verbrauchsabhängiger Cloud-Inferenz. Der Preis dafür ist höhere operative Verantwortung. Hardwarebetrieb, Kapazitätsplanung und Sicherheitsaktualisierungen liegen bei einer eigenen Lösung nicht mehr vollständig beim Cloud-Anbieter.