Deutsche Telekom bringt NVIDIA DSX OS in ihrer Industrial AI Cloud in den Produktivbetrieb

Deutsche Telekom hat einen wichtigen Schritt für die industrielle KI in Deutschland gemacht. In ihrer Industrial AI Cloud laufen jetzt Komponenten von NVIDIA DSX OS im Produktivbetrieb. Damit können Unternehmen ihre eigene private KI-Cloud in wenigen Stunden bekommen, statt tagelang auf manuelle Einrichtung zu warten. Die Daten bleiben dabei in Deutschland, und jede Kundin und jeder Kunde bekommt eine eigene, abgeschottete Umgebung.

Was die Telekom jetzt in Betrieb genommen hat

Die Deutsche Telekom nutzt Automatisierung des Unternehmens vCluster zusammen mit Teilen von NVIDIA DSX OS in ihrer Industrial AI Cloud. Nach Angaben der Beteiligten ist es die erste groß angelegte industrielle KI-Cloud, in der NVIDIA DSX OS produktiv läuft. Das System richtet private KI-Umgebungen automatisch ein, von der blanken Hardware bis zur fertigen Cloud.

Jeder Kunde erhält eine eigene Internetadresse, eine eigene Cloud-Konsole, Werkzeuge zur Beobachtung des Systems und ein isoliertes Netzwerk, das in Deutschland betrieben wird. Die Umgebung ist also nicht mit anderen Kunden geteilt, sondern steht nur dem jeweiligen Unternehmen zur Verfügung. Das ist der Kern des Angebots: eine private KI-Cloud, die sich anfühlt wie eine eigene Infrastruktur, aber ohne den Aufwand, sie selbst zu bauen und zu betreiben.

vCluster wurde von deutschen Ingenieuren gegründet und hat die Architektur zusammen mit der Deutschen Telekom und dem NVIDIA-DSX-Team entwickelt. Die Automatisierung übernimmt die Schritte, die früher mehrere Teams und mehrere Tage gebraucht haben.

So funktioniert die private KI-Cloud

Im Zentrum des Systems stehen mehrere Bausteine von NVIDIA DSX OS. Dazu gehören NVSentinel, das Fehler an Grafikprozessoren erkennt und in Kubernetes-Umgebungen automatisch behebt, sowie der NVIDIA GPU Operator und der NVIDIA Network Operator. vCluster orchestriert diese Bausteine zu einem wiederholbaren Ablauf, der Kunden von reinen NVIDIA-GPUs zu einer fertigen privaten Cloud führt.

Für jeden Kunden wird außerdem eine eigene Steuerungsebene für die Verwaltung angelegt. Die Nutzer melden sich über ein eigenes Portal der Deutschen Telekom an und können dort Kubernetes, Slurm, virtuelle GPU-Maschinen oder Bare-Metal-Systeme bereitstellen, entweder über das Portal oder über eine Programmierschnittstelle. Die Plattform kann verschiedene Hardwaregenerationen über eine einzige Oberfläche verwalten.

Für die Bare-Metal-Bereitstellung wird vMetal eingesetzt. Es läuft über NVIDIA RTX PRO Server und NVIDIA DGX B200 Systeme, und NVIDIA DGX B300 soll hinzukommen. Auch künftige Systeme wie NVIDIA Vera Rubin NVL72 sind für die Plattform vorgesehen. Für Kunden bedeutet das: Neue Hardwaregenerationen kommen hinzu, ohne dass sich die Bedienung ändert.

Warum die Industrie auf eine eigene Cloud setzt

Die Industrial AI Cloud richtet sich an Unternehmen, die sensible Industriedaten in Deutschland behalten wollen und gleichzeitig die Anforderungen an Souveränität, Sicherheit und Compliance erfüllen müssen. Viele Industrieunternehmen arbeiten mit geistigem Eigentum, das sie nicht in eine geteilte öffentliche Cloud legen wollen. Eine eigene, isolierte Umgebung löst dieses Problem, ohne dass das Unternehmen selbst ein Rechenzentrum für KI betreiben muss.

Der Dienst ist nach Angaben der Telekom so gebaut, dass er die C5-Kriterien für Cloud-Sicherheit in Deutschland erfüllt. C5 ist der Kriterienkatalog des Bundesamts für Sicherheit in der Informationstechnik für Cloud-Dienste. Hinzu kommen weitere Anforderungen der Kunden an private Infrastruktur und isolierten Betrieb. Für Unternehmen aus regulierten Branchen ist das ein wichtiges Argument, weil sie nachweisen müssen, wo ihre Daten liegen und wer darauf zugreifen kann.

Die erste Phase des Projekts hat nach Angaben der Telekom die erste souveräne NVIDIA-KI-Fabrik Deutschlands in München ans Netz gebracht. Die aktuelle Phase geht einen Schritt weiter: Industriekunden sollen standardisierte, isolierte Umgebungen erhalten, ohne selbst GPU-Cloud-Infrastruktur aufbauen und betreiben zu müssen. Der erste Kunde, der seine eigene private KI-Cloud über den Dienst nutzt, ist nach Angaben der Unternehmen ein führender deutscher Automobilhersteller.

Von 500 auf mehr als 10.000 GPUs

Die Telekom plant, die Plattform deutlich auszubauen. Heute laufen 500 von vCluster unterstützte NVIDIA-GPUs auf der Plattform. In Zukunft sollen es mehr als 10.000 NVIDIA Blackwell und NVIDIA Rubin GPUs werden. Das ist ein zwanzigfacher Ausbau der Kapazität und zeigt, wie groß die Nachfrage nach privater KI-Infrastruktur in der deutschen Industrie eingeschätzt wird.

Auch die Software soll weiter wachsen. Die Telekom bindet weitere NVIDIA-Software ein, darunter Bibliotheken und Frameworks von NVIDIA Omniverse sowie das quelloffene NVIDIA Run:ai, das den Kunden als vCluster Stacks bereitgestellt wird. Kunden können dadurch neue GPU-Kapazität und neuere Chipgenerationen nutzen, ohne ihre Arbeitsweise zu ändern.

Andreas Falkner, Leiter der Industrial AI Cloud bei der Deutschen Telekom, sagte, die Architektur solle die Aufnahme neuer Kunden vereinfachen und gleichzeitig die Umgebungen getrennt halten. Lukas Gentele, Mitgründer und Geschäftsführer von vCluster Labs, nannte das Projekt einen Produktivbetrieb des NVIDIA-Software-Stacks im industriellen Umfeld. Nico Caprez, Vizepräsident für KI-Infrastrukturwachstum bei NVIDIA, verwies auf den größeren Zusammenhang: KI-Fabriken von NVIDIA verwandelten Energie in wertvolle Intelligenz und Tokens in Umsatz, und vCluster helfe der Telekom, KI in großem Maßstab produktiv einzusetzen.

Was das für deutsche Unternehmen bedeutet

Für deutsche Industrieunternehmen ist das Angebot vor allem deshalb interessant, weil es zwei Dinge verbindet, die sonst schwer zusammenzubringen sind: Kontrolle und Geschwindigkeit. Eine eigene KI-Umgebung in Stunden statt in Tagen, mit Daten in Deutschland und einer eigenen Konsole, senkt die Hürde für Unternehmen, die KI in der Produktion, in der Entwicklung oder in der Verwaltung einsetzen wollen.

Der Ansatz passt zu einem größeren Trend in Deutschland und Europa. Nach dem Digital-Gipfel der Bundesregierung und der KI-Strategie bis 2030 suchen viele Unternehmen nach KI-Infrastruktur, die europäischen Anforderungen genügt und gleichzeitig schnell verfügbar ist. Eine private KI-Cloud, die sich automatisch einrichten lässt, ist eine Antwort auf genau diese Nachfrage.

Offen bleibt, wie schnell sich der Ausbau auf mehr als 10.000 GPUs umsetzen lässt und welche weiteren Branchen nach der Automobilindustrie folgen. Klar ist schon jetzt: Mit dem Produktivbetrieb von NVIDIA DSX OS hat die Deutsche Telekom ein Angebot geschaffen, das deutsche Industrieunternehmen ohne eigene GPU-Infrastruktur in die Lage versetzt, KI-Anwendungen in einer eigenen, abgeschotteten Umgebung zu betreiben.

Frequently Asked Questions

Was ist NVIDIA DSX OS?

NVIDIA DSX OS ist ein Software-Stack für KI-Fabriken. Er enthält Bausteine wie NVSentinel zur Fehlererkennung an GPUs, den GPU Operator und den Network Operator. Die Deutsche Telekom setzt diese Bausteine jetzt in ihrer Industrial AI Cloud produktiv ein, um private KI-Umgebungen automatisch bereitzustellen.

Was ist die Industrial AI Cloud der Deutschen Telekom?

Die Industrial AI Cloud ist ein Angebot der Deutschen Telekom für Industrieunternehmen. Kunden erhalten eine eigene private KI-Cloud mit eigener Internetadresse, eigener Konsole und isoliertem Netzwerk, das in Deutschland betrieben wird. Die erste Phase brachte eine souveräne NVIDIA-KI-Fabrik in München ans Netz.

Wie schnell bekommen Unternehmen ihre private KI-Cloud?

Nach Angaben der Unternehmen dauert die Einrichtung wenige Stunden statt mehrerer Tage manueller Arbeit. Die Automatisierung von vCluster übernimmt die Schritte von der Hardware bis zur fertigen Cloud-Umgebung. Kunden können danach Kubernetes, Slurm, virtuelle GPU-Maschinen oder Bare-Metal-Systeme über ein Portal oder eine Schnittstelle bereitstellen.