NVIDIA, bekannt für seine bahnbrechenden Fortschritte in der Technologiewelt, öffnet erneut die Tür zu unbegrenzten Möglichkeiten in der KI-Hardware.
In einer beeindruckenden Keynote auf der IT-Messe Computex hat NVIDIA CEO Jensen Huang das neueste Meisterwerk des Unternehmens vorgestellt: das Serversystem DGX GH200. Dieses System, ein wahrer Titan der Technologie, verfügt über 256 Grace-Hopper-Kombibeschleuniger, die durch NVLink miteinander verbunden sind. Es erreicht mit einem speziell für KI-Berechnungen entwickelten 8-Bit-Datentyp (FP8) eine Geschwindigkeit von 1 Exaflop und mit Gleitkommazahlen doppelter Genauigkeit (FP64) immerhin 17 Petaflops.
Die GH200 Beschleuniger sind eine Kombination aus einer Grace-CPU mit 72 Neoverse-V2-ARM-Kernen und der leistungsstarken H100-GPU mit Tensor-Kernen. Sie kommunizieren mit einer beeindruckenden Geschwindigkeit von 900 GB/s über NVLink und ermöglichen den Zugriff auf 144 TByte gemeinsam genutzten Speicher. Ein solches System hat bereits die Aufmerksamkeit großer Namen wie Google, Meta und Microsoft auf sich gezogen, die bereits Bestellungen aufgegeben haben. Doch NVIDIA ruht sich nicht auf seinen Lorbeeren aus. Das Unternehmen plant den Bau eines KI-Supercomputers namens Helios, bestehend aus vier DGX-GH200-Servern. Zusätzlich wurde die offene Serverarchitektur „MGX“ vorgestellt, die es Serverherstellern ermöglicht, auf ein bis vier Höheneinheiten das komplette GPU-Portfolio von NVIDIA mit Grace-CPUs, GH200 oder x86-Prozessoren zu kombinieren.