Grace Blackwell · 72 GPUs · flüssigkeitsgekühlt
Das erste Rack-Scale-System mit Grace Blackwell: 72 GPUs in einer NVLink-Domäne für Modelle mit Billionen Parametern, mit starker doppelter Genauigkeit für die Wissenschaft.
GB200 NVL72 hat die Idee des Racks als Einheit der KI-Rechenleistung eingeführt. Sechsunddreißig GB200-Superchips, die jeweils eine Grace-CPU mit zwei Blackwell-GPUs koppeln, werden über NVLink-Switch-Trays zu einer Domäne mit 72 GPUs und 130 TB/s Bandbreite verbunden.
NVIDIA nennt bis zu 30-mal schnellere Echtzeit-Inferenz für Modelle mit Billionen Parametern, 4-mal schnelleres Training und 25-mal bessere Energieeffizienz als H100. Zudem bietet das System eine beachtliche Leistung bei doppelter Genauigkeit, 2.880 TFLOPS FP64 pro Rack, und ist damit eine starke Wahl, wenn dieselbe Kapazität KI und wissenschaftlichem Rechnen dient.
Während GB300 zum Standard für neue reine KI-Systeme wird, bleibt GB200 eine ausgereifte, gut verstandene Plattform und passt gut zu Forschungs- und Souveränitätsprogrammen, die Wert auf FP64 und bewährte Software legen.
Modelle, die für einen einzelnen Server zu groß sind, bleiben innerhalb der NVLink-Fabric des Racks, sodass das Netzwerk bei Tensor- und Expertenparallelität nicht zum Engpass wird.
Anders als Blackwell Ultra bietet GB200 eine starke FP64-Leistung, sodass Simulations- und KI-Anwender dieselbe Rack-Scale-Kapazität teilen können.
Flüssigkeitskühlung und Grace-CPUs liefern eine deutlich bessere Leistung pro Watt als eine vergleichbare Hopper-Umgebung; NVIDIA beziffert den Vorteil bei Inferenz auf das 25-Fache.
Frameworks, Scheduler und Inferenzserver sind schon länger auf GB200 abgestimmt, was das Risiko für Erstkäufer von Rack-Scale-Systemen senkt.
Von NVIDIA veröffentlichte Werte für das Rack.
| Konfiguration | 36 Grace CPUs, 72 Blackwell GPUs (36 GB200 superchips) |
|---|---|
| GPU-Speicher | 13.4 TB HBM3e, 576 TB/s |
| CPU | 2,592 Arm Neoverse V2 cores, 17 TB LPDDR5X at 14 TB/s |
| NVLink | 130 TB/s across the rack |
| NVFP4-Tensor-Core | 1,440 | 720 PFLOPS |
| FP8 / FP16 Tensor Core | 720 / 360 PFLOPS (sparse) |
| FP64 | 2,880 TFLOPS |
| Kühlung | Fully liquid cooled |
Die Angaben sind die von NVIDIA veröffentlichten Spezifikationen der Plattform. Wo NVIDIA zwei Tensor-Core-Werte nennt, gilt der erste mit Sparsity, der zweite dicht. Der genaue Aufbau (CPUs, Arbeitsspeicher, Speicher, Kühlung, Netzwerk) wird mit Ihnen abgestimmt und in einem schriftlichen Angebot bestätigt.
Was ein GB200-NVL72-Rack benötigt.
| Stromverbrauch | Around 120 to 130 kW per rack (published estimate) |
|---|---|
| Kühlung | Direct liquid cooling with coolant distribution and facility water |
| Boden und Zugang | Rack weight, door heights and lift capacity checked for rack-level delivery |
| Netzwerk | 800 Gb/s-class fabric to other racks and storage |
Ein verantwortliches britisches Team von der Dimensionierung bis zum laufenden Betrieb
Strom, Kühlkreislauf und Zugang, geplant mit Ihrem Facility-Team oder Colocation-Anbieter.
Lieferung auf Rack-Ebene, Befüllung mit Kühlmittel, Einschalten und Burn-in.
NVLink-, Fabric-, FP64- und KI-Benchmarks, dokumentiert gegenüber vereinbarten Zielwerten.
Monitoring, Firmware- und Software-Lebenszyklus sowie SysOps247, wenn wir den Betrieb übernehmen sollen.
NVIDIA-Rechenzentrums-GPUs werden von NVIDIA und den Serverherstellern zugeteilt, und die Lieferzeiten werden eher in Monaten als in Wochen gemessen. Komplette, getestete Systeme erhalten in der Regel früher eine Zuteilung als Einzelteile, daher bieten wir diese Plattformen als fertige Systeme an. Lieferungen außerhalb Großbritanniens und viele fortschrittliche GPUs auch im Inland erfordern eine Endverbleibs- und Verwendungsprüfung nach britischen und US-amerikanischen Exportvorschriften, bevor wir die Lieferung bestätigen können.
Trade-Mitglieder erhalten Zeit unserer Ingenieure für Beschaffungs- und Designfragen, frühen Zugriff auf Lagerbestände und Vorrang auf Wartelisten sowie kostenlosen technischen Support bei jeder Bestellung.
Für reine KI-Arbeit ist GB300 die neuere und schnellere Option. Für gemischte KI- und FP64-Wissenschaft oder wenn eine bewährte Plattform am wichtigsten ist, bleibt GB200 eine ausgezeichnete Wahl.
Ja. Beide werden mit Geschwindigkeiten der 800-Gb/s-Klasse an InfiniBand oder Spectrum-X angebunden, sodass sie Speicher und einen Scheduler teilen können, auch wenn jedes Rack eine eigene NVLink-Domäne bleibt.
Sagen Sie uns, was sie produzieren soll, wie viele Menschen sie nutzen werden und wo sie stehen würde. Ein Ingenieur meldet sich mit einer dimensionierten Empfehlung und einer ehrlichen Einschätzung, ob sich Eigentum für Sie lohnt.