Grace Blackwell · 72 GPU · refroidissement liquide
Le premier système rack-scale Grace Blackwell : 72 GPU dans un seul domaine NVLink pour des modèles à mille milliards de paramètres, avec une double précision performante pour la science.
GB200 NVL72 a introduit l'idée de la baie comme unité de calcul IA. Trente-six superpuces GB200, associant chacune un CPU Grace à deux GPU Blackwell, sont reliées par des tiroirs NVLink Switch en un seul domaine de 72 GPU offrant 130 TB/s de bande passante.
NVIDIA annonce une inférence en temps réel jusqu'à 30 fois plus rapide pour les modèles à mille milliards de paramètres, un entraînement 4 fois plus rapide et une efficacité énergétique 25 fois supérieure à H100. Il conserve aussi des performances substantielles en double précision, 2 880 TFLOPS en FP64 par baie, ce qui en fait un excellent choix lorsque la même capacité sert à la fois l'IA et le calcul scientifique.
Alors que GB300 devient la référence pour les nouvelles installations dédiées à l'IA, GB200 reste une plateforme mature et bien maîtrisée, idéale pour les programmes de recherche et souverains qui accordent de l'importance au FP64 et à des logiciels éprouvés.
Les modèles trop grands pour un serveur restent dans la fabric NVLink de la baie, ce qui évite que le réseau devienne le goulot d'étranglement du parallélisme tensoriel et d'experts.
Contrairement à Blackwell Ultra, GB200 conserve un FP64 performant : les utilisateurs de simulation et d'IA peuvent partager la même capacité rack-scale.
Le refroidissement liquide et les CPU Grace offrent des performances par watt bien supérieures à un parc Hopper équivalent, que NVIDIA évalue à 25 fois pour l'inférence.
Les frameworks, ordonnanceurs et serveurs d'inférence sont optimisés pour GB200 depuis plus longtemps, ce qui réduit le risque pour un premier achat rack-scale.
Chiffres publiés par NVIDIA pour la baie.
| Configuration | 36 Grace CPUs, 72 Blackwell GPUs (36 GB200 superchips) |
|---|---|
| Mémoire GPU | 13.4 TB HBM3e, 576 TB/s |
| Processeur | 2,592 Arm Neoverse V2 cores, 17 TB LPDDR5X at 14 TB/s |
| NVLink | 130 TB/s across the rack |
| NVFP4 Tensor Core | 1,440 | 720 PFLOPS |
| Tensor Core FP8 / FP16 | 720 / 360 PFLOPS (sparse) |
| FP64 | 2,880 TFLOPS |
| Refroidissement | Fully liquid cooled |
Les chiffres sont les spécifications publiées par NVIDIA pour la plateforme. Lorsque NVIDIA indique deux valeurs pour les Tensor Cores, la première suppose la sparsité et la seconde est dense. La configuration exacte (processeurs, mémoire, stockage, refroidissement, réseau) est convenue avec vous et confirmée par un devis écrit.
Ce dont une baie GB200 NVL72 a besoin.
| Consommation | Around 120 to 130 kW per rack (published estimate) |
|---|---|
| Refroidissement | Direct liquid cooling with coolant distribution and facility water |
| Sol et accès | Rack weight, door heights and lift capacity checked for rack-level delivery |
| Réseau | 800 Gb/s-class fabric to other racks and storage |
Une seule équipe responsable au Royaume-Uni, du dimensionnement à l'exploitation au quotidien
Alimentation, boucle de refroidissement et accès planifiés avec vos services techniques ou votre fournisseur de colocation.
Livraison au niveau de la baie, remplissage du liquide de refroidissement, mise sous tension et rodage.
Benchmarks NVLink, fabric, FP64 et IA consignés par rapport aux objectifs convenus.
Supervision, cycle de vie des firmwares et des logiciels, et SysOps247 si vous souhaitez que nous l'exploitions.
Les GPU NVIDIA pour centres de données sont alloués par NVIDIA et les constructeurs de serveurs, et les délais se comptent en mois plutôt qu'en semaines. Les systèmes complets et testés obtiennent généralement une allocation plus tôt que les composants seuls ; nous chiffrons donc ces plateformes sous forme de systèmes assemblés. Les expéditions hors du Royaume-Uni, et de nombreux GPU avancés au Royaume-Uni même, nécessitent une vérification de l'utilisateur final et de l'utilisation finale au titre des règles d'exportation britanniques et américaines avant que nous puissions confirmer l'approvisionnement.
Les membres professionnels bénéficient du temps de nos ingénieurs pour leurs questions d'approvisionnement et de conception, d'un accès anticipé au stock et d'une priorité sur liste d'attente, ainsi que d'un support technique gratuit sur chaque commande.
Pour un usage exclusivement IA, GB300 est l'option la plus récente et la plus rapide. Pour un mélange d'IA et de science FP64, ou lorsqu'une plateforme éprouvée compte avant tout, GB200 reste un excellent choix.
Oui. Les deux se connectent à des débits de classe 800 Gb/s à InfiniBand ou Spectrum-X : elles peuvent donc partager le stockage et un ordonnanceur, même si chaque baie reste son propre domaine NVLink.
Dites-nous ce que vous voulez qu'elle produise, combien de personnes l'utiliseront et où elle serait installée. Un ingénieur vous reviendra avec une recommandation dimensionnée et un avis honnête sur l'intérêt pour vous d'en être propriétaire.