Blackwell Ultra · 4 nœuds · 32 GPU
Quatre serveurs Blackwell Ultra à 8 GPU, une fabric à 800 Gb/s et un stockage rapide dans une seule baie testée : le moyen le plus pratique d'installer une capacité sérieuse de raisonnement et d'entraînement dans une salle de centre de données standard.
La plupart des organisations qui veulent une capacité d'IA de pointe ne souhaitent pas reconstruire leur centre de données pour l'obtenir. Cette baie est notre réponse : quatre serveurs NVIDIA HGX B300 à 8 GPU, une fabric GPU à 800 Gb/s par GPU, un niveau de stockage et un réseau de gestion, livrés comme une seule unité déjà assemblée, câblée et soumise à des tests de charge avant d'arriver chez vous.
Blackwell Ultra a été conçu pour la manière dont l'IA est utilisée aujourd'hui. Les modèles de raisonnement et les agents réfléchissent avant de répondre, ce qui multiplie le nombre de tokens derrière chaque réponse. HGX B300 double les performances d'attention par rapport à la première génération Blackwell et embarque 288 GB de HBM3e par GPU, de sorte que les contextes longs et les grands modèles tiennent sans être répartis entre plusieurs machines.
Nous considérons la baie comme la première étape d'une AI factory plutôt que comme sa totalité. Elle est construite selon une conception de référence, de sorte qu'une deuxième puis une troisième baie rejoignent la même fabric sans refonte lorsque la demande augmente.
Les modèles de raisonnement passent l'essentiel de leur temps dans l'attention. NVIDIA annonce pour HGX B300 deux fois les performances d'attention de HGX B200, ce qui se traduit par des réponses plus rapides lorsque de nombreux utilisateurs posent simultanément des questions difficiles.
288 GB par GPU et 2,1 TB par serveur : un modèle de 400 milliards de paramètres tient confortablement dans un seul nœud en FP8, avec de la marge pour de longues conversations et des lots importants.
Dans chaque serveur, NVLink de cinquième génération offre à chaque GPU 1,8 TB/s vers ses voisins. Entre les serveurs, une SuperNIC ConnectX-8 à 800 Gb/s par GPU sur une fabric InfiniBand ou Spectrum-X optimisée par rail maintient l'efficacité de l'entraînement multi-nœuds.
Les serveurs HGX B300 existent en refroidissement par air et par liquide : la baie peut donc s'installer dès aujourd'hui dans une salle haute densité refroidie par air, ou dans une salle à refroidissement liquide direct si vous en disposez.
La baie est un élément d'une unité évolutive pouvant atteindre 32 nœuds (256 GPU). Les baies supplémentaires se raccordent au même spine avec le même plan de câblage : la croissance devient un bon de commande, pas un projet.
Nous rodons ensemble les GPU, la mémoire, NVLink, la fabric et le stockage et consignons les résultats : vous recevez une baie avec une référence de bon fonctionnement connue plutôt qu'une palette de cartons.
Une configuration type. Nous adaptons les CPU, la mémoire, le stockage, le refroidissement et la fabric à vos charges de travail et à votre site.
| Calcul | 4 × HGX B300 8-GPU servers (our standard node is the air-cooled Compal SGX30-2, 10U; liquid-cooled nodes also available) |
|---|---|
| GPU | 32 × NVIDIA Blackwell Ultra SXM, 288 GB HBM3e each |
| Mémoire GPU | 2.1 TB per server, 8.4 TB per rack |
| FP4 Tensor Core | 144 | 108 PFLOPS per server; 576 | 432 PFLOPS per rack |
| Tensor Core FP8 | 72 PFLOPS per server (sparse); 288 PFLOPS per rack |
| NVLink | Fifth generation, 1.8 TB/s per GPU, 14.4 TB/s per server |
| CPU hôtes | Dual Intel Xeon 6 (or AMD EPYC, depending on the server maker) |
| Fabric GPU | 8 × ConnectX-8 SuperNICs per server, up to 800 Gb/s each, on Quantum-X800 InfiniBand or Spectrum-X Ethernet |
| Stockage et front-end | BlueField-3 DPUs or ConnectX NICs to a separate storage and service network; local PCIe Gen5 NVMe |
| Logiciels | Ubuntu or RHEL, NVIDIA drivers and CUDA, NVIDIA AI Enterprise, Kubernetes or Slurm, optional Run:ai and Mission Control |
Les chiffres sont les spécifications publiées par NVIDIA pour la plateforme. Lorsque NVIDIA indique deux valeurs pour les Tensor Cores, la première suppose la sparsité et la seconde est dense. La configuration exacte (processeurs, mémoire, stockage, refroidissement, réseau) est convenue avec vous et confirmée par un devis écrit.
Voici les valeurs que nous vérifions sur site avant de chiffrer. Si votre salle ne peut pas les atteindre, nous proposerons une option de colocation ou une autre plateforme.
| Puissance par baie | Around 60 kW for four HGX B300 nodes (published reference figure), plus network and storage |
|---|---|
| Puissance par serveur | Around 14 kW for an 8-GPU Blackwell Ultra system (NVIDIA DGX B300 figure) |
| Refroidissement | High-density air with hot-aisle containment, or direct liquid cooling with a coolant distribution unit |
| Rack | Deep, high-load 48U to 52U rack; floor loading checked against the populated weight |
| Alimentations | Redundant three-phase supplies sized for the full load, with the PDU layout agreed in advance |
| Réseau | Space and power for leaf and spine switches if this is the first rack, and fibre routes to future racks |
Une seule équipe responsable au Royaume-Uni, du dimensionnement à l'exploitation au quotidien
Nous traduisons vos utilisateurs, vos modèles et vos plans d'entraînement en tokens par seconde et en heures GPU, puis montrons combien de baies cela représente aujourd'hui et dans deux ans.
Nous auditons l'alimentation, le refroidissement, le sol et la fibre, ou présélectionnons des salles de colocation au Royaume-Uni capables d'accueillir des baies de 60 kW, avant toute commande.
Assemblage, câblage, alignement des firmwares et tests de charge de plusieurs jours au niveau de la baie, avec un rapport de réception écrit.
Installation sur site, mise en service de la fabric, Kubernetes ou Slurm, NVIDIA AI Enterprise et un premier modèle servi de bout en bout avec votre équipe.
Les GPU NVIDIA pour centres de données sont alloués par NVIDIA et les constructeurs de serveurs, et les délais se comptent en mois plutôt qu'en semaines. Les systèmes complets et testés obtiennent généralement une allocation plus tôt que les composants seuls ; nous chiffrons donc ces plateformes sous forme de systèmes assemblés. Les expéditions hors du Royaume-Uni, et de nombreux GPU avancés au Royaume-Uni même, nécessitent une vérification de l'utilisateur final et de l'utilisation finale au titre des règles d'exportation britanniques et américaines avant que nous puissions confirmer l'approvisionnement.
Les membres professionnels bénéficient du temps de nos ingénieurs pour leurs questions d'approvisionnement et de conception, d'un accès anticipé au stock et d'une priorité sur liste d'attente, ainsi que d'un support technique gratuit sur chaque commande.
Pour des raisons d'alimentation et de chaleur. Quatre nœuds HGX B300 consomment déjà environ 60 kW, ce qui constitue le plafond pratique de nombreuses salles refroidies par air. Avec le refroidissement liquide direct et suffisamment de puissance, des configurations plus denses sont possibles et nous les concevrons.
Pas tout à fait. Chaque serveur constitue son propre domaine NVLink de 8 GPU, et les quatre serveurs communiquent via la fabric à 800 Gb/s. Pour l'entraînement et la plupart des tâches d'inférence, la montée en charge est excellente. Si un seul modèle nécessite un domaine NVLink plus grand, GB300 NVL72 réunit 72 GPU en un seul.
Oui. Nous pouvons livrer un seul nœud HGX B300 construit selon la même conception, avec les ports de switch et le plan de câblage prévus pour le reste de la baie.
Le prix dépend du fabricant du serveur, des CPU, de la mémoire, du stockage, de la fabric et du refroidissement, ainsi que des allocations du moment. Nous chiffrons ces systèmes par écrit après dimensionnement et vérification du site.
Dites-nous ce que vous voulez qu'elle produise, combien de personnes l'utiliseront et où elle serait installée. Un ingénieur vous reviendra avec une recommandation dimensionnée et un avis honnête sur l'intérêt pour vous d'en être propriétaire.