Blackwell · 8 GPU par nœud · FP64 complet
Des serveurs Blackwell à 8 GPU aussi à l'aise pour entraîner des modèles que pour exécuter des calculs scientifiques en double précision, intégrés dans des clusters de 1 à 32 nœuds.
Toutes les AI factories ne servent pas qu'à l'IA. Les universités, les sociétés d'ingénierie et les instituts de recherche ont souvent besoin du même cluster pour entraîner un modèle de langage le lundi et exécuter une simulation de mécanique des fluides ou moléculaire le mardi. HGX B200 est la plateforme Blackwell qui excelle dans les deux.
Chaque serveur à 8 GPU embarque 1,4 TB de HBM3e et conserve toute la capacité double précision de NVIDIA, soit 296 TFLOPS en FP64 par carte, tout en offrant les mêmes 72 PFLOPS de performances IA en FP8 que son homologue Blackwell Ultra. Pour des charges mêlant IA et simulation, cet équilibre est difficile à battre.
Nous construisons des clusters B200 d'un seul nœud jusqu'à une unité évolutive de 32 nœuds, avec la fabric, le stockage et l'ordonnanceur (Slurm, Kubernetes ou les deux) que les équipes de calcul scientifique connaissent déjà.
Blackwell Ultra a réduit le FP64 pour faire de la place à l'IA. B200 l'a conservé : les codes de CFD, d'éléments finis, de climat et de chimie quantique tournent à pleine vitesse sur les mêmes nœuds que votre entraînement IA.
NVLink de cinquième génération à 1,8 TB/s par GPU et l'entraînement FP8 avec le Transformer Engine de deuxième génération rendent efficace l'entraînement multi-nœuds de grands modèles.
Les partitions Slurm, les namespaces Kubernetes ou les quotas Run:ai permettent à de nombreux groupes de recherche de partager un même cluster avec des priorités claires et des rapports d'utilisation pour la refacturation.
Environ 53,6 kW pour quatre nœuds dans une baie de référence, un peu moins que Blackwell Ultra, ce qui peut faire la différence dans une salle machine plus ancienne.
Une configuration type de nœud et de cluster, adaptée à vos codes et à vos utilisateurs.
| GPU | 8 × NVIDIA Blackwell SXM per server, 1.4 TB HBM3e in total |
|---|---|
| FP4 Tensor Core | 144 | 72 PFLOPS per server |
| Tensor Core FP8 / FP16 | 72 / 36 PFLOPS per server (sparse) |
| FP64 | 296 TFLOPS per server |
| NVLink | Fifth generation, 1.8 TB/s per GPU, 14.4 TB/s per server |
| Réseau | Up to 400 Gb/s per GPU (0.8 TB/s per server) on InfiniBand or Spectrum-X |
| Taille du cluster | 1 to 32 nodes (up to 256 GPUs) per scalable unit, typically 4 nodes per rack |
| Logiciels | Slurm and/or Kubernetes, Spack or EasyBuild software stacks, NVIDIA HPC SDK, NVIDIA AI Enterprise |
Les chiffres sont les spécifications publiées par NVIDIA pour la plateforme. Lorsque NVIDIA indique deux valeurs pour les Tensor Cores, la première suppose la sparsité et la seconde est dense. La configuration exacte (processeurs, mémoire, stockage, refroidissement, réseau) est convenue avec vous et confirmée par un devis écrit.
Ce qu'une baie B200 exige de votre site.
| Puissance par baie | Around 53.6 kW for four nodes (published reference figure) |
|---|---|
| Refroidissement | High-density air with containment, or direct liquid cooling |
| Stockage | Parallel file system (for example Lustre, BeeGFS or a certified appliance) on its own network |
| Réseau | Leaf and spine fabric with room for the full scalable unit |
Une seule équipe responsable au Royaume-Uni, du dimensionnement à l'exploitation au quotidien
Nous examinons vos codes et modèles réels et convenons des nœuds, de la mémoire et de la fabric qui leur conviennent.
Alimentation, refroidissement, sol et fibre vérifiés, avec un plan par étapes si la salle doit être mise à niveau.
Rodage au niveau de la baie et benchmarks HPL, NCCL et stockage consignés pour la réception.
Slurm ou Kubernetes configuré avec votre système d'identité, vos partitions, vos quotas et une documentation utilisateur.
Les GPU NVIDIA pour centres de données sont alloués par NVIDIA et les constructeurs de serveurs, et les délais se comptent en mois plutôt qu'en semaines. Les systèmes complets et testés obtiennent généralement une allocation plus tôt que les composants seuls ; nous chiffrons donc ces plateformes sous forme de systèmes assemblés. Les expéditions hors du Royaume-Uni, et de nombreux GPU avancés au Royaume-Uni même, nécessitent une vérification de l'utilisateur final et de l'utilisation finale au titre des règles d'exportation britanniques et américaines avant que nous puissions confirmer l'approvisionnement.
Les membres professionnels bénéficient du temps de nos ingénieurs pour leurs questions d'approvisionnement et de conception, d'un accès anticipé au stock et d'une priorité sur liste d'attente, ainsi que d'un support technique gratuit sur chaque commande.
Si la simulation en double précision compte, B200. Si le travail porte principalement sur l'inférence, le raisonnement et l'entraînement LLM, B300 offre plus de mémoire par GPU et deux fois les performances d'attention. Beaucoup de sites combinent les deux.
En général, oui. Nous pouvons intégrer des nœuds B200 à un cluster Slurm et à un système de fichiers existants, avec une passerelle de fabric si votre réseau actuel est plus ancien.
Les tarifs et tout soutien éventuel dans le cadre de programmes sont confirmés dans un devis écrit. Présentez-nous le projet et son mode de financement lors de votre demande.
Dites-nous ce que vous voulez qu'elle produise, combien de personnes l'utiliseront et où elle serait installée. Un ingénieur vous reviendra avec une recommandation dimensionnée et un avis honnête sur l'intérêt pour vous d'en être propriétaire.