NVIDIA RTX PRO 6000 Blackwell Server Edition
La RTX PRO 6000 Blackwell Server Edition réunit 96 Go de GDDR7 et des Tensor Cores de cinquième génération sur une carte PCIe standard. Nous dimensionnons, assemblons, installons et prenons en charge des serveurs RTX PRO au Royaume-Uni, du nœud 2U à quatre GPU jusqu’au rack de 32 GPU.
La RTX PRO 6000 Blackwell Server Edition est la version pour centre de données du GPU RTX professionnel haut de gamme de NVIDIA. Elle exécute des grands modèles de langage et des agents d’IA, et dispose aussi de RT Cores, de moteurs vidéo et de sorties d’affichage pour le rendu, les jumeaux numériques et la vidéo. Un seul type de carte peut ainsi servir plusieurs équipes.
Elle remplace le L40S en tant que GPU PCIe polyvalent de NVIDIA pour les centres de données. Par rapport au L40S, elle double la mémoire (96 Go contre 48 Go), double presque la bande passante, ajoute la précision FP4 et peut être divisée en quatre GPU isolés grâce au Multi-Instance GPU (MIG).
| Architecture GPU | NVIDIA Blackwell |
|---|---|
| Cœurs CUDA | 24,064 |
| Tensor Cores | 752, cinquième génération (FP4, FP6, FP8, FP16, BF16, TF32) |
| RT Cores | 188, quatrième génération |
| FP4 Tensor Core | 4 PFLOPS |
| Tensor Core FP8 | 2 PFLOPS |
| Tensor Core FP16 / BF16 | 1 PFLOPS |
| Tensor Core TF32 | 234 TFLOPS |
| FP32 | 120 TFLOPS |
| Performances de crête des RT Cores | 355 TFLOPS |
| Mémoire GPU | 96 Go GDDR7 avec ECC |
| Interface et bande passante mémoire | 512 bits, 1 597 Go/s |
| Multi-Instance GPU | Jusqu’à 4 instances isolées |
| Moteurs multimédias | 4 × NVENC (9e gén.), 4 × NVDEC (6e gén.) |
| Sorties d’affichage | 4 × DisplayPort 2.1 |
| Interface hôte | PCIe Gen 5 x16 |
| Consommation maximale | Jusqu’à 600 W, configurable |
| Format | Refroidissement par air : double slot, pleine hauteur, pleine longueur, passif. Refroidissement liquide : simple slot |
| Sécurité | Démarrage sécurisé avec racine de confiance matérielle |
Chiffres issus de la page produit et de la fiche technique de NVIDIA. Les valeurs Tensor Core sont les valeurs de crête annoncées par NVIDIA ; le débit réel dépend du modèle, de la précision et du logiciel.
96 Go suffisent pour un modèle de 70 milliards de paramètres en FP8 sur une seule carte, ou un modèle bien plus grand sur quatre ou huit cartes. Le FP4 réduit encore la mémoire de moitié environ pour les modèles qui le tolèrent.
Scènes Omniverse et OpenUSD, données synthétiques pour la robotique et la vision, et simulation, sur les mêmes GPU que les modèles qui les utilisent.
RT Cores, DLSS 4 et neural shaders pour le rendu final, ainsi que quatre encodeurs et quatre décodeurs pour les pipelines vidéo et le streaming.
120 TFLOPS en FP32 pour les codes de simulation et d’ingénierie, et une data science accélérée par GPU avec RAPIDS.
Partagez les GPU entre designers et ingénieurs grâce au MIG ou au logiciel NVIDIA de GPU virtuel, pour que chaque utilisateur de CAO et de visualisation n’ait pas besoin de sa propre tour.
Exécutez l’inférence le jour et le rendu ou le fine-tuning la nuit sur les mêmes serveurs, au lieu d’acheter des parcs distincts.
Les cartes RTX PRO 6000 s’installent dans des serveurs PCIe standard. Voici les trois tailles qu’on nous demande le plus souvent.
384 Go de mémoire GPU dans un châssis 2U qui s’intègre à un rack existant. Idéal pour l’assistant privé d’un service, la génération augmentée par récupération (RAG) sur les documents de l’entreprise ou un premier service d’inférence en production.
Environ 3 à 3,5 kW à pleine puissance GPU
768 Go de mémoire GPU. Les serveurs MGX tels que l’AMAX AceleMax AXG-428AG associent huit GPU double slot à deux processeurs AMD EPYC 9005, jusqu’à cinq slots PCIe Gen 5 x16 pour les cartes réseau et huit disques E1.S.
Environ 6 à 7 kW à pleine puissance GPU
Quatre serveurs à huit GPU reliés par Ethernet Spectrum-X ou Quantum InfiniBand : environ 3 To de GDDR7 et 128 PFLOPS en FP4 dans un seul rack. AMAX commercialise cette conception sous le nom de RackScale 32. Elle convient à l’inférence à grande échelle, aux systèmes multi-agents et aux grandes fermes de rendu.
Prévoyez 25 à 30 kW par rack
| RTX PRO 6000 Blackwell Server Edition | L40S | |
|---|---|---|
| Architecture | Blackwell | Ada Lovelace |
| Mémoire GPU | 96 Go GDDR7 ECC | 48 Go GDDR6 ECC |
| Bande passante mémoire | 1 597 Go/s | 864 GB/s |
| Cœurs CUDA | 24,064 | 18,176 |
| Tensor Cores | 752 (5e gén.) | 568 (4e gén.) |
| RT Cores | 188 (4e gén.) | 142 (3e gén.) |
| FP32 | 120 TFLOPS | 91,6 TFLOPS |
| FP4 | Oui | Non |
| MIG | Jusqu’à 4 instances | Non |
| PCIe | Gen 5 x16 | Gen 4 x16 |
| Consommation maximale | Jusqu’à 600 W | 350 W |
| Moteurs vidéo | 4 NVENC / 4 NVDEC | 3 NVENC / 3 NVDEC |
Le L40S reste un choix judicieux lorsque l’alimentation est limitée ou que les modèles tiennent dans 48 Go. Dans le cas contraire, la RTX PRO 6000 nécessite généralement moins de GPU pour la même tâche.
Nous déterminons la mémoire GPU, le nombre d’utilisateurs et le stockage à partir de vos modèles, de vos longueurs de contexte et de votre trafic, puis choisissons le plus petit système capable de faire le travail.
Un devis écrit avec la configuration exacte, le délai de livraison ainsi que l’alimentation et le refroidissement nécessaires.
Nous installons le système d’exploitation, les pilotes NVIDIA pour centre de données, CUDA, le container toolkit et votre pile d’inférence ou de rendu, puis effectuons un test de rodage à pleine charge.
Nous livrons sur votre site ou dans votre centre de données, effectuons la mise en rack et le câblage, et assurons le support depuis le Royaume-Uni, le matériel étant couvert par la garantie du fabricant.
Non. Toutes deux disposent de 96 Go de GDDR7, mais la Server Edition est refroidie passivement et dépend des ventilateurs du serveur, avec une limite de puissance configurable jusqu’à 600 W, et existe aussi en version simple slot à refroidissement liquide. La Workstation Edition possède ses propres ventilateurs pour les tours de bureau, et la Max-Q Workstation Edition fonctionne à 300 W.
Environ 70 milliards de paramètres en FP8, ou à peu près le double en FP4, en laissant un peu de mémoire pour le cache KV. Les contextes longs et les nombreux utilisateurs demandent davantage de mémoire : nous dimensionnons donc à partir de vos longueurs de contexte et de votre concurrence réelles.
Non. Les GPU communiquent entre eux en PCIe Gen 5. Cela convient parfaitement pour exécuter de nombreuses copies d’un modèle, ou un modèle réparti sur quelques GPU. Pour les gros entraînements qui nécessitent NVLink, tournez-vous vers les systèmes HGX B200 ou B300.
Oui. Le MIG divise une carte en quatre GPU isolés au maximum, chacun avec sa propre mémoire et ses propres ressources de calcul. Le logiciel NVIDIA de GPU virtuel est une autre option pour les postes de travail virtuels.
Cela dépend de la disponibilité des GPU et du serveur choisi. Chaque produit de la boutique indique notre délai actuel, et votre devis le confirme avant la commande.
NVIDIA, le logo NVIDIA, RTX, RTX PRO, Blackwell, CUDA, NVLink, MGX, Omniverse, Spectrum-X, Quantum et DLSS sont des marques commerciales et/ou des marques déposées de NVIDIA Corporation aux États-Unis et dans d’autres pays. AMAX et AceleMax sont des marques commerciales d’AMAX Engineering Corporation. AMD et EPYC sont des marques commerciales d’Advanced Micro Devices, Inc. Toutes les autres marques appartiennent à leurs propriétaires respectifs. Workstation présente ces produits en tant que fournisseur indépendant ; aucune approbation de leurs propriétaires n’est sous-entendue. La vidéo du produit appartient à NVIDIA.