L'énergie d'abord : comment Workstation planifie l'infrastructure IA
L'alimentation, la chaleur et la salle passent avant la commande de GPU. Voici comment nous dimensionnons un bureau, un rack ou une salle.
Les GPU sont la dernière décision. L'arrivée électrique, la chaleur et le sol déterminent ce que vous pouvez mettre sous tension. Workstation planifie l'infrastructure IA dans cet ordre : trouver l'alimentation, concevoir le refroidissement, puis acheter les machines qui conviennent.
Six avantages à commencer par l'énergie
- Un premier token plus rapide. La conception électrique et la liste des machines avancent ensemble. Vous n'attendez pas douze semaines un serveur pour découvrir ensuite que la salle ne dispose que d'un circuit libre de 3 kW. Le planificateur de centre de données IA demande le site avant de proposer un niveau.
- Une échelle adaptée au bâtiment. La même méthode couvre un bureau, un serveur d'équipe, une rangée de racks ou une salle. Les kilowatts changent. L'ordre des questions, non.
- Une facture plus basse pour le travail que vous exécutez réellement. Un GPU inactif a toujours un coût d'investissement, et un GPU que vous ne pouvez pas alimenter n'est qu'un coût d'investissement. Le bon dimensionnement permet de garder honnêtes à la fois la ligne énergie et la ligne matériel.
- Plus de travail par watt, lorsque le matériel le permet. Les systèmes récents produisent plus de tokens pour la même consommation. NVIDIA publie ces comparaisons. Nous les utilisons pour choisir une génération. Nous ne considérons pas un chiffre de FLOPS de pointe comme votre facture d'électricité.
- Le site est choisi en fonction de l'alimentation, et non l'inverse. Un bureau, une salle de colocation ou un terrain raccordé. Si le bâtiment ne peut pas supporter la charge, nous le disons avant la commande.
- Un mélange, adapté à la tâche. L'air là où la salle le permet. Des échangeurs de chaleur en porte arrière là où la rangée est dense. Le liquide direct uniquement lorsque la plateforme l'exige. Sur votre site, dans une salle ou sous forme de cloud GPU privé lorsque vous avez besoin de la capacité sans construire le poste de transformation.
Tranches de puissance indicatives
| Niveau | Puissance indicative | Ce qui convient généralement |
|---|---|---|
| Bureau | 0,3 à 1 kW | Un DGX Spark ou un Mac Studio pour un pilote |
| Équipe | 1,5 à 3 kW | Une ou deux stations de travail RTX PRO 6000, ou une DGX Station |
| Rack | 6 à 20 kW | Des serveurs GPU dans un rack que vous possédez déjà, avec confinement si la rangée est dense |
| Pod | 40 à 130 kW | Plusieurs systèmes à 8 GPU, du stockage et une fabric. Souvent une suite en colocation, pas un placard |
| Usine | 0,5 à 5 MW | Des systèmes à l'échelle du rack. L'alimentation, l'eau et la charge au sol constituent le projet |
Ces plages sont des tranches de planification, et non un devis ni une mesure de votre bâtiment. Le planificateur les utilise pour éviter qu'un projet d'entraînement de pointe atterrisse sur un bureau, et qu'un projet pilote se transforme en conception de plusieurs mégawatts.
La ligne énergie, calculée une fois
NVIDIA indique une consommation d'environ 14 kW pour le DGX B300 refroidi par air. À cette consommation pendant un an, le calcul donne 14 kW fois 8 760 heures, soit 122 640 kWh avant l'indicateur d'efficacité énergétique. Le PUE multiplie toute la ligne : si la salle consomme 1,3 kWh au compteur pour chaque kWh à la charge informatique, l'énergie du site est d'environ 159 000 kWh. Votre tarif, votre taux d'utilisation et votre PUE modifient la facture. Un système qui consomme en moyenne la moitié coûte environ la moitié de l'énergie.
Quatre de ces systèmes dans un même rack correspondent à la densité que la référence B300 SuperPOD de NVIDIA situe à environ 56 kW. De nombreuses salles d'entreprise ont été construites pour une fraction de cette valeur. C'est lors de l'étude que ce constat devient une conception, ou une raison de déplacer la charge de travail.
Le refroidissement suit les watts
- L'air pour les serveurs RTX PRO et pour les systèmes à 8 GPU lorsque la rangée peut évacuer la chaleur. Un serveur à quatre GPU représente quelques kilowatts. Un système à 8 GPU refroidi par air, proche de 14 kW, nécessite des PDU haute densité et, généralement, un confinement.
- Les échangeurs de chaleur en porte arrière lorsque le volume d'air de la salle est la limite et que la plateforme est toujours refroidie par air.
- Le liquide direct pour les racks de classe NVL72. Les GPU et les CPU reposent sur des plaques froides. Cela implique une boucle d'eau du bâtiment, une distribution du liquide de refroidissement et une détection des fuites, et non un ventilateur supplémentaire.
Nous ne préconisons pas le refroidissement liquide pour donner un air moderne à un schéma. Nous le préconisons lorsque la plateforme l'exige, ou lorsque l'air ne peut pas quitter la salle.
Comment se déroule le conseil
- Étude. Alimentation entrante, capacité disponible, charge au sol, itinéraire de livraison d'un système 10U sur palette, refroidissement déjà présent dans la salle et point d'entrée du réseau.
- Budget énergétique. Kilowatts par rack, disposition des PDU, couverture par onduleur et groupe électrogène, et marge que vous souhaitez conserver sur l'arrivée électrique.
- Choix du refroidissement. Air, porte arrière ou liquide, rédigé de manière à ce qu'un propriétaire ou un fournisseur de colocation puisse le signer.
- Achats dans la limite de ce plafond. Serveurs GPU NVIDIA et AMD neufs ou reconditionnés, stockage et réseau, uniquement dans les quantités que le budget énergétique peut faire fonctionner. Les systèmes sur devis uniquement, comme le HGX B200 et le NVL72, restent sur devis. Les systèmes de la boutique affichent des prix en temps réel.
- Montage, rodage de 72 heures, remise. Le rack est testé en charge avant que vous ne l'exploitiez. NDA d'abord, avant tout échange de plans de site ou de liste de lots.
Pour les opérateurs et les équipes qui construisent leur propre capacité, ce périmètre inclut l'acquisition du site : terrain raccordé, mégawatts disponibles ou colocation. Pour une entreprise qui veut les GPU sans le poste de transformation, le même dimensionnement aboutit à un cloud GPU privé. Une seule conversation couvre les deux. Commencez par le planificateur, ou parlez à un ingénieur.
Ce que nous ne mettrons pas dans une brochure
- Une promesse d'électricité en dessous du prix du marché. Nous planifions la charge. Nous ne vous vendons pas un tarif que nous n'avons pas chiffré.
- Un campus de plusieurs mégawatts en un nombre fixe de semaines. Le délai dépend des travaux sur site. La tranche usine du planificateur est de 16 à 40 semaines à titre indicatif, et une étude peut la modifier.
- Un certificat d'énergie propre présenté comme si Workstation avait produit l'électricité. Si vous avez besoin d'une correspondance renouvelable, il s'agit d'un contrat de fourniture avec votre fournisseur d'énergie, distinct du matériel.
- Des performances de pointe présentées comme une économie d'énergie mesurée. Les chiffres de débit par mégawatt de NVIDIA sont ceux de NVIDIA. C'est votre charge de travail qui détermine ce que vous obtenez.
Sources
- Workstation : planificateur de centre de données IA
- Workstation : guide du centre de données IA NVIDIA, y compris l'exemple de 14 kW et la ligne énergie du coût par token
- Boutique Workstation : NVIDIA DGX B300 (prix et délai sur devis)
- NVIDIA : DGX B300
Marques commerciales. NVIDIA, DGX et NVL72 sont des marques commerciales de NVIDIA Corporation. AMD est une marque commerciale d'Advanced Micro Devices, Inc. Les tranches de puissance sont des plages de planification de Workstation. Le chiffre de 14 kW est la puissance nominale indiquée par NVIDIA pour le DGX B300, utilisée ici à titre d'exemple, et non comme une mesure du site d'un client.