Un guide pratique pour les équipes qui se demandent si AMD Instinct a sa place dans leur infrastructure d'IA, aux côtés de NVIDIA ou à sa place. Il part de l'entretien accordé par Lisa Su en décembre 2024 à l'émission The Circuit de Bloomberg et de ce qu'AMD a livré depuis, puis passe en revue les plateformes 2026 couche par couche, les gammes de produits que les acheteurs rencontrent réellement, le calcul de mémoire qui détermine le nombre de GPU, la correspondance logicielle de CUDA vers ROCm, un workflow de portage avec commandes, l'exploitation des deux fournisseurs sur une même plateforme Kubernetes, une méthode de benchmark équitable, un workflow de décision et les vérifications opérationnelles du quotidien.
Cette note technique accompagne notre article de blog Grignoter l'avance de Nvidia : le plan de Lisa Su, deux ans plus tard, qui résume l'entretien. Les chiffres des fournisseurs ci-dessous sont les affirmations publiées par AMD ou NVIDIA eux-mêmes, et non des benchmarks indépendants ; nous le précisons lorsque c'est important. Les informations sont à jour au 14 novembre 2026.
1. De l'entretien à Helios
Dans « AMD's CEO Wants to Chip Away at Nvidia's Lead » (Bloomberg Originals, The Circuit with Emily Chang, 6 décembre 2024), Lisa Su, alors à la tête de l'entreprise depuis dix ans, montrait l'Instinct MI300 exécutant des charges d'IA en production telles que GPT-4o sur Microsoft Azure et Llama de Meta, qualifiait l'IA de « technologie la plus transformatrice » de sa carrière et affirmait qu'il y aurait « largement assez de puces pour tout le monde », même si les hyperscalers concevaient les leurs. Ian King, journaliste spécialiste des puces chez Bloomberg, résumait la position d'AMD comme celle d'« un solide numéro deux ». Les deux années écoulées depuis ont mis cette position à l'épreuve.
Le communiqué d'AMD pour le troisième trimestre 2026 fait état d'un chiffre d'affaires total de 13,4 milliards de dollars, d'un chiffre d'affaires Data Center record de 8,5 milliards de dollars (en hausse de 97 % sur un an), de livraisons en volume de la série MI450, et d'Anthropic, Meta, Microsoft, OpenAI et Oracle Cloud Infrastructure exécutant des charges de travail sur les premiers racks Helios. Il prévoit environ 17 milliards de dollars de chiffre d'affaires au quatrième trimestre. Le même communiqué mentionne ROCm 10, la première commande Helios de HPE (pour Vultr) et le choix par EuroHPC des GPU Instinct MI430X pour le supercalculateur LUMI-AI, ce qui compte pour les acheteurs européens qui s'intéressent à une capacité d'IA souveraine.
2. Les plateformes 2026, couche par couche
| AMD Helios (chiffres publiés par AMD) | Valeur |
|---|---|
| GPU par rack (un domaine de scale-up) | 72 × Instinct MI455X (CDNA 5) |
| Mémoire par GPU | 432 GB de HBM4, jusqu'à 23,3 TB/s |
| Calcul par GPU | jusqu'à 40 PF en FP4 |
| Calcul du rack | 2,9 EF en FP4, 1,4 EF en FP8 |
| Mémoire du rack | 31 TB de HBM4, environ 1,7 PB/s en agrégé |
| Bande passante scale-up / scale-out | 260 TB/s (UALink over Ethernet) / 43 TB/s (3 cartes réseau 800G par GPU) |
| CPU hôte | EPYC de 6e génération « Venice » (série 9006) |
| Standard de rack | Open Rack Wide, apporté par Meta à l'Open Compute Project |
AMD positionne Helios directement face au Vera Rubin NVL72 de NVIDIA et revendique environ 15 % de calcul d'IA en plus, 50 % de mémoire en plus, 50 % de bande passante scale-out en plus et jusqu'à 30 % de tokens par dollar en plus. Ce sont des affirmations du fournisseur, mesurées par le fournisseur ; considérez-les comme une raison de faire des benchmarks, pas comme un résultat. La différence de mémoire est la plus structurelle : 432 GB par MI455X contre 288 GB par GPU Rubin, cela change le nombre de GPU dont un grand modèle a besoin (section 4).
3. Les gammes Instinct que vous rencontrerez
| Produit | Mémoire | Positionnement |
|---|---|---|
| MI300X | 192 GB de HBM3 | La génération 2024 évoquée dans l'entretien ; encore courante dans les clouds et sur le marché de l'occasion |
| MI325X | 256 GB de HBM3E | Plateforme MI300 à mémoire augmentée, serveurs à huit GPU |
| MI350X / MI355X | 288 GB de HBM3E | Génération 2025 ; serveurs à huit GPU, refroidissement par air ou liquide ; la référence de comparaison du MI455X |
| MI430X | voir AMD | Systèmes HPC et d'IA souveraine ; choisi pour LUMI-AI d'EuroHPC |
| MI450X / MI455X | 432 GB de HBM4 | Systèmes Helios à l'échelle du rack ; entraînement de modèles de pointe et inférence à grande échelle |
| MI350P | voir AMD | Utilisé dans l'architecture de référence Helion d'AMD pour les systèmes agentiques et dans la station de travail Threadripper Halo Station |
La plupart des organisations britanniques rencontreront Instinct sous la forme de serveurs à huit GPU de Dell, HPE, Lenovo ou Supermicro, ou d'instances cloud, plutôt que de racks Helios complets. Helios compte pour elles de manière indirecte : c'est lui qui fait de ROCm une cible de premier plan pour les développeurs de modèles et de frameworks dont elles dépendent.
4. Calcul de mémoire : pourquoi 432 GB changent le nombre de GPU
Deux chiffres déterminent le nombre de GPU nécessaires pour une copie d'un modèle : les poids, et le cache clé-valeur (KV) qui croît avec la longueur du contexte et le nombre d'utilisateurs simultanés.
weights (GB) ≈ parameters (billions) × bytes per parameter
FP16/BF16 = 2, FP8 = 1, FP4 = 0.5
KV cache per token = 2 × layers × kv_heads × head_dim × bytes per value
# Example: a 70B model with 80 layers, 8 KV heads, head_dim 128, FP16 KV cache
KV per token = 2 × 80 × 8 × 128 × 2 bytes = 327,680 bytes ≈ 0.31 MiB
KV per 32k sequence ≈ 10 GiB KV per 128k sequence ≈ 40 GiB
| Illustration : modèle 70B, poids en FP8 (~70 GB), KV en FP16, 10 % de marge | GPU de 288 GB | GPU de 432 GB |
|---|---|---|
| Mémoire restante pour le cache KV | ~189 GB | ~319 GB |
| Séquences simultanées de 32k tokens par GPU | ~18 | ~30 |
| Séquences simultanées de 128k tokens par GPU | ~4 | ~7 |
| Modèle d'environ 400B paramètres en FP8 (~400 GB de poids) | nécessite 2 GPU ou plus | tient sur 1, avec peu de place pour le KV |
Moins de GPU par copie de modèle signifie moins de parallélisme tensoriel, moins de trafic entre GPU et davantage de réplicas indépendants dans un même rack. Que cela se traduise par plus de tokens par livre sterling dépend aussi de l'efficacité du calcul, de l'interconnexion et du logiciel ; c'est pourquoi le benchmark de la section 8 est l'étape décisive. Notre page cloud GPU privé propose un outil de dimensionnement de la VRAM qui effectue le même calcul.
5. La correspondance logicielle : de CUDA à ROCm
| Fonction | NVIDIA | AMD ROCm |
|---|---|---|
| Modèle de programmation | CUDA | HIP (C++ proche de CUDA ; compile aussi pour NVIDIA) |
| Algèbre linéaire dense | cuBLAS, cuBLASLt | hipBLAS, rocBLAS, hipBLASLt |
| Primitives d'apprentissage profond | cuDNN | MIOpen |
| Modèles de noyaux | CUTLASS | Composable Kernel |
| Communications collectives multi-GPU | NCCL | RCCL (API compatible NCCL) |
| Compilateur d'inférence | TensorRT, TensorRT-LLM | MIGraphX ; la plupart des services de LLM utilisent plutôt vLLM ou SGLang |
| Gestion des périphériques | nvidia-smi | amd-smi |
| Profilage | Nsight Systems / Compute | rocprofv3, ROCm Systems et Compute Profilers |
| Noyaux portables | Triton (OpenAI), pris en charge par les deux | |
| Frameworks et service | PyTorch, JAX, vLLM, SGLang, Hugging Face : builds publiés pour les deux | |
La règle pratique : si votre code reste au niveau du framework, passer à ROCm consiste surtout à installer le build ROCm. Le travail se concentre à trois endroits : les noyaux CUDA personnalisés et les extensions C++, les moteurs TensorRT, et les bibliothèques qui ne livrent que des binaires CUDA.
6. Workflow de portage
6.1 Vérifier le nœud et le framework
# GPUs visible to the driver, and their architecture (gfx target)
amd-smi list
rocminfo | grep -m1 -i "gfx"
# PyTorch on ROCm keeps the torch.cuda API, so most code is unchanged
python -c "import torch; print(torch.version.hip, torch.cuda.is_available(), torch.cuda.get_device_name(0))"
6.2 Servir un modèle dans un conteneur ROCm
# AMD publishes ROCm images for PyTorch and vLLM; pick a tag matching your ROCm version
docker run --rm -it --ipc=host \
--device=/dev/kfd --device=/dev/dri --group-add video \
--security-opt seccomp=unconfined \
-p 8000:8000 -v ~/.cache/huggingface:/root/.cache/huggingface \
rocm/vllm:<tag> \
vllm serve <model> --tensor-parallel-size 2
Le point de terminaison compatible OpenAI est identique à celui que vLLM expose sur NVIDIA ; les clients, les passerelles et les tests ne changent donc pas.
6.3 Noyaux personnalisés
# Mechanical CUDA → HIP translation, then build with the ROCm compiler
hipify-perl my_kernel.cu > my_kernel.hip.cpp # or hipify-clang for a full parse
hipcc -O3 --offload-arch=<gfx-target> -o my_kernel my_kernel.hip.cpp
La traduction est la partie facile. Les hypothèses sur la taille des warps (les wavefronts CDNA d'AMD comptent 64 voies, les warps NVIDIA 32), les dispositions de mémoire partagée optimisées à la main et le PTX en ligne doivent être revus manuellement. Lorsqu'un noyau doit de toute façon être réécrit, écrivez-le une fois en Triton et exécutez-le sur les deux fournisseurs.
6.4 Valider avant d'optimiser
Exécutez un jeu d'évaluation fixe avec les mêmes poids et la même précision sur les deux fournisseurs. Comparez les scores par tâche (et, pour les noyaux, les logits ou les sorties dans une tolérance indiquée). Un matériel différent donne des résultats en virgule flottante légèrement différents ; ce qui compte, c'est que la qualité du modèle sur vos tâches reste inchangée. Ensuite seulement, ajustez la taille des lots, le parallélisme et les paramètres de service.
7. Une plateforme Kubernetes, deux fournisseurs
Les deux fournisseurs exposent les GPU à Kubernetes via un opérateur et un device plugin : nvidia.com/gpu sur les nœuds NVIDIA et amd.com/gpu sur les nœuds AMD, le GPU Operator d'AMD installant les composants du pilote, le device plugin, le node labeller et un exportateur de métriques pour Prometheus. Installez-le à partir du chart Helm d'AMD en suivant la documentation actuelle du ROCm GPU Operator.
Conservez un manifeste par charge de travail et un petit overlay par fournisseur, qui ne modifie que le build de l'image (ROCm ou CUDA) et la ressource GPU. Avec Kustomize :
# overlays/amd/kustomization.yaml (Workstation example)
resources: ["../../base"]
images:
- name: inference-server
newName: registry.example.com/inference-server
newTag: 2026.11-rocm
patches:
- target: {kind: Deployment, name: inference-server}
patch: |-
- op: replace
path: /spec/template/spec/containers/0/resources/limits
value: {"amd.com/gpu": 8}
- op: add
path: /spec/template/spec/nodeSelector
value: {"gpu-vendor": "amd"}
Étiquetez et marquez d'un taint chaque pool de nœuds par fournisseur et par génération (par exemple gpu-vendor=amd, gpu-model=mi355x) afin que les ordonnanceurs et les rapports de coûts puissent les distinguer, et exécutez les mêmes tests CI sur les deux overlays à chaque modification.
8. Faire des benchmarks équitables
- Même modèle, même précision, même moteur de service et même version chez les deux fournisseurs, avec le build et les paramètres recommandés par chacun.
- Mesurez à votre objectif de latence, et non au débit maximal : délai jusqu'au premier token et latence entre tokens au p95 dont vos utilisateurs ont besoin, puis débit à ce point.
vllm bench servesollicite un point de terminaison compatible OpenAI avec des combinaisons de requêtes réalistes. - Utilisez la forme de votre trafic : longueurs des prompts et des sorties, simultanéité et part des requêtes à long contexte.
- Convertissez en tokens par livre sterling : coût horaire du matériel ou de la location, plus l'électricité à votre tarif, divisé par les tokens par heure à l'objectif de latence.
- Consignez la précision sur votre jeu d'évaluation en plus de la vitesse.
- Recoupez avec des résultats indépendants tels que MLPerf Inference, lorsque les deux fournisseurs soumettent des systèmes comparables.
9. Décider charge de travail par charge de travail
| Charge de travail | Penche vers AMD lorsque | Penche vers NVIDIA lorsque |
|---|---|---|
| Inférence de LLM, grands modèles ou long contexte | La mémoire par GPU réduit le nombre de GPU par réplica ; service avec vLLM ou SGLang | Vous dépendez de TensorRT-LLM ou des microservices NVIDIA NIM |
| Entraînement et affinage avec PyTorch | PyTorch standard, FSDP ou DeepSpeed ; pas de CUDA personnalisé | Nombreux noyaux personnalisés, chemins CUDA spécifiques à Megatron, délais serrés |
| Vision, parole et ML classique | Code au niveau du framework, inférence sensible aux coûts | Bibliothèques livrées uniquement en binaires CUDA (certaines chaînes vidéo et 3D) |
| HPC et simulation | Codes à forte composante FP64 déjà portés vers HIP ; programmes HPC souverains | Solveurs commerciaux exclusivement CUDA |
10. Exploitation au quotidien
- Figez les versions ensemble : pilote, version de ROCm, build du framework et tag de conteneur forment un ensemble testé unique, exactement comme avec CUDA. Mettez-les à niveau en bloc, derrière les tests du jeu de référence.
- Supervisez :
amd-smiexpose l'utilisation, la mémoire, la consommation, la température et les compteurs d'erreurs ; l'exportateur de métriques de périphériques d'AMD les publie dans Prometheus à côté des métriques DCGM des nœuds NVIDIA. Normalisez les noms d'étiquettes pour qu'un seul tableau de bord couvre les deux. - Santé et RAS : déclenchez des alertes sur les compteurs d'erreurs ECC et RAS, la limitation thermique et les liens qui perdent en vitesse, et drainez automatiquement les nœuds en cas d'erreurs répétées.
- Compétences : formez au moins deux ingénieurs aux outils ROCm avant la mise en production ; la plupart des problèmes sont des incompatibilités de versions, rapides à corriger dès lors que quelqu'un sait où chercher.
- Approvisionnement : gardez les deux fournisseurs qualifiés, afin qu'un problème de délai chez l'un n'arrête pas un projet.
11. Les risques à évaluer honnêtement
- Profondeur de l'écosystème : CUDA compte encore plus de bibliothèques, d'exemples et de personnes compétentes. Vérifiez chaque dépendance, pas seulement le framework.
- Affirmations des fournisseurs : les deux entreprises publient des comparaisons favorables. Ce sont les mesures indépendantes et internes qui tranchent.
- Concentration : les deux fournisseurs dépendent de la même fabrication de pointe à Taïwan, un point que Lisa Su a elle-même soulevé dans l'entretien en évoquant la résilience de la chaîne d'approvisionnement. Le double approvisionnement réduit le risque produit, pas le risque géographique.
- La dynamique du marché joue dans les deux sens : les engagements importants des grands clients d'AMD rendent durable l'investissement dans ROCm, mais entrent aussi en concurrence avec les petits acheteurs pour les premières livraisons.
12. Comment Workstation peut vous aider
Nous concevons et exploitons des infrastructures GPU au Royaume-Uni et aidons les équipes à évaluer AMD aux côtés de NVIDIA. Pour les équipes qui envisagent Instinct, nous pouvons réaliser un benchmark à conditions égales de votre modèle sur les deux fournisseurs, évaluer les dépendances CUDA de votre code, mettre en place une plateforme Kubernetes bi-fournisseur avec une supervision partagée, et dimensionner les serveurs, l'alimentation et le refroidissement. Commencez par notre guide du cloud GPU privé, comparez location et achat sur gpuleasing.co.uk, ou contactez-nous.
Sources
- Bloomberg Originals, « AMD's CEO Wants to Chip Away at Nvidia's Lead | The Circuit with Emily Chang », 6 décembre 2024. Les citations proviennent de la vidéo publiée.
- AMD, « AMD Reports Third Quarter 2026 Financial Results », 3 novembre 2026 (chiffre d'affaires, croissance Data Center, clients Helios, ROCm 10, LUMI-AI, perspectives pour le quatrième trimestre).
- AMD, pages produit de la solution à l'échelle du rack Helios et de la série Instinct MI400, et « AMD Launches Helios » (2026) : spécifications du rack et des GPU et comparaison d'AMD avec Vera Rubin NVL72.
- Accord entre AMD et OpenAI portant sur 6 gigawatts de GPU Instinct, annoncé le 6 octobre 2025.
- Le calcul de mémoire et les commandes de portage sont des exemples de Workstation ; vérifiez les configurations des modèles et la documentation actuelle de ROCm avant de vous y fier.
Mention des droits : AMD, le logo AMD Arrow, Instinct, EPYC, Ryzen, Threadripper, CDNA, ROCm, Pensando, Helios et leurs combinaisons sont des marques d'Advanced Micro Devices, Inc. NVIDIA, CUDA, NVLink, TensorRT, Spectrum-X, ConnectX et Vera Rubin sont des marques de NVIDIA Corporation. Bloomberg est une marque de Bloomberg Finance L.P. Les autres noms sont la propriété de leurs détenteurs respectifs. Cet article est indépendant et n'est approuvé par aucune de ces entreprises.