6 indicateurs clés pour choisir des GPU destinés aux centres de calcul IA : une comparaison approfondie des modèles H100/H200/B200/B300 face aux Ascend 910B/910C/950PR | Changfan Industrial

Introduction : choisir la carte détermine tout, mais la « carte » n'est pas la puce

En 2026, le seuil d'investissement des centres de calcul IA est passé de « obtenir des cartes » à « choisir les bonnes cartes » : un seul cluster coûte des centaines de millions de yuans, et une erreur de sélection signifie des cycles d'entraînement doublés, des dépenses d'inférence incontrôlables et une feuille de route technique obsolète en trois ans. La plupart des erreurs de sélection remontent à un même geste — utiliser la fiche technique comme base de décision.

La fiche technique ne vous dira pas qu'un cluster de 10 000 GPU interrompt l'entraînement en moyenne toutes les 3 heures ; qu'une puissance unitaire multipliée par 2,3 ne réduit le temps d'entraînement que de moitié ; qu'une B300 au TDP de 1 400 W dans une salle refroidie par air n'est qu'un objet coûteux ; ni que la migration de CUDA vers CANN peut absorber toute la marge d'un projet. Cet article dépasse la simple énumération de paramètres et compare en profondeur, à travers six indicateurs clés déterminant le ROI d'un centre de calcul IA, les NVIDIA H100/H200/B200/B300 et les Ascend 910B/910C/950PR, avec une matrice de décision par scénario prête à l'emploi et une check-list anti-pièges.

Les conclusions d'abord : cinq jugements contre-intuitifs

• L'essence du choix d'une carte, c'est le choix d'un modèle économique, pas d'une puissance de calcul. L'unité de coût d'une activité d'entraînement est « le temps et l'électricité pour entraîner un grand modèle » ; celle d'une activité d'inférence est « le million de tokens ». Comprenez d'abord quel argent vous gagnez, puis discutez de la carte à acheter.

• La capacité VRAM détermine si le modèle peut tourner, la bande passante détermine la vitesse, l'interconnexion détermine l'échelle. Les TFLOPS de la fiche technique ne comptent que lorsqu'on parvient à les saturer — en pratique, beaucoup de GPU tournent avec une utilisation effective (MFU) inférieure à la moitié.

• Les puces ne représentent que 30 à 40 % du coût total. L'alimentation électrique, le refroidissement liquide, le réseau et cinq ans d'exploitation absorbent les 60 % restants — choisir une carte, c'est en substance choisir toute une infrastructure.

• Acheter une B300, c'est acheter une salle machines à refroidissement liquide. Avec environ 1 400 W par carte, on dépasse la limite du refroidissement par air ; si l'alimentation et le refroidissement du site ne sont pas au niveau, la carte la plus puissante tournera en régime réduit.

• Il n'existe pas de meilleure carte — il existe la carte la mieux adaptée à votre charge de travail. La H100 est loin d'être obsolète, l'Ascend 910C est irremplaçable dans les scénarios de conformité Xinchuang, et la 950PR annonce l'étape suivante du calcul domestique — la réponse dépend toujours de votre profil de charge.

Sept puces, quatre positions sur le marché

Avant d'entrer dans les indicateurs, établissons une compréhension de base : ces sept puces n'entretiennent pas une relation linéaire de « plus ou moins rapide » — elles occupent quatre positions de marché totalement différentes :

• Le trône de l'entraînement : B200 / B300 (architecture Blackwell) — calcul FP8 et interconnexion NVLink 5 en tête sur tous les plans ; le seul échelon pour entraîner des modèles de mille milliards de paramètres.

• La valeur sûre éprouvée : H100 / H200 (architecture Hopper) — l'écosystème et la chaîne d'approvisionnement les plus matures, le choix du meilleur rapport qualité-prix pour l'entraînement et l'inférence de 7B à 70B.

• Le pilier domestique : Ascend 910B / 910C — l'unique option pour les scénarios de conformité Xinchuang ; l'inférence est quasi prête pour la production, l'entraînement accuse une génération de retard.

• La variable de nouvelle génération : Ascend 950PR (sortie au T1 2026, optimisée pour la phase prefill de l'inférence), qui montre le rythme de rattrapage du calcul domestique.

Tableau 1 : Caractéristiques clés des sept principales puces de calcul IA (valeurs approximatives ; vérifiez les dernières spécifications officielles)

Indicateur 1 : adéquation entraînement / inférence — comprenez d'abord quel est votre métier

Premier principe de sélection : votre charge principale est-elle l'entraînement ou l'inférence ? Ce n'est pas le même métier. L'entraînement est intensif en calcul et limité par la communication du cluster — dans les clusters de milliers voire dizaines de milliers de cartes, les frais généraux d'All-Reduce peuvent représenter 30 à 50 % du temps total ; la phase de décodage de l'inférence est intensive en bande passante mémoire, et aucune puissance de calcul n'y change rien quand le GPU attend les données. Concevoir un cluster d'inférence selon les standards des cartes d'entraînement, ou planifier une plateforme d'entraînement selon les standards des cartes d'inférence — dans les deux cas, c'est une erreur directionnelle à des centaines de millions de yuans.

• Scénario d'entraînement : la puissance FP8 de la B300 est environ 2,3 fois celle de la H100, ramenant le temps d'entraînement d'un modèle de mille milliards de paramètres à 40–50 % de celui d'un cluster H100 ; la puissance FP16 de l'Ascend 910C représente environ 40 % de celle de la H100 et, en tenant compte de l'écart de MFU (utilisation de la puissance de calcul du modèle), l'écart de puissance d'entraînement effective est d'environ 4,5 fois.

• Scénario d'inférence : les petits modèles de 7B–13B peuvent tourner sur n'importe quelle carte, le rapport qualité-prix l'emporte donc ; un modèle dense 70B a des poids FP16 d'environ 140 Go — la H200 avec 141 Go le fait tourner sur une seule carte, la B300 avec 288 Go permet de très gros batches, et la 910C avec 96 Go exige un parallélisme tensoriel multi-cartes ; dans les scénarios MoE de niveau 671B et de contexte long 128K+, les cartes à grande mémoire écrasent la concurrence.

Une phrase pour retenir cet indicateur : pour l'entraînement, on achète de la puissance de calcul ; pour l'inférence, on achète de la bande passante.

Indicateur 2 : capacité et bande passante de la VRAM — la capacité fixe le plafond, la bande passante fixe le plancher

La VRAM est le « grenier » de l'inférence, la bande passante en est « l'autoroute ». Les trois tendances des grands modèles — croissance des paramètres, allongement du contexte et essor des MoE — consomment la VRAM à une vitesse folle. Le contexte long en particulier est le nouveau trou noir de la mémoire : le cache KV d'un contexte de 128K peut engloutir des dizaines de gigaoctets supplémentaires, ce qui signifie que « les poids tiennent en mémoire » n'est que la note de passage, et que « la réserve pour le cache KV » détermine le parallélisme.

L'écart de capacité mémoire se convertit directement en argent : pour faire tourner un modèle de niveau 405B (poids FP16 d'environ 810 Go), la B300 exige 4 cartes en parallélisme tensoriel, la H100 en exige 11 ; la différence, ce n'est pas seulement le prix de 7 cartes supplémentaires, c'est aussi tout un serveur, des câbles NVLink et cinq ans d'électricité. L'effet de la bande passante est plus discret : en phase de décodage, chaque token généré exige une lecture complète des poids du modèle ; les poids FP16 d'un modèle 70B représentent environ 140 Go, la H100 à 3,35 To/s les lit en environ 42 millisecondes, la B300 à 8 To/s ramène cela à 17 millisecondes — voilà pourquoi les cartes à haute bande passante écrasent la concurrence dans les scénarios sensibles à la latence.

Indicateur 3 : interconnexion scale-up — une carte puissante qui ne peut pas être interconnectée devient une île

Le scale-up détermine combien de cartes vous pouvez « virtualiser en une seule grande carte ». Le NVLink 5 de NVIDIA (B300) offre 1,8 To/s par GPU et, avec NVSwitch, permet d'interconnecter entièrement 72 cartes dans un rack — le parallélisme tensoriel d'un modèle de mille milliards de paramètres se boucle à l'intérieur d'un seul rack ; le NVLink 4 (H100/H200) à 900 Go/s est extrêmement mature. L'interconnexion HCCS de l'Ascend 910C atteint environ 400 Go/s, soit 44 % du NVLink 4 ; Huawei compense au niveau système par l'interconnexion entièrement optique du supernœud CloudMatrix.

Lors de la sélection, évaluez simultanément deux niveaux : la bande passante d'interconnexion d'un nœud unique, qui détermine l'efficacité du parallélisme intra-rack ; et la solution supernœud du fournisseur, qui fixe le plafond d'extension inter-racks. Ne regarder que le premier, c'est sous-estimer les capacités système d'Ascend ; ne regarder que le second, c'est sous-estimer la complexité de l'exploitation à grande échelle.

Indicateur 4 : disponibilité du cluster — l'indicateur le plus sous-estimé et le plus déterminant

Les données réelles de Meta sur l'entraînement de Llama 3 405B méritent d'être relues trois fois par tout décideur d'achat : un cluster de 16 384 cartes H100 a subi 466 interruptions de tâches en 54 jours — soit une toutes les 3 heures en moyenne, et le taux de défaillance des GPU est 120 fois supérieur à celui des CPU. Faites le calcul : un cluster de 10 000 cartes représente théoriquement ~87,6 millions de cartes-heures de calcul par an ; chaque point de disponibilité perdu, ce sont environ 870 000 cartes-heures de puissance effective gaspillées ; 10 % de pertes dues aux pannes, ce sont des millions de dollars de calcul qui s'évaporent.

La disponibilité dépend de trois choses : la tolérance aux pannes matérielle RAS (la B300 introduit un moteur RAS dédié), la stabilité thermique (les cartes haute puissance exigent un refroidissement liquide, et une panne du refroidissement liquide arrête tout un rack) et la stratégie de points de contrôle (l'entraînement sur 10 000 cartes exige une sauvegarde toutes les 15 à 30 minutes, faisant du débit d'écriture du stockage le nouveau goulot d'étranglement). Cet indicateur est précisément le domaine où les fabricants de systèmes complets créent plus de valeur que les fabricants de puces : redondance d'alimentation, conception des flux d'air, gestion hors bande et tests en banc — chaque élément garantit la disponibilité.

Indicateur 5 : coût de migration logicielle — le matériel est un coût irrécupérable, le logiciel un coût permanent

Le fossé de CUDA, ce n'est pas le chiffre de 10 000+ opérateurs en soi, mais l'expérience de débogage, l'écosystème open source et les réponses instantanément trouvables accumulés par des millions de développeurs en une décennie — un fossé qu'aucune spécification matérielle ne peut combler. À titre de comparaison : ROCm compte environ la moitié des opérateurs de CUDA, et Ascend CANN environ 2 000 opérateurs, qui couvrent déjà les modèles courants.

Règle pratique : pour l'entraînement et l'inférence de modèles standard (GPT/Llama/Qwen/DeepSeek), les trois écosystèmes conviennent ; pour la recherche de pointe avec changements fréquents d'architecture de modèle, CUDA reste le seul choix ; là où la conformité impose des plateformes domestiques, CANN est le seul choix, mais prévoyez au budget 1 à 3 mois-homme d'ingénierie pour les opérateurs personnalisés et l'optimisation de la migration, et inscrivez-le au calendrier du projet et au contrat d'achat.

Indicateur 6 : tokens par dollar et tokens par watt — l'examen final de la commercialisation

Dès qu'un centre de calcul IA entre en exploitation commerciale, les clients ne s'intéressent qu'à une chose : combien coûte un token. Les mesures tierces montrent que le coût d'inférence du million de tokens sur B200/B300 représente environ 1/5 à 1/10 de celui de la H100 — un avantage qui ne vient pas de la puissance d'une seule carte, mais de l'efficacité système : une mémoire plus grande permet des batches plus gros, la précision FP4 divise le calcul par deux, NVLink 5 réduit les frais de communication. Cela explique pourquoi le tarif de location de la H100 « obsolète » continue de baisser : elle n'est pas devenue plus lente — c'est simplement le calcul des tokens par dollar qui ne tient plus.

Côté énergie, le TDP d'une carte est passé de 700 W pour la H100 à ~1 400 W pour la B300 — au-delà de la limite du refroidissement par air ; acheter une B300 revient en substance à acheter toute une infrastructure de refroidissement liquide (le refroidissement par plaque froide permet un PUE inférieur à 1,15, avec un investissement initial supérieur de 30 à 50 % à celui du refroidissement par air). Mais il faut comparer les « tokens par watt », pas le TDP : le rendement en tokens par watt de la B300 est plus de 3 fois supérieur à celui de la H100. L'Ascend 910C, avec un TDP d'environ 600 W, fonctionne en refroidissement par air, avec un seuil d'infrastructure nettement plus bas — adaptée aux projets au budget et aux conditions de site limités.

Matrice de décision par scénario

Tableau 2 : Matrice de sélection GPU pour cinq scénarios types

Check-list anti-pièges : les cinq erreurs de sélection les plus courantes

• Ne regarder que le prix unitaire sans calculer la TCO du cluster — NVSwitch, les cartes réseau IB/RoCE et la configuration du cache NVMe d'un système 8 cartes peuvent doubler le coût total ; un devis se lit à deux niveaux : système et cluster.

• Établir le budget sur la puissance de crête — le MFU du secteur ne représente souvent que 30 à 50 % ; recalculez en puissance effective avant de discuter des volumes d'achat, sinon le cluster est d'emblée surdimensionné du double.

• Ignorer les prérequis du site — dans les projets B300, vérifiez d'abord la puissance électrique, la charge admissible des planchers et les conditions de refroidissement liquide, puis parlez prix ; si le site n'est pas conforme, le prix contractuel le plus bas deviendra un coût irrécupérable.

• Sous-estimer le travail de migration — inscrivez au budget le coût d'optimisation de la migration de CUDA vers CANN (au moins 1 à 3 mois-homme) et privilégiez les partenaires de systèmes complets ayant une expérience de déploiement de plateformes domestiques.

• Utiliser un seul modèle de carte pour toutes les charges — achetez l'entraînement et l'inférence par niveaux et déployez les grands et petits modèles séparément, en évitant le gaspillage du type « faire tourner un modèle 7B sur une B300 ».

Pourquoi choisir ChangFan Industrial Computing

Revenons à la structure des coûts de la fig. 1 : les puces ne représentent que 30 à 40 % du coût d'un centre de calcul IA — l'électricité, le refroidissement, le réseau et l'exploitation constituent le reste, et c'est là que les fabricants de plateformes système créent de la valeur. ChangFan Industrial Computing fournit aux centres de calcul IA et aux entreprises d'IA des serveurs GPU complets et une personnalisation de la couche infrastructure :

• Plateformes système pour tous les scénarios : des stations de travail d'inférence aux serveurs GPU 8 cartes, avec configuration à la demande de plateformes NVIDIA et de plateformes de calcul domestiques, et réglage global du ratio CPU/GPU, du cache NVMe et du réseau haut débit.

• Conception thermique et électrique pour hautes puissances : pour une consommation de 1 000 W+ par carte, nous proposons l'optimisation des flux d'air du châssis, l'alimentation redondante et des châssis prêts pour le refroidissement liquide, afin que les GPU puissants tournent durablement à pleine puissance.

• Gènes de fiabilité industrielle : toute la gamme respecte les standards de conception 7×24, avec blocs d'alimentation redondants, gestion hors bande (IPMI/BMC) et tests complets en banc et en charge — visant directement les coûts cachés de la disponibilité du cluster.

• Capacités OEM/ODM approfondies : structure du châssis, sérigraphie de façade, BIOS/BMC, disposition des ports, pilotes préinstallés et images d'environnement d'inférence — tout est personnalisable, aidant les intégrateurs à livrer rapidement des systèmes IA sous leur propre marque.

• Certifications complètes et livraison mondiale : produits certifiés 3C, CE, FCC, RoHS et autres normes, spécifications et rapports de test fournis en chinois et en anglais, logistique mondiale et livraison de projets à l'étranger prises en charge.

Que vous planifiiez un cluster d'entraînement de mille cartes ou construisiez une plateforme d'inférence d'entreprise, ChangFan Industrial Computing fournit le matériel système adapté et un accompagnement professionnel à la sélection. Contactez les ingénieurs commerciaux de ChangFan Industrial Computing pour des tests d'échantillons et un devis.

Questions fréquentes (FAQ)

Q : Faut-il encore acheter la H100 en 2026 ? R : Oui. Grâce à sa chaîne d'approvisionnement mature et à l'absence de coûts de migration d'écosystème, la H100 reste le choix optimal en termes de prix pour l'entraînement et l'inférence de 7B à 70B ; mais pour l'entraînement de pointe avec un budget suffisant, la B300 est le meilleur investissement à long terme.

Q : Le refroidissement liquide est-il obligatoire pour la B300 ? R : Oui. Avec un TDP de ~1 400 W par carte, la B300 dépasse la limite du refroidissement par air, et le refroidissement liquide par plaque froide est la norme ; le déploiement de la B300 exige une planification globale de l'alimentation, du refroidissement et de la charge admissible du site.

Q : L'Ascend 910C peut-elle remplacer la H100 ? R : Dans les scénarios d'inférence (modèles 7B–13B), c'est un quasi-remplacement complet, avec une efficacité réelle d'environ 70 à 82 % de la H100 ; en entraînement, l'écart de puissance effective est d'environ 4,5 fois, mais sous les contraintes de conformité Xinchuang, c'est le seul choix indépendant et maîtrisé.

Q : Quand sortira l'Ascend 950PR ? R : Selon la feuille de route publiée par Huawei, la 950PR sort au premier trimestre 2026 avec une optimisation pour les scénarios prefill de l'inférence, et la 950DT au quatrième trimestre 2026 ; les caractéristiques précises et les livraisons sont à confirmer selon les annonces officielles de Huawei.

Q : Quelle configuration minimale faut-il pour l'inférence d'un modèle 70B ? R : Les poids FP16 représentent environ 140 Go : une seule carte H200 (141 Go) suffit ; pour de gros batches parallèles, choisissez la B300 (288 Go) ; avec un budget limité, le parallélisme tensoriel multi-H100 convient.

Q : Construire son propre centre de calcul IA ou louer de la puissance cloud ? R : Tout se résume au taux d'utilisation : avec une charge stable et un taux d'utilisation annuel supérieur à 60–70 %, un cluster de systèmes en propre l'emporte généralement sur la location cloud longue durée en TCO ; avec une charge variable ou en phase de validation, il est plus prudent de louer d'abord, puis de construire.

Q : Les serveurs GPU de ChangFan Industrial Computing prennent-ils en charge la personnalisation du refroidissement liquide ? R : Oui. ChangFan Industrial Computing propose des châssis prêts pour le refroidissement liquide, l'optimisation des flux d'air et l'alimentation redondante, ainsi qu'un cycle complet OEM/ODM du châssis au BIOS et aux environnements préinstallés.