6 belangrijke criteria voor het selecteren van GPU's voor AI-rekenclusters: een diepgaande vergelijking van H100/H200/B200/B300 versus Ascend 910B/910C/950PR | Changfan Industrial Control

Inleiding: de kaartkeuze bepaalt alles, maar de «kaart» is niet de chip

In 2026 is de investeringsdrempel van AI-rekencentra verschoven van «kaarten bemachtigen» naar «de juiste kaarten kiezen»: één enkel cluster kost honderden miljoenen yuan, en een selectiefout betekent verdubbelde trainingscycli, ontsporende inferentiekosten en een binnen drie jaar verouderde technologielijn. De meeste selectiefouten gaan terug op één en dezelfde handeling — het datablad als beslissingsbasis gebruiken.

Het datablad vertelt u niet dat een cluster van 10.000 GPU's de training gemiddeld elke 3 uur onderbreekt; dat een 2,3 keer hogere kaartprestatie de trainingstijd slechts halveert; dat een B300 met een TDP van 1.400 W in een luchtgekoelde machineruimte een dure pronkstuk is; of dat de migratie van CUDA naar CANN de volledige projectmarge kan opslokken. Dit artikel gaat verder dan het opsommen van parameters en vergelijkt aan de hand van zes kernindicatoren die de ROI van een AI-rekencentrum bepalen de NVIDIA H100/H200/B200/B300 en Ascend 910B/910C/950PR volledig, met een direct bruikbare scenario-beslissingsmatrix en een antiparich-checklist.

Eerst de conclusies: vijf contra-intuïtieve oordelen

• De essentie van een kaartkeuze is de keuze van een bedrijfsmodel, niet van rekenkracht. De kosteneenheid van het trainingsbedrijf is «tijd en elektriciteit om één groot model te trainen»; de kosteneenheid van het inferentiebedrijf is «per miljoen tokens». Begrijp eerst welk geld u verdient en bespreek dan welke kaart u koopt.

• De VRAM-capaciteit bepaalt of het model kan draaien, de bandbreedte bepaalt hoe snel, de interconnect bepaalt hoe groot. De TFLOPS in het datablad tellen pas als ze verzadigd kunnen worden — in de praktijk draaien veel GPU's met een effectief gebruik (MFU) van minder dan de helft.

• Chips vormen slechts 30–40% van de totale kosten. Elektriciteit, vloeistofkoeling, netwerk en vijf jaar exploitatie slokken de overige 60% op — een kaart kiezen is in essentie een hele infrastructuur kiezen.

• Een B300 kopen is een vloeistofgekoelde machineruimte kopen. Met ~1.400 W per kaart ligt u voorbij de luchtkoelingsgrens; als de stroomvoorziening en koeling van de locatie niet meekomen, zal zelfs de krachtigste kaart op lagere toeren draaien.

• Er bestaat geen beste kaart — er bestaat de kaart die het beste bij uw workload past. De H100 is allerminst verouderd, de Ascend 910C is onvervangbaar in Xinchuang-compliance-scenario's, en de 950PR kondigt de volgende stap van binnenlandse rekenkracht aan — het antwoord hangt altijd af van uw belastingsprofiel.

Zeven chips, vier marktposities

Voordat we de indicatoren induiken, leggen we een basisbegrip vast: deze zeven chips hebben geen lineaire «sneller of langzamer»-relatie — ze bezetten vier totaal verschillende marktposities:

• De trainingstroon: B200 / B300 (Blackwell-architectuur) — FP8-rekenkracht en NVLink 5-interconnect leiden op alle fronten; het enige niveau voor het trainen van modellen met een biljoen parameters.

• De beproefde gouden standaard: H100 / H200 (Hopper-architectuur) — het meest volwassen ecosysteem en de meest volwassen toeleveringsketen, de prijs-kwaliteitkeuze voor training en inferentie van 7B tot 70B.

• De binnenlandse pijler: Ascend 910B / 910C — de enige optie voor Xinchuang-compliance-scenario's; de inferentie is vrijwel productierijp, de training loopt een generatie achter.

• De variabele van de volgende generatie: Ascend 950PR (lancering in Q1 2026, geoptimaliseerd voor de prefill-fase van inferentie), die het inhalempo van binnenlandse rekenkracht toont.

Tabel 1: Kernspecificaties van de zeven belangrijkste AI-rekenchips (bij benadering; verifieer de nieuwste officiële specificaties)

Indicator 1: training-inferentie-geschiktheid — begrijp eerst wat uw bedrijf is

Eerste selectieprincipe: is uw hoofdbelasting training of inferentie? Dat is niet hetzelfde bedrijf. Training is rekenintensief en begrensd door clustercommunicatie — in clusters van duizenden tot tienduizenden kaarten kan de All-Reduce-overhead 30–50% van de totale tijd uitmaken; de decode-fase van inferentie is geheugenbandbreedte-intensief, en geen rekenkracht helpt als de GPU op data wacht. Een inferentiecluster ontwerpen volgens trainingskaartstandaarden of een trainingsplatform plannen volgens inferentiekaartstandaarden — in beide gevallen is het een directionele fout ter waarde van honderden miljoenen yuan.

• Trainingsscenario: de FP8-prestatie van de B300 is ongeveer 2,3 keer die van de H100, waardoor de trainingstijd van een model met een biljoen parameters daalt tot 40–50% van die van een H100-cluster; de FP16-prestatie van de Ascend 910C bedraagt ongeveer 40% van de H100 en, rekening houdend met de MFU-kloof (benutting van de modelrekenkracht), bedraagt de kloof in effectieve trainingsprestatie ongeveer 4,5 keer.

• Inferentiescenario: kleine modellen van 7B–13B kunnen op elke kaart draaien, dus beslist de prijs-kwaliteitverhouding; een dicht 70B-model heeft FP16-gewichten van circa 140 GB — de H200 met 141 GB draait het op één enkele kaart, de B300 met 288 GB staat zeer grote batches toe, en de 910C met 96 GB vereist tensorparallelisme over meerdere kaarten; in MoE-scenario's van het 671B-niveau en lange contexten van 128K+ winnen kaarten met veel geheugen overweldigend.

Eén zin om deze indicator te onthouden: voor training koop je rekenkracht, voor inferentie koop je bandbreedte.

Indicator 2: VRAM-capaciteit en -bandbreedte — de capaciteit bepaalt het plafond, de bandbreedte bepaalt de vloer

VRAM is de «schuur» van inferentie, bandbreedte is de «snelweg». De drie trends van grote modellen — parametergroei, contextverlenging en MoE-opkomst — verslinden VRAM in hoog tempo. Vooral de lange context is het nieuwe geheugenzwarte gat: de KV-cache van een 128K-context kan nog eens tientallen gigabytes opslokken, wat betekent dat «de gewichten passen» slechts het voldoende-criterium is en «de reserve voor de KV-cache» het parallellelisme bepaalt.

De geheugencapaciteitskloof vertaalt zich direct in geld: om een model van het 405B-niveau (FP16-gewichten circa 810 GB) te draaien, heeft de B300 4 kaarten in tensorparallelisme nodig, de H100 heeft er 11 nodig; het verschil is niet alleen de prijs van 7 extra kaarten, maar ook een hele server, NVLink-kabels en vijf jaar elektriciteit. Het bandbreedte-effect is subtieler: in de decode-fase vereist elk gegenereerd token een volledige lezing van de modelgewichten; de FP16-gewichten van een 70B-model bedragen circa 140 GB, de H100 met 3,35 TB/s leest ze in ongeveer 42 milliseconden, de B300 met 8 TB/s drukt dit terug tot 17 milliseconden — daarom verpletteren kaarten met hoge bandbreedte de concurrentie in latentiegevoelige scenario's.

Indicator 3: scale-up-interconnect — een krachtige kaart die niet kan worden verbonden, wordt een eiland

Scale-up bepaalt hoeveel kaarten u kunt «virtualiseren tot één grote kaart». NVIDIA's NVLink 5 (B300) levert 1,8 TB/s per GPU en maakt met NVSwitch volledige verbinding van 72 kaarten binnen één rack mogelijk — het tensorparallelisme van een model met een biljoen parameters wordt binnen één rack afgerond; NVLink 4 (H100/H200) met 900 GB/s is buitengewoon volwassen. De HCCS-interconnect van de Ascend 910C bedraagt circa 400 GB/s, dat is 44% van NVLink 4; Huawei compenseert dit op systeemniveau met de volledig optische interconnectie van de CloudMatrix-supernode.

Beoordeel bij de kaartselectie tegelijkertijd twee niveaus: de interconnectbandbreedte van één enkel knooppunt, die de intra-rack-parallellisatie-efficiëntie bepaalt; en de supernode-oplossing van de leverancier, die het inter-rack-uitbreidingsplafond zet. Wie alleen naar het eerste kijkt, onderschat het systeemvermogen van Ascend; wie alleen naar het tweede kijkt, onderschat de complexiteit van grootschalige exploitatie.

Indicator 4: clusterbeschikbaarheid — de meest onderschatte en meest bepalende indicator

De echte gegevens van Meta over de training van Llama 3 405B verdienen het om door elke inkoopbeslisser drie keer te worden herlezen: een cluster van 16.384 H100-kaarten beleefde in 54 dagen 466 taakonderbrekingen — gemiddeld eens per 3 uur, en het GPU-uitvalpercentage is 120 keer dat van CPU's. Reken maar uit: een cluster van 10.000 kaarten heeft theoretisch ~87,6 miljoen kaarturen rekenkracht per jaar; elk verloren beschikbaarheidsprocentpunt is circa 870.000 kaarturen verspilde effectieve rekenkracht; 10% verliezen door stilstand betekent miljoenen dollars aan rekenkracht die verdampt.

Beschikbaarheid hangt af van drie dingen: hardwarefouttolerantie RAS (de B300 introduceert een speciale RAS-engine), thermische stabiliteit (krachtige kaarten vereisen vloeistofkoeling, en een vloeistofkoelingsstoring legt een heel rack stil) en checkpoint-strategie (training op 10.000 kaarten vereist elke 15–30 minuten een opslag, waardoor de schrijfbandbreedte van de opslag het nieuwe knelpunt wordt). Precies deze indicator is het domein waar fabrikanten van complete systemen meer waarde creëren dan chipfabrikanten: voedingsredundantie, luchtstroomontwerp, out-of-band-beheer en testbankproeven — elk element waarborgt de beschikbaarheid.

Indicator 5: softwaremigratiekosten — hardware is een versonken kostenpost, software een permanente

De CUDA-gracht is niet het getal van 10.000+ operators zelf, maar de debugging-ervaring, het open-source-ecosysteem en de direct vindbare antwoorden die miljoenen ontwikkelaars in een decennium hebben opgebouwd — een gracht die geen enkele hardwarespecificatie kan dichten. Ter vergelijking: ROCm heeft ongeveer de helft van de operators van CUDA, en Ascend CANN circa 2.000 operators, die de gangbare modellen al dekken.

Praktijkregel: voor training en inferentie van standaardmodellen (GPT/Llama/Qwen/DeepSeek) volstaan alle drie de ecosystemen; voor baanbrekend onderzoek met frequente wisselingen van modelarchitectuur blijft CUDA de enige keuze; waar compliance binnenlandse platforms voorschrijft, is CANN de enige keuze, maar budgetteer 1–3 manmaanden engineering voor aangepaste operators en migratie-optimalisatie en schrijf dit op in de projectplanning en het inkoopcontract.

Indicator 6: tokens per dollar en tokens per watt — het eindexamen van de commercialisering

Zodra een AI-rekencentrum commercieel in bedrijf gaat, interesseert klanten maar één ding: wat kost een token. Metingen van derden tonen dat de inferentiekosten per miljoen tokens op B200/B300 circa 1/5 tot 1/10 van de H100 bedragen — een voordeel dat niet van de prestaties van één kaart komt, maar van de systeemeffectiviteit: meer geheugen staat grotere batches toe, FP4-precisie halveert het rekenwerk, NVLink 5 verlaagt de communicatie-overhead. Dit verklaart waarom de huurprijs van de «verouderde» H100 blijft dalen: hij is niet langzamer geworden — alleen de tokens-per-dollar-som klopt niet meer.

Aan de energiekant is de TDP per kaart gestegen van 700 W bij de H100 naar ~1.400 W bij de B300 — voorbij de luchtkoelingsgrens; een B300 kopen betekent feitelijk een complete vloeistofkoelingsinfrastructuur kopen (cold-plate-koeling maakt een PUE onder 1,15 mogelijk, met 30–50% hogere initiële investering dan luchtkoeling). Maar vergeleken moet worden op «tokens per watt», niet op TDP: het tokens-per-watt-rendement van de B300 is meer dan 3 keer dat van de H100. De Ascend 910C met een TDP van circa 600 W draait op luchtkoeling, met een merkbaar lagere infrastructuurdrempel — geschikt voor projecten met beperkt budget en locatieomstandigheden.

Scenario-beslissingsmatrix

Tabel 2: GPU-selectiematrix voor vijf typische scenario's

Antiparich-checklist: de vijf meest voorkomende selectiefouten

• Alleen naar de stukprijs kijken en de cluster-TCO niet berekenen — NVSwitch, IB/RoCE-netwerkkaarten en de NVMe-cache-configuratie van een 8-kaarten-systeem kunnen de totale kosten verdubbelen; een offerte moet op twee niveaus worden gelezen: systeem en cluster.

• Het budget op piekprestaties opstellen — de branche-MFU bedraagt vaak slechts 30–50%; reken om naar effectieve prestaties voordat u over inkoopvolumes spreekt, anders is het cluster vanaf de start dubbel overgedimensioneerd.

• De locatievoorwaarden negeren — controleer bij B300-projecten eerst elektrisch vermogen, vloerdraagkracht en vloeistofkoelingscondities, en praat dan over de prijs; als de locatie niet voldoet, wordt zelfs de laagste contractprijs een versonken kostenpost.

• De migratiewerkzaamheden onderschatten — budgetteer de optimalisatiekosten van de migratie van CUDA naar CANN (minimaal 1–3 manmaanden) en geef prioriteit aan partners voor complete systemen met ervaring in de implementatie van binnenlandse platforms.

• Eén kaartmodel voor alle belastingen gebruiken — schaf training en inferentie gelaagd aan en zet grote en kleine modellen gescheiden in, om verspilling zoals «een 7B-model op een B300 draaien» te vermijden.

Waarom kiezen voor ChangFan Industrial Computing

Terug naar de kostenstructuur in fig. 1: chips vormen slechts 30–40% van de kosten van een AI-rekencentrum — elektriciteit, koeling, netwerk en exploitatie vormen de rest, en daar creëren systeemplatvormfabrikanten waarde. ChangFan Industrial Computing levert aan AI-rekencentra en AI-bedrijven complete GPU-servers en maatwerk van de infrastructuurlaag:

• Systeemplatforms voor alle scenario's: van inferentie-workstations tot 8-kaarten-GPU-servers, met op verzoek geconfigureerde NVIDIA- en binnenlandse rekenplatforms, en integrale afstemming van CPU/GPU-verhouding, NVMe-cache en hogesnelheidsnetwerk.

• Thermisch en elektrisch ontwerp voor hoge vermogens: voor meer dan 1.000 W verbruik per kaart bieden wij chassis-luchtstroomoptimalisatie, redundante voeding en vloeistofkoeling-klare chassis, zodat krachtige GPU's duurzaam op vol vermogen draaien.

• Industriële betrouwbaarheidsgenen: de hele productlijn voldoet aan 7×24-ontwerpnormen, met redundante voedingen, out-of-band-beheer (IPMI/BMC) en volledige testbank- en belastingstests — rechtstreeks gericht op de verborgen kosten van clusterbeschikbaarheid.

• Diepe OEM/ODM-capaciteiten: chassisstructuur, paneelsilkscreen, BIOS/BMC, poortindeling, vooraf geïnstalleerde drivers en inferentie-omgevingsimages — alles aanpasbaar, waarmee integrators snel AI-systemen onder eigen merk kunnen leveren.

• Volledige certificeringen en wereldwijde levering: producten gecertificeerd volgens 3C, CE, FCC, RoHS en andere normen, specificaties en testrapporten in het Chinees en Engels beschikbaar, wereldwijde logistiek en levering van buitenlandse projecten ondersteund.

Of u nu een trainingscluster van duizend kaarten plant of een bedrijfsinferentieplatform bouwt — ChangFan Industrial Computing levert de passende systeemhardware en professionele selectieondersteuning. Neem contact op met de sales engineers van ChangFan Industrial Computing voor monstertests en een offerte.

Veelgestelde vragen (FAQ)

V: Is de H100 in 2026 nog de moeite waard? A: Ja. Dankzij de volwassen toeleveringsketen en nul ecosysteemmigratiekosten blijft de H100 de prijsoptimale keuze voor training en inferentie van 7B tot 70B; maar voor toptraining met voldoende budget is de B300 de beste langetermijninvestering.

V: Is vloeistofkoeling verplicht voor de B300? A: Ja. Met een TDP van ~1.400 W per kaart overschrijdt de B300 de luchtkoelingsgrens, en cold-plate-vloeistofkoeling is de standaard; de implementatie van de B300 vereist een integrale planning van elektriciteit, koeling en draagkracht van de locatie.

V: Kan de Ascend 910C de H100 vervangen? A: In inferentiescenario's (7B–13B-modellen) is het een vrijwel volledige vervanging, met een reële efficiëntie van circa 70–82% van de H100; in training bedraagt de effectieve prestatiekloof circa 4,5 keer, maar onder Xinchuang-compliance-dwang is het de enige onafhankelijke en beheersbare keuze.

V: Wanneer komt de Ascend 950PR uit? A: Volgens de door Huawei gepubliceerde roadmap verschijnt de 950PR in het eerste kwartaal van 2026 met optimalisatie voor inferentie-prefill-scenario's, en de 950DT in het vierde kwartaal van 2026; concrete specificaties en leveringen zijn ter bevestiging volgens de officiële aankondigingen van Huawei.

V: Welke minimale configuratie is nodig voor de inferentie van een 70B-model? A: De FP16-gewichten bedragen circa 140 GB: één enkele H200 (141 GB) volstaat; voor grote parallelle batches kiest u de B300 (288 GB); bij beperkt budget volstaat tensorparallelisme over meerdere H100's.

V: Een eigen AI-rekencentrum bouwen of cloud-rekenkracht huren? A: Alles komt neer op benutting: bij stabiele belasting en een jaarlijkse benutting boven 60–70% verslaat een eigen systeemcluster doorgaans de langetermijn-cloudhuur in TCO; bij wisselende belasting of in de validatiefase is het verstandiger eerst te huren en dan te bouwen.

V: Ondersteunen de GPU-servers van ChangFan Industrial Computing vloeistofkoeling-maatwerk? A: Ja. ChangFan Industrial Computing biedt vloeistofkoeling-klare chassis, luchtstroomoptimalisatie en redundante voeding, plus een complete OEM/ODM-cyclus van chassis tot BIOS en vooraf geïnstalleerde omgevingen.