6 nyckeltal för val av GPU:er till AI-beräkningscenter: En djupgående jämförelse mellan H100/H200/B200/B300 och Ascend 910B/910C/950PR | Changfan Industrial Control

Inledning: kortvalet avgör allt, men «kortet» är inte chipet

År 2026 har investeringströskeln för AI-datacenter flyttats från «att få tag på kort» till «att välja rätt kort»: ett enda kluster kostar hundratals miljoner yuan, och ett valfel innebär fördubblade träningscykler, okontrollerade inferenskostnader och en teknisk färdplan som är föråldrad på tre år. De flesta valfel går tillbaka till en och samma handling — att använda databladet som beslutsunderlag.

Databladet berättar inte att ett kluster med 10 000 GPU:er avbryter träningen i genomsnitt var 3:e timme; att 2,3 gånger högre kortprestanda bara halverar träningstiden; att en B300 med 1 400 W TDP i en luftkyld maskinhall är en dyr prydnad; eller att migreringen från CUDA till CANN kan sluka hela projektmarginalen. Denna artikel går bortom enkel parameteruppräkning och jämför med hjälp av sex nyckelindikatorer som avgör ROI för ett AI-datacenter NVIDIA H100/H200/B200/B300 och Ascend 910B/910C/950PR på allvar, med en direkt användbar scenariobaserad beslutsmatris och en checklista mot fallgropar.

Slutsatserna först: fem kontraintuitiva omdömen

• Kärnan i kortvalet är valet av affärsmodell, inte beräkningskraft. Kostnadsenheten för träningsverksamheten är «tid och el för att träna en stor modell»; kostnadsenheten för inferensverksamheten är «per miljon tokens». Förstå först vilka pengar ni tjänar och diskutera sedan vilket kort ni ska köpa.

• VRAM-kapaciteten avgör om modellen kan köras, bandbredden avgör hur snabbt, sammankopplingen avgör hur stort. TFLOPS i databladet räknas bara när man lyckas mätta dem — i praktiken kör många GPU:er med ett effektivt utnyttjande (MFU) under hälften.

• Chipen utgör bara 30–40 % av totalkostnaden. Elförsörjning, vätskekylning, nätverk och fem års drift slukar de resterande 60 % — att välja kort är i själva verket att välja en hel infrastruktur.

• Att köpa en B300 är att köpa en vätskekyld maskinhall. Med ~1 400 W per kort överskrids luftkylningsgränsen; om anläggningens elförsörjning och kylning inte håller måttet kommer även det starkaste kortet att gå med strypning.

• Det finns inget bästa kort — det finns det kort som bäst matchar er arbetsbelastning. H100 är långt ifrån föråldrat, Ascend 910C är oersättligt i Xinchuang-efterlevnadsscenarier, och 950PR utlovar nästa steg för inhemsk beräkningskraft — svaret beror alltid på er belastningsprofil.

Sju chip, fyra marknadspositioner

Innan vi går in på indikatorerna etablerar vi en grundförståelse: dessa sju chip har inte ett linjärt «snabbare eller långsammare»-förhållande — de intar fyra helt olika marknadspositioner:

• Träningstronen: B200 / B300 (Blackwell-arkitektur) — FP8-beräkning och NVLink 5-sammankoppling leder på alla områden; det enda skiktet för att träna modeller med en biljon parametrar.

• Den beprövade gyllene standarden: H100 / H200 (Hopper-arkitektur) — det mest mogna ekosystemet och den mest mogna leveranskedjan, prisvärdhetsvalet för träning och inferens från 7B till 70B.

• Den inhemska pelaren: Ascend 910B / 910C — det enda alternativet för Xinchuang-efterlevnadsscenarier; inferensen är nästan produktionsklar, träningen ligger en generation efter.

• Nästa generations variabel: Ascend 950PR (lansering Q1 2026, optimerad för inferensens prefill-fas), som visar inhemsk beräkningskrafts ikapphämtningstakt.

Tabell 1: Nyckelspecifikationer för de sju viktigaste AI-beräkningschipen (ungefärliga värden; kontrollera mot de senaste officiella specifikationerna)

Indikator 1: tränings-/inferenslämplighet — förstå först vilken verksamhet ni bedriver

Första valsprincipen: är er huvudbelastning träning eller inferens? Det är inte samma verksamhet. Träning är beräkningsintensivt och begränsat av klusterkommunikation — i kluster med tusentals till tiotusentals kort kan All-Reduce-omkostnaderna utgöra 30–50 % av den totala tiden; inferensens avkodningsfas är minnesbandbreddsintensiv, och ingen beräkningskraft hjälper när GPU:n väntar på data. Att designa ett inferenskluster efter träningskortsstandarder eller planera en träningsplattform efter inferenskortsstandarder — i båda fallen är det ett riktningsfel värt hundratals miljoner yuan.

• Träningsscenario: B300:s FP8-prestanda är cirka 2,3 gånger H100:s, vilket reducerar träningstiden för en modell med en biljon parametrar till 40–50 % av ett H100-klusters; Ascend 910C:s FP16-prestanda är cirka 40 % av H100:s, och med hänsyn till MFU-klyftan (modellens beräkningsutnyttjande) uppgår klyftan i effektiv träningsprestanda till cirka 4,5 gånger.

• Inferensscenario: små modeller på 7B–13B kan köras på vilket kort som helst, så prisvärdheten avgör; en tät 70B-modell har FP16-vikter på cirka 140 GB — H200 med 141 GB kör den på ett enda kort, B300 med 288 GB tillåter mycket stora batchar, och 910C med 96 GB kräver tensorparallellism över flera kort; i MoE-scenarier på 671B-nivå och långa kontexter på 128K+ vinner kort med stort minne förkrossande.

En mening för att minnas denna indikator: för träning köper man beräkningskraft, för inferens köper man bandbredd.

Indikator 2: VRAM-kapacitet och bandbredd — kapaciteten sätter taket, bandbredden sätter golvet

VRAM är inferensens «lada», bandbredden är «motorvägen». De tre trenderna hos stora modeller — parametertillväxt, kontextförlängning och MoE-genomslag — slukar VRAM i rasande takt. Särskilt den långa kontexten är minnets nya svarta hål: KV-cachen för en 128K-kontext kan sluka ytterligare tiotals gigabyte, vilket betyder att «vikterna får plats» bara är godkänt och «reserven för KV-cachen» är det som avgör parallellismen.

Minneskapacitetsklyftan översätts direkt till pengar: för att köra en modell på 405B-nivå (FP16-vikter cirka 810 GB) kräver B300 4 kort i tensorparallellism, H100 kräver 11; skillnaden är inte bara priset på 7 extra kort, utan också en hel server, NVLink-kablar och fem års el. Bandbreddseffekten är mer diskret: i avkodningsfasen kräver varje genererad token en fullständig läsning av modellvikterna; FP16-vikterna för en 70B-modell är cirka 140 GB, H100 med 3,35 TB/s läser dem på cirka 42 millisekunder, B300 med 8 TB/s pressar ner det till 17 millisekunder — därför kör kort med hög bandbredd över konkurrenterna i latenskänsliga scenarier.

Indikator 3: scale-up-sammankoppling — ett kraftfullt kort som inte kan kopplas samman blir en ö

Scale-up avgör hur många kort ni kan «virtualisera till ett stort kort». NVIDIAs NVLink 5 (B300) ger 1,8 TB/s per GPU och möjliggör med NVSwitch full sammankoppling av 72 kort inom ett rack — tensorparallellismen för en modell med en biljon parametrar slutförs inom ett enda rack; NVLink 4 (H100/H200) med 900 GB/s är extremt moget. Ascend 910C:s HCCS-sammankoppling är cirka 400 GB/s, vilket är 44 % av NVLink 4; Huawei kompenserar på systemnivå med CloudMatrix-supernodens helt optiska sammankoppling.

Utvärdera vid kortval samtidigt två nivåer: sammankopplingsbandbredden för en enskild nod, som avgör intra-rack-parallelliseringseffektiviteten; och leverantörens supernodlösning, som sätter inter-rack-expansionstaket. Tittar man bara på det första underskattar man Ascends systemförmåga; tittar man bara på det andra underskattar man komplexiteten i storskalig drift.

Indikator 4: klustertillgänglighet — den mest underskattade och mest avgörande indikatorn

Metas verkliga data om träningen av Llama 3 405B förtjänar att läsas tre gånger av varje inköpsbeslutsfattare: ett kluster med 16 384 H100-kort upplevde 466 jobbavbrott på 54 dagar — i genomsnitt ett var 3:e timme, och GPU-felfrekvensen är 120 gånger högre än CPU:ernas. Räkna på det: ett kluster med 10 000 kort har teoretiskt ~87,6 miljoner korttimmar beräkningskraft per år; varje förlorad tillgänglighetsprocentenhet är cirka 870 000 korttimmar slöseri med effektiv beräkningskraft; 10 % förluster genom stillestånd innebär miljontals dollar beräkningskraft som dunstar bort.

Tillgänglighet beror på tre saker: hårdvarans feltolerans RAS (B300 introducerar en dedikerad RAS-motor), termisk stabilitet (kraftfulla kort kräver vätskekylning, och ett vätskekylningsfel stoppar ett helt rack) och checkpoint-strategi (träning på 10 000 kort kräver sparning var 15–30:e minut, vilket gör lagringens skrivbandbredd till den nya flaskhalsen). Just denna indikator är det område där komplettsystemtillverkare skapar mer värde än chiptillverkare: kraftredundans, luftflödesdesign, out-of-band-hantering och testbänksprovning — varje element säkrar tillgängligheten.

Indikator 5: mjukvarumigrationskostnad — hårdvara är en sjunken kostnad, mjukvara en bestående

CUDA-vallgraven är inte siffran 10 000+ operatorer i sig, utan felsökningserfarenheten, öppenkällkodsekosystemet och de omedelbart hittbara svaren som miljontals utvecklare ackumulerat under ett decennium — en vallgrav som ingen hårdvaruspecifikation kan fylla igen. Jämförelsevis: ROCm har ungefär hälften av CUDA:s operatorer, och Ascend CANN cirka 2 000 operatorer, som redan täcker de vanliga modellerna.

Tumregel: för träning och inferens av standardmodeller (GPT/Llama/Qwen/DeepSeek) duger alla tre ekosystemen; för spetsforskning med frekventa modellarkitekturbyten förblir CUDA det enda valet; där efterlevnad kräver inhemska plattformar är CANN det enda valet, men budgetera 1–3 personmånader ingenjörsarbete för anpassade operatorer och migrationsoptimering och skriv in det i projektplanen och inköpsavtalet.

Indikator 6: tokens per dollar och tokens per watt — kommersialiseringens slutexamen

Så fort ett AI-datacenter går in i kommersiell drift bryr sig kunderna bara om en sak: vad kostar en token. Tredjepartsmätningar visar att inferenskostnaden per miljon tokens på B200/B300 är cirka 1/5 till 1/10 av H100:s — en fördel som inte kommer från ett enda korts prestanda utan från systemeffektiviteten: mer minne tillåter större batchar, FP4-precision halverar beräkningen, NVLink 5 sänker kommunikationsomkostnaderna. Detta förklarar varför hyrespriset för det «föråldrade» H100 fortsätter att sjunka: det har inte blivit långsammare — bara det att tokens-per-dollar-räkningen inte längre går ihop.

På energisidan har TDP per kort stigit från 700 W hos H100 till ~1 400 W hos B300 — bortom luftkylningsgränsen; att köpa en B300 innebär i praktiken att köpa en komplett vätskekylningsinfrastruktur (kallplattkylning möjliggör PUE under 1,15, med 30–50 % högre initial investering än luftkylning). Men det är «tokens per watt» som ska jämföras, inte TDP: B300:s tokens-per-watt-avkastning är mer än 3 gånger H100:s. Ascend 910C med en TDP på cirka 600 W körs luftkyld, med märkbart lägre infrastrukturtröskel — lämplig för projekt med begränsad budget och anläggningsförhållanden.

Scenariobaserad beslutsmatris

Tabell 2: GPU-valsmatris för fem typiska scenarier

Checklista mot fallgropar: de fem vanligaste valfelen

• Bara titta på styckpriset utan att räkna på klustrets TCO — NVSwitch, IB/RoCE-nätverkskort och NVMe-cache-konfigurationen i ett 8-kortssystem kan fördubbla totalkostnaden; en offert måste läsas på två nivåer: system och kluster.

• Göra budgeten efter topprestanda — branschens MFU ligger ofta bara på 30–50 %; räkna om till effektiv prestanda innan ni diskuterar inköpsvolymer, annars är klustret från start dubbelt överdimensionerat.

• Ignorera anläggningens förutsättningar — i B300-projekt, kontrollera först elektrisk effekt, golvets bärighet och förutsättningar för vätskekylning, prata sedan pris; om anläggningen inte räcker till blir även det lägsta kontraktspriset en sjunken kostnad.

• Underskatta migrationsarbetet — budgetera optimeringskostnaden för migreringen från CUDA till CANN (minst 1–3 personmånader) och prioritera komplettsystempartners med erfarenhet av inhemska plattformsimplementeringar.

• Använda en enda kortmodell för alla belastningar — köp träning och inferens skiktat och distribuera stora och små modeller separat, undvik slöseri som «köra en 7B-modell på en B300».

Varför välja ChangFan Industrial Computing

Tillbaka till kostnadsstrukturen i fig. 1: chipen utgör bara 30–40 % av ett AI-datacenters kostnad — el, kylning, nätverk och drift utgör resten, och det är där systemplattformstillverkare skapar värde. ChangFan Industrial Computing levererar till AI-datacenter och AI-företag kompletta GPU-servrar och anpassning av infrastrukturskiktet:

• Systemplattformar för alla scenarier: från inferensarbetsstationer till 8-korts-GPU-servrar, med konfiguration på begäran av NVIDIA- och inhemska beräkningsplattformar, samt helhetsanpassning av CPU/GPU-förhållande, NVMe-cache och höghastighetsnätverk.

• Termisk och elektrisk design för höga effekter: för över 1 000 W förbrukning per kort erbjuder vi chassiluftflödesoptimering, redundant kraftförsörjning och vätskekylningsförberedda chassin, så att kraftfulla GPU:er kör på full effekt länge.

• Industriella tillförlitlighetsgener: hela produktlinjen uppfyller 7×24-designstandarder, med redundanta nätaggregat, out-of-band-hantering (IPMI/BMC) och fullständiga testbänks- och belastningsprov — direkt riktade mot klustertillgänglighetens dolda kostnader.

• Djupa OEM/ODM-förmågor: chassikonstruktion, panelscreentryck, BIOS/BMC, portlayout, förinstallerade drivrutiner och inferensmiljöavbilder — allt anpassningsbart, vilket hjälper integratörer att snabbt leverera AI-system under eget varumärke.

• Fullständiga certifieringar och global leverans: produkter certifierade enligt 3C, CE, FCC, RoHS och andra standarder, datablad och testrapporter tillhandahålls på kinesiska och engelska, stöd för global logistik och leverans av utlandsprojekt.

Oavsett om ni planerar ett träningskluster med tusen kort eller bygger en företagsinferensplattform tillhandahåller ChangFan Industrial Computing lämplig systemhårdvara och professionellt valstöd. Kontakta ChangFan Industrial Computings säljingenjörer för test av provkort och offert.

Vanliga frågor (FAQ)

F: Är det fortfarande värt att köpa H100 år 2026? S: Ja. Tack vare den mogna leveranskedjan och noll ekosystemmigrationskostnader förblir H100 det prisoptimala valet för träning och inferens från 7B till 70B; men för spetsträning med tillräcklig budget är B300 den bästa långsiktiga investeringen.

F: Är vätskekylning obligatoriskt för B300? S: Ja. Med en TDP på ~1 400 W per kort överskrider B300 luftkylningsgränsen, och kallplattsvätskekylning är standard; B300-distribution kräver övergripande planering av el, kylning och anläggningens bärighet.

F: Kan Ascend 910C ersätta H100? S: I inferensscenarier (7B–13B-modeller) är det en nästan fullständig ersättning, med en verklig effektivitet på cirka 70–82 % av H100; i träning uppgår den effektiva prestandaklyftan till cirka 4,5 gånger, men under Xinchuang-efterlevnadstvång är det det enda oberoende och kontrollerbara valet.

F: När lanseras Ascend 950PR? S: Enligt Huaweis publicerade färdplan lanseras 950PR under första kvartalet 2026 med optimering för inferens-prefill-scenarier, och 950DT under fjärde kvartalet 2026; konkreta specifikationer och leveranser bekräftas enligt Huaweis officiella tillkännagivanden.

F: Vilken minimikonfiguration krävs för inferens av en 70B-modell? S: FP16-vikterna är cirka 140 GB: ett enda H200-kort (141 GB) räcker; för stora parallella batchar, välj B300 (288 GB); vid begränsad budget duger tensorparallellism över flera H100.

F: Bygga ett eget AI-datacenter eller hyra molnberäkningskraft? S: Allt kokar ner till utnyttjandegrad: vid stabil belastning och årligt utnyttjande över 60–70 % slår ett eget systemkluster vanligtvis långsiktig molnhyra i TCO; vid varierande belastning eller i valideringsfas är det klokare att hyra först och bygga sedan.

F: Stöder ChangFan Industrial Computings GPU-servrar vätskekylningsanpassning? S: Ja. ChangFan Industrial Computing erbjuder vätskekylningsförberedda chassin, luftflödesoptimering och redundant kraftförsörjning, samt en komplett OEM/ODM-cykel från chassi till BIOS och förinstallerade miljöer.