6 indicatori cheie pentru selectarea GPU-urilor destinate centrelor de calcul AI: O comparație detaliată între H100/H200/B200/B300 și Ascend 910B/910C/950PR | Changfan Industrial Control

Introducere: alegerea plăcii decide totul, dar «placa» nu este cipul

În 2026, pragul de investiție al centrelor de calcul AI s-a mutat de la «a obține plăci» la «a alege plăcile potrivite»: un singur cluster costă sute de milioane de yuani, iar o greșeală de selecție înseamnă cicluri de antrenare dublate, cheltuieli de inferență de necontrolat și o linie tehnologică învechită în trei ani. Majoritatea greșelilor de selecție se trag din același gest — folosirea fișei tehnice ca bază de decizie.

Fișa tehnică nu vă va spune că un cluster de 10.000 de GPU-uri întrerupe antrenarea în medie la fiecare 3 ore; că o performanță de 2,3 ori mai mare pe placă reduce timpul de antrenare doar la jumătate; că o B300 cu TDP de 1.400 W într-o sală de mașini răcită cu aer este o podoabă scumpă; sau că migrarea de la CUDA la CANN poate absorbi întreaga marjă a unui proiect. Acest articol depășește simpla enumerare a parametrilor și compară cuprinzător, prin șase indicatori cheie care determină ROI-ul unui centru de calcul AI, NVIDIA H100/H200/B200/B300 și Ascend 910B/910C/950PR, cu o matrice decizională pe scenarii gata de utilizare și o listă de verificare a capcanelor.

Mai întâi concluziile: cinci judecăți contraintuitive

• Esența alegerii unei plăci este alegerea unui model de afaceri, nu a puterii de calcul. Unitatea de cost a afacerii de antrenare este «timpul și electricitatea pentru antrenarea unui model mare»; unitatea de cost a afacerii de inferență este «pe milion de tokeni». Înțelegeți mai întâi ce bani câștigați, apoi discutați ce placă să cumpărați.

• Capacitatea VRAM determină dacă modelul poate rula, lățimea de bandă determină viteza, interconectarea determină scara. TFLOPS din fișa tehnică contează abia când reușiți să-i saturați — în practică, multe GPU-uri funcționează cu o utilizare efectivă (MFU) sub jumătate.

• Cipurile reprezintă doar 30–40% din costul total. Electricitatea, răcirea lichidă, rețeaua și cinci ani de operare absorb restul de 60% — a alege o placă înseamnă în esență a alege o întreagă infrastructură.

• A cumpăra o B300 înseamnă a cumpăra o sală de mașini cu răcire lichidă. Cu ~1.400 W pe placă, depășiți limita răcirii cu aer; dacă alimentarea cu energie și răcirea instalației nu țin pasul, chiar și cea mai puternică placă va funcționa cu throttling.

• Nu există cea mai bună placă — există placa cea mai potrivită pentru sarcina dumneavoastră. H100 este departe de a fi depășită, Ascend 910C este de neînlocuit în scenariile de conformitate Xinchuang, iar 950PR anunță următorul pas al calculului autohton — răspunsul depinde întotdeauna de profilul sarcinii dumneavoastră.

Șapte cipuri, patru poziții de piață

Înainte de a intra în indicatori, să stabilim o înțelegere de bază: aceste șapte cipuri nu au o relație liniară de «mai rapid sau mai lent» — ocupă patru poziții de piață complet diferite:

• Tronul antrenării: B200 / B300 (arhitectura Blackwell) — calculul FP8 și interconectarea NVLink 5 conduc pe toate planurile; singurul nivel pentru antrenarea modelelor cu un trilion de parametri.

• Standardul de aur dovedit: H100 / H200 (arhitectura Hopper) — ecosistemul și lanțul de aprovizionare cele mai mature, alegerea raportului calitate-preț pentru antrenare și inferență de la 7B la 70B.

• Pilonul autohton: Ascend 910B / 910C — singura opțiune pentru scenariile de conformitate Xinchuang; inferența este aproape gata de producție, antrenarea rămâne cu o generație în urmă.

• Variabila noii generații: Ascend 950PR (lansare în T1 2026, optimizată pentru faza prefill a inferenței), care arată ritmul de recuperare al calculului autohton.

Tabelul 1: Specificațiile cheie ale celor șapte cipuri principale de calcul AI (valori aproximative; verificați cu ultimele specificații oficiale)

Indicatorul 1: potrivirea antrenare/inferență — înțelegeți mai întâi ce afacere desfășurați

Primul principiu de selecție: sarcina dumneavoastră principală este antrenarea sau inferența? Nu este aceeași afacere. Antrenarea este intensivă în calcul și limitată de comunicația de cluster — în clustere de mii și zeci de mii de plăci, overhead-ul All-Reduce poate reprezenta 30–50% din timpul total; faza de decodare a inferenței este intensivă în lățime de bandă a memoriei și nicio putere de calcul nu ajută atunci când GPU-ul așteaptă date. A proiecta un cluster de inferență după standardele plăcilor de antrenare sau a planifica o platformă de antrenare după standardele plăcilor de inferență — în ambele cazuri este o eroare direcțională de sute de milioane de yuani.

• Scenariul de antrenare: performanța FP8 a B300 este de aproximativ 2,3 ori mai mare decât cea a H100, reducând timpul de antrenare al unui model cu un trilion de parametri la 40–50% din cel al unui cluster H100; performanța FP16 a Ascend 910C reprezintă aproximativ 40% din H100 și, ținând cont de decalajul MFU (utilizarea puterii de calcul a modelului), decalajul performanței efective de antrenare este de aproximativ 4,5 ori.

• Scenariul de inferență: modelele mici de 7B–13B pot rula pe orice placă, deci decide raportul calitate-preț; un model dens de 70B are greutăți FP16 de circa 140 GB — H200 cu 141 GB îl rulează pe o singură placă, B300 cu 288 GB permite loturi foarte mari, iar 910C cu 96 GB necesită paralelism tensorial pe mai multe plăci; în scenariile MoE de nivel 671B și de context lung de 128K+, plăcile cu memorie mare câștigă zdrobitor.

O frază pentru a reține acest indicator: pentru antrenare se cumpără putere de calcul, pentru inferență se cumpără lățime de bandă.

Indicatorul 2: capacitatea și lățimea de bandă a VRAM — capacitatea fixează plafonul, lățimea de bandă fixează podeaua

VRAM este «hambarul» inferenței, lățimea de bandă este «autostrada». Cele trei tendințe ale modelelor mari — creșterea parametrilor, alungirea contextului și ascensiunea MoE — devorează VRAM într-un ritm nebunesc. În special contextul lung este noua gaură neagră a memoriei: cache-ul KV al unui context de 128K poate înghiți încă zeci de gigaocteți, ceea ce înseamnă că «greutățile încap» este doar nota de trecere, iar «rezerva pentru cache-ul KV» este ceea ce determină paralelismul.

Decalajul de capacitate a memoriei se transformă direct în bani: pentru a rula un model de nivel 405B (greutăți FP16 de circa 810 GB), B300 necesită 4 plăci în paralelism tensorial, H100 necesită 11; diferența nu este doar prețul a 7 plăci în plus, ci și un server întreg, cabluri NVLink și cinci ani de electricitate. Efectul lățimii de bandă este mai discret: în faza de decodare, fiecare token generat necesită o citire completă a greutăților modelului; greutățile FP16 ale unui model de 70B sunt circa 140 GB, H100 cu 3,35 TB/s le citește în aproximativ 42 de milisecunde, B300 cu 8 TB/s le comprimă la 17 milisecunde — de aceea plăcile cu lățime de bandă mare zdrobesc concurența în scenariile sensibile la latență.

Indicatorul 3: interconectarea scale-up — o placă puternică care nu poate fi interconectată devine o insulă

Scale-up determină câte plăci puteți «virtualiza într-o singură placă mare». NVLink 5 de la NVIDIA (B300) oferă 1,8 TB/s pe GPU și, cu NVSwitch, permite interconectarea completă a 72 de plăci într-un rack — paralelismul tensorial al unui model cu un trilion de parametri se încheie într-un singur rack; NVLink 4 (H100/H200) cu 900 GB/s este extrem de matur. Interconectarea HCCS a Ascend 910C este de circa 400 GB/s, adică 44% din NVLink 4; Huawei compensează la nivel de sistem prin interconectarea complet optică a supernodului CloudMatrix.

La selecția plăcilor, evaluați simultan două niveluri: lățimea de bandă de interconectare a unui singur nod, care determină eficiența paralelismului intra-rack; și soluția de supernod a furnizorului, care fixează plafonul de extindere inter-rack. Cine se uită doar la primul subestimează capacitatea de sistem a Ascend; cine se uită doar la al doilea subestimează complexitatea operării la scară largă.

Indicatorul 4: disponibilitatea clusterului — indicatorul cel mai subestimat și cel mai determinant

Datele reale ale Meta despre antrenarea Llama 3 405B merită recitite de trei ori de orice decident de achiziții: un cluster de 16.384 de plăci H100 a suferit 466 de întreruperi de lucrări în 54 de zile — în medie una la fiecare 3 ore, iar rata de defecțiuni a GPU-urilor este de 120 de ori mai mare decât a CPU-urilor. Calculați: un cluster de 10.000 de plăci are teoretic ~87,6 milioane de plăci-ore de calcul pe an; fiecare punct procentual de disponibilitate pierdut înseamnă circa 870.000 de plăci-ore de putere efectivă irosită; 10% pierderi din cauza timpilor morți înseamnă milioane de dolari de calcul care se evaporă.

Disponibilitatea depinde de trei lucruri: toleranța la erori hardware RAS (B300 introduce un motor RAS dedicat), stabilitatea termică (plăcile de mare putere necesită răcire lichidă, iar o defecțiune a răcirii lichide oprește un rack întreg) și strategia de puncte de control (antrenarea pe 10.000 de plăci necesită salvare la fiecare 15–30 de minute, făcând din lățimea de bandă de scriere a stocării noul blocaj). Exact acest indicator este domeniul în care producătorii de sisteme complete creează mai multă valoare decât producătorii de cipuri: redundanța alimentării, proiectarea fluxurilor de aer, managementul out-of-band și testele pe stand — fiecare element garantează disponibilitatea.

Indicatorul 5: costul migrării software — hardware-ul este un cost irecuperabil, software-ul un cost permanent

Șanțul CUDA nu este numărul de peste 10.000 de operatori în sine, ci experiența de depanare, ecosistemul open source și răspunsurile găsibile instantaneu acumulate de milioane de dezvoltatori într-un deceniu — un șanț pe care nicio specificație hardware nu îl poate umple. Prin comparație: ROCm are aproximativ jumătate din operatorii CUDA, iar Ascend CANN circa 2.000 de operatori, care acoperă deja modelele curente.

Regulă practică: pentru antrenarea și inferența modelelor standard (GPT/Llama/Qwen/DeepSeek) toate cele trei ecosisteme sunt adecvate; pentru cercetarea de vârf cu schimbări frecvente de arhitectură a modelelor, CUDA rămâne singura alegere; acolo unde conformitatea impune platforme autohtone, CANN este singura alegere, dar bugetați 1–3 om-luni de inginerie pentru operatori personalizați și optimizarea migrării și înscrieți-l în calendarul proiectului și în contractul de achiziție.

Indicatorul 6: tokeni pe dolar și tokeni pe watt — examenul final al comercializării

De îndată ce un centru de calcul AI intră în exploatare comercială, clienților le pasă de un singur lucru: cât costă un token. Măsurătorile terțe arată că costul de inferență al milionului de tokeni pe B200/B300 este de aproximativ 1/5–1/10 din cel al H100 — un avantaj care nu vine din performanța unei singure plăci, ci din eficiența sistemului: mai multă memorie susține loturi mai mari, precizia FP4 înjumătățește calculul, NVLink 5 reduce overhead-ul de comunicație. Aceasta explică de ce prețul de închiriere al H100 «depășit» continuă să scadă: nu a devenit mai lent — pur și simplu calculul tokenilor pe dolar nu se mai închide.

Pe partea energetică, TDP-ul unei plăci a crescut de la 700 W la H100 la ~1.400 W la B300 — dincolo de limita răcirii cu aer; a cumpăra o B300 echivalează în fapt cu a cumpăra o întreagă infrastructură de răcire lichidă (răcirea cu placă rece permite un PUE sub 1,15, cu investiții inițiale cu 30–50% mai mari decât răcirea cu aer). Dar ceea ce trebuie comparat sunt «tokenii pe watt», nu TDP-ul: randamentul tokeni pe watt al B300 este de peste 3 ori mai mare decât al H100. Ascend 910C, cu un TDP de circa 600 W, funcționează cu răcire cu aer, cu un prag de infrastructură vizibil mai scăzut — potrivită pentru proiecte cu buget și condiții de instalație limitate.

Matricea decizională pe scenarii

Tabelul 2: Matricea de selecție GPU pentru cinci scenarii tipice

Lista de verificare a capcanelor: cele cinci greșeli de selecție cele mai frecvente

• Să privești doar prețul unitar fără a calcula TCO-ul clusterului — NVSwitch, plăcile de rețea IB/RoCE și configurația cache-ului NVMe ale unui sistem cu 8 plăci pot dubla costul total; o ofertă trebuie citită pe două niveluri: sistem și cluster.

• Să faci bugetul după performanța de vârf — MFU-ul din industrie este adesea doar 30–50%; recalculați în performanță efectivă înainte de a discuta volumele de achiziție, altfel clusterul este de la început supradimensionat la dublu.

• Să ignori premisele instalației — în proiectele B300 verificați mai întâi puterea electrică, capacitatea portantă a podelelor și condițiile pentru răcirea lichidă, apoi discutați prețul; dacă instalația nu se conformează, chiar și cel mai mic preț contractual devine un cost irecuperabil.

• Să subestimezi munca de migrare — înscrieți în buget costul optimizării migrării de la CUDA la CANN (minim 1–3 om-luni) și acordați prioritate partenerilor de sisteme complete cu experiență în implementarea platformelor autohtone.

• Să folosești un singur model de placă pentru toate sarcinile — achiziționați antrenarea și inferența pe niveluri și implementați modelele mari și mici separat, evitând risipa de tipul «a rula un model de 7B pe o B300».

De ce să alegeți ChangFan Industrial Computing

Să revenim la structura costurilor din fig. 1: cipurile reprezintă doar 30–40% din costul unui centru de calcul AI — electricitatea, răcirea, rețeaua și operarea constituie restul, și tocmai acolo producătorii de platforme de sistem creează valoare. ChangFan Industrial Computing oferă centrelor de calcul AI și companiilor AI servere GPU complete și personalizarea stratului de infrastructură:

• Platforme de sistem pentru toate scenariile: de la stații de lucru de inferență la servere GPU cu 8 plăci, cu configurarea la cerere a platformelor NVIDIA și a platformelor de calcul autohtone, și reglarea integrată a raportului CPU/GPU, a cache-ului NVMe și a rețelei de mare viteză.

• Proiectare termică și electrică pentru puteri mari: pentru consum de peste 1.000 W pe placă, oferim optimizarea fluxurilor de aer din carcasă, alimentare redundantă și carcase pregătite pentru răcire lichidă, pentru ca GPU-urile puternice să funcționeze durabil la putere maximă.

• Gene de fiabilitate industrială: întreaga linie de produse respectă standardele de proiectare 7×24, cu surse de alimentare redundante, management out-of-band (IPMI/BMC) și teste complete pe stand și sub sarcină — vizând direct costurile ascunse ale disponibilității clusterului.

• Capacități OEM/ODM profunde: structura carcasei, serigrafia panoului, BIOS/BMC, dispunerea porturilor, drivere preinstalate și imagini ale mediului de inferență — totul personalizabil, ajutând integratorii să livreze rapid sisteme AI sub propria marcă.

• Certificări complete și livrare globală: produse certificate conform 3C, CE, FCC, RoHS și altor standarde, fișe tehnice și rapoarte de testare furnizate în chineză și engleză, suport pentru logistica globală și livrarea proiectelor în străinătate.

Fie că planificați un cluster de antrenare de o mie de plăci, fie că construiți o platformă de inferență de întreprindere, ChangFan Industrial Computing oferă hardware-ul de sistem adecvat și suport profesional de selecție. Contactați inginerii de vânzări ai ChangFan Industrial Computing pentru teste de eșantioane și o ofertă de preț.

Întrebări frecvente (FAQ)

Î: Merită încă să cumpărați H100 în 2026? R: Da. Datorită lanțului de aprovizionare matur și costurilor zero de migrare a ecosistemului, H100 rămâne alegerea optimă ca preț pentru antrenare și inferență de la 7B la 70B; dar pentru antrenarea de vârf cu buget suficient, B300 este cea mai bună investiție pe termen lung.

Î: Este răcirea lichidă obligatorie pentru B300? R: Da. Cu un TDP de ~1.400 W pe placă, B300 depășește limita răcirii cu aer, iar răcirea lichidă cu placă rece este standardul; implementarea B300 necesită planificarea integrată a alimentării, răcirii și capacității portante a instalației.

Î: Poate Ascend 910C să înlocuiască H100? R: În scenariile de inferență (modele 7B–13B) este o înlocuire aproape completă, cu o eficiență reală de circa 70–82% din H100; în antrenare, decalajul performanței efective este de aproximativ 4,5 ori, dar sub constrângerile de conformitate Xinchuang este singura alegere independentă și controlabilă.

Î: Când va fi lansat Ascend 950PR? R: Conform foii de parcurs publicate de Huawei, 950PR se lansează în primul trimestru al anului 2026 cu optimizare pentru scenariile prefill ale inferenței, iar 950DT în al patrulea trimestru al anului 2026; specificațiile și livrările concrete se confirmă conform anunțurilor oficiale Huawei.

Î: Ce configurație minimă este necesară pentru inferența unui model de 70B? R: Greutățile FP16 sunt circa 140 GB: o singură placă H200 (141 GB) este suficientă; pentru loturi paralele mari, alegeți B300 (288 GB); cu buget limitat, este adecvat paralelismul tensorial pe mai multe H100.

Î: Să construiești un centru de calcul AI propriu sau să închiriezi putere de calcul cloud? R: Totul se reduce la utilizare: cu sarcină stabilă și utilizare anuală peste 60–70%, un cluster de sisteme proprii bate de obicei închirierea cloud pe termen lung la TCO; cu sarcină variabilă sau în faza de validare, este mai prudent să închiriezi mai întâi și să construiești apoi.

Î: Serverele GPU ChangFan Industrial Computing acceptă personalizarea răcirii lichide? R: Da. ChangFan Industrial Computing oferă carcase pregătite pentru răcire lichidă, optimizarea fluxurilor de aer și alimentare redundantă, plus un ciclu complet OEM/ODM de la carcasă la BIOS și medii preinstalate.