6 parametri chiave per la scelta delle GPU nei centri di calcolo IA: un confronto approfondito tra H100/H200/B200/B300 e Ascend 910B/910C/950PR | Changfan Industrial Control

Introduzione: la scelta della scheda decide tutto, ma la «scheda» non è il chip

Nel 2026, la soglia di investimento dei centri di calcolo IA è passata da «ottenere le schede» a «scegliere le schede giuste»: un singolo cluster costa centinaia di milioni di yuan, e un errore di selezione significa cicli di training raddoppiati, spese di inferenza fuori controllo e una roadmap tecnologica obsoleta in tre anni. La maggior parte degli errori di selezione risale a uno stesso gesto: usare la scheda tecnica come base decisionale.

La scheda tecnica non vi dirà che un cluster da 10.000 GPU interrompe il training in media ogni 3 ore; che una potenza per scheda 2,3 volte superiore dimezza soltanto il tempo di training; che una B300 con TDP di 1.400 W in una sala raffreddata ad aria è un costoso soprammobile; né che la migrazione da CUDA a CANN può assorbire l'intero margine di un progetto. Questo articolo va oltre la semplice elencazione dei parametri e confronta in modo completo, attraverso sei indicatori chiave che determinano il ROI di un centro di calcolo IA, le NVIDIA H100/H200/B200/B300 e le Ascend 910B/910C/950PR, con una matrice decisionale per scenario pronta all'uso e una checklist anti-errori.

Prima le conclusioni: cinque giudizi controintuitivi

• L'essenza della scelta di una scheda è la scelta di un modello di business, non di potenza di calcolo. L'unità di costo del business del training è «il tempo e l'elettricità per addestrare un grande modello»; l'unità di costo del business dell'inferenza è «al milione di token». Capite prima quali soldi guadagnate, poi discutete quale scheda comprare.

• La capacità della VRAM determina se il modello può funzionare, la larghezza di banda determina la velocità, l'interconnessione determina la scala. I TFLOPS della scheda tecnica contano solo quando si riesce a saturerarli — in pratica, molte GPU funzionano con un'utilizzazione effettiva (MFU) inferiore alla metà.

• I chip rappresentano solo il 30–40% del costo totale. Alimentazione, raffreddamento a liquido, rete e cinque anni di esercizio assorbono il restante 60% — scegliere una scheda significa in sostanza scegliere un'intera infrastruttura.

• Comprare una B300 significa comprare una sala macchine a raffreddamento liquido. Con ~1.400 W per scheda si supera il limite del raffreddamento ad aria; se l'alimentazione e il raffreddamento della struttura non sono all'altezza, anche la scheda più potente funzionerà in throttling.

• Non esiste la scheda migliore — esiste la scheda più adatta al vostro carico di lavoro. La H100 è ben lontana dall'obsolescenza, la Ascend 910C è insostituibile negli scenari di conformità Xinchuang, e la 950PR annuncia il passo successivo del calcolo domestico — la risposta dipende sempre dal profilo del vostro carico.

Sette chip, quattro posizioni di mercato

Prima di entrare negli indicatori, stabiliamo una comprensione di base: questi sette chip non hanno una relazione lineare di «più o meno veloce» — occupano quattro posizioni di mercato completamente diverse:

• Il trono del training: B200 / B300 (architettura Blackwell) — calcolo FP8 e interconnessione NVLink 5 leader sotto ogni aspetto; l'unico livello per addestrare modelli da mille miliardi di parametri.

• Il valore sicuro collaudato: H100 / H200 (architettura Hopper) — l'ecosistema e la catena di fornitura più maturi, la scelta del miglior rapporto qualità-prezzo per training e inferenza da 7B a 70B.

• Il pilastro domestico: Ascend 910B / 910C — l'unica opzione per gli scenari di conformità Xinchuang; l'inferenza è quasi pronta per la produzione, il training è indietro di una generazione.

• La variabile di nuova generazione: Ascend 950PR (lancio nel T1 2026, ottimizzata per la fase prefill dell'inferenza), che mostra il ritmo di recupero del calcolo domestico.

Tabella 1: Specifiche chiave dei sette principali chip di calcolo IA (valori approssimativi; verificare le ultime specifiche ufficiali)

Indicatore 1: adeguatezza training/inferenza — capite prima qual è il vostro business

Primo principio di selezione: il vostro carico principale è training o inferenza? Non è lo stesso business. Il training è intensivo in calcolo e limitato dalla comunicazione del cluster — nei cluster da migliaia e decine di migliaia di schede, l'overhead di All-Reduce può rappresentare il 30–50% del tempo totale; la fase di decodifica dell'inferenza è intensiva in larghezza di banda di memoria, e nessuna potenza di calcolo aiuta quando la GPU aspetta i dati. Progettare un cluster di inferenza secondo gli standard delle schede di training, o pianificare una piattaforma di training secondo gli standard delle schede di inferenza — in entrambi i casi è un errore direzionale da centinaia di milioni di yuan.

• Scenario di training: la potenza FP8 della B300 è circa 2,3 volte quella della H100, riducendo il tempo di training di un modello da mille miliardi di parametri al 40–50% di quello di un cluster H100; la potenza FP16 della Ascend 910C è circa il 40% della H100 e, considerando il divario di MFU (utilizzazione della potenza di calcolo del modello), il divario di potenza effettiva di training è di circa 4,5 volte.

• Scenario di inferenza: i piccoli modelli da 7B–13B possono girare su qualsiasi scheda, quindi decide il rapporto qualità-prezzo; un modello denso da 70B ha pesi FP16 di circa 140 GB — la H200 con 141 GB lo esegue su una singola scheda, la B300 con 288 GB consente batch molto grandi e la 910C con 96 GB richiede parallelismo tensoriale multi-scheda; negli scenari MoE di livello 671B e di contesto lungo 128K+, le schede con grande memoria stracciano la concorrenza.

Una frase per ricordare questo indicatore: per il training si compra potenza di calcolo, per l'inferenza si compra larghezza di banda.

Indicatore 2: capacità e larghezza di banda della VRAM — la capacità fissa il tetto, la banda fissa il pavimento

La VRAM è il «granaio» dell'inferenza, la larghezza di banda è l'«autostrada». Le tre tendenze dei grandi modelli — crescita dei parametri, allungamento del contesto e diffusione dei MoE — divorano la VRAM a gran velocità. Il contesto lungo in particolare è il nuovo buco nero della memoria: la cache KV di un contesto da 128K può ingoiare altre decine di gigabyte, il che significa che «i pesi ci stanno» è solo la sufficienza, e «la riserva per la cache KV» è ciò che determina il parallelismo.

Il divario di capacità di memoria si converte direttamente in denaro: per eseguire un modello di livello 405B (pesi FP16 di circa 810 GB), la B300 richiede 4 schede in parallelismo tensoriale, la H100 ne richiede 11; la differenza non è solo il prezzo di 7 schede in più, ma anche un intero server, cavi NVLink e cinque anni di elettricità. L'effetto della larghezza di banda è più discreto: nella fase di decodifica, ogni token generato richiede una lettura completa dei pesi del modello; i pesi FP16 di un modello da 70B sono circa 140 GB, la H100 a 3,35 TB/s li legge in circa 42 millisecondi, la B300 a 8 TB/s li riduce a 17 millisecondi — ecco perché le schede ad alta larghezza di banda stracciano la concorrenza negli scenari sensibili alla latenza.

Indicatore 3: interconnessione scale-up — una scheda potente che non può essere interconnessa diventa un'isola

Lo scale-up determina quante schede potete «virtualizzare in un'unica grande scheda». L'NVLink 5 di NVIDIA (B300) offre 1,8 TB/s per GPU e, con NVSwitch, consente di interconnettere completamente 72 schede all'interno di un rack — il parallelismo tensoriale di un modello da mille miliardi di parametri si completa all'interno di un solo rack; l'NVLink 4 (H100/H200) a 900 GB/s è estremamente maturo. L'interconnessione HCCS della Ascend 910C è di circa 400 GB/s, il 44% dell'NVLink 4; Huawei compensa a livello di sistema con l'interconnessione interamente ottica del supernodo CloudMatrix.

Nella selezione delle schede, valutate simultaneamente due livelli: la larghezza di banda di interconnessione di un singolo nodo, che determina l'efficienza del parallelismo intra-rack; e la soluzione supernodo del fornitore, che fissa il tetto di espansione inter-rack. Guardare solo il primo significa sottovalutare la capacità di sistema di Ascend; guardare solo il secondo significa sottovalutare la complessità dell'esercizio su larga scala.

Indicatore 4: disponibilità del cluster — l'indicatore più sottovalutato e più determinante

I dati reali di Meta sul training di Llama 3 405B meritano di essere riletti tre volte da chiunque decida gli acquisti: un cluster di 16.384 schede H100 ha subito 466 interruzioni di lavori in 54 giorni — una media di una ogni 3 ore, e il tasso di guasti delle GPU è 120 volte quello delle CPU. Fate i conti: un cluster da 10.000 schede ha teoricamente ~87,6 milioni di schede-ora di calcolo all'anno; ogni punto percentuale di disponibilità perso sono circa 870.000 schede-ora di potenza effettiva sprecata; il 10% di perdite per inattività significa milioni di dollari di calcolo che evaporano.

La disponibilità dipende da tre cose: la tolleranza ai guasti hardware RAS (la B300 introduce un motore RAS dedicato), la stabilità termica (le schede ad alta potenza richiedono raffreddamento a liquido, e un guasto del raffreddamento a liquido ferma un intero rack) e la strategia di checkpoint (il training su 10.000 schede richiede salvataggi ogni 15–30 minuti, rendendo la banda di scrittura dello storage il nuovo collo di bottiglia). Questo indicatore è proprio l'ambito in cui i produttori di sistemi completi creano più valore dei produttori di chip: ridondanza dell'alimentazione, progettazione dei flussi d'aria, gestione fuori banda e collaudi al banco — ogni elemento garantisce la disponibilità.

Indicatore 5: costo di migrazione del software — l'hardware è un costo irrecuperabile, il software un costo permanente

Il fossato di CUDA non è il numero di oltre 10.000 operatori in sé, ma l'esperienza di debug, l'ecosistema open source e le risposte immediatamente reperibili accumulati da milioni di sviluppatori in un decennio — un fossato che nessuna specifica hardware può colmare. A confronto: ROCm ha circa la metà degli operatori di CUDA, e Ascend CANN circa 2.000 operatori, che coprono già i modelli comuni.

Regola pratica: per training e inferenza di modelli standard (GPT/Llama/Qwen/DeepSeek) vanno bene tutti e tre gli ecosistemi; per la ricerca d'avanguardia con frequenti cambi di architettura dei modelli, CUDA resta l'unica scelta; dove la conformità impone piattaforme domestiche, CANN è l'unica scelta, ma preventivate 1–3 mesi-uomo di ingegneria per operatori personalizzati e ottimizzazione della migrazione, iscrivendolo nel piano di progetto e nel contratto di acquisto.

Indicatore 6: token per dollaro e token per watt — l'esame finale della commercializzazione

Non appena un centro di calcolo IA entra in esercizio commerciale, i clienti si interessano a una cosa sola: quanto costa un token. Le misurazioni di terze parti mostrano che il costo di inferenza del milione di token su B200/B300 è circa 1/5–1/10 di quello della H100 — un vantaggio che non deriva dalla potenza della singola scheda, ma dall'efficienza di sistema: una memoria maggiore consente batch più grandi, la precisione FP4 dimezza il calcolo, NVLink 5 riduce l'overhead di comunicazione. Questo spiega perché il prezzo di noleggio della «obsoleta» H100 continua a scendere: non è diventata più lenta — semplicemente il conto dei token per dollaro non torna più.

Sul fronte energetico, il TDP per scheda è passato da 700 W della H100 a ~1.400 W della B300 — oltre il limite del raffreddamento ad aria; comprare una B300 equivale di fatto a comprare un'intera infrastruttura di raffreddamento a liquido (il raffreddamento a piastra fredda consente un PUE inferiore a 1,15, con un investimento iniziale superiore del 30–50% rispetto al raffreddamento ad aria). Ma bisogna confrontare i «token per watt», non il TDP: la resa in token per watt della B300 è più di 3 volte quella della H100. La Ascend 910C, con un TDP di circa 600 W, funziona a raffreddamento ad aria, con una soglia infrastrutturale nettamente più bassa — adatta a progetti con budget e condizioni della struttura limitati.

Matrice decisionale per scenario

Tabella 2: Matrice di selezione GPU per cinque scenari tipici

Checklist anti-errori: i cinque errori di selezione più comuni

• Guardare solo il prezzo unitario senza calcolare il TCO del cluster — NVSwitch, le schede di rete IB/RoCE e la configurazione della cache NVMe di un sistema a 8 schede possono raddoppiare il costo totale; un preventivo va letto su due livelli: sistema e cluster.

• Fare il budget sulla potenza di picco — l'MFU del settore spesso è solo il 30–50%; ricalcolate in potenza effettiva prima di discutere i volumi di acquisto, altrimenti il cluster nasce sovradimensionato del doppio.

• Ignorare i prerequisiti della struttura — nei progetti B300 verificate prima la potenza elettrica, la portata dei solai e le condizioni per il raffreddamento a liquido, poi parlate di prezzo; se la struttura non è conforme, anche il prezzo contrattuale più basso diventerà un costo irrecuperabile.

• Sottovalutare il lavoro di migrazione — iscrivete a budget il costo di ottimizzazione della migrazione da CUDA a CANN (minimo 1–3 mesi-uomo) e date priorità ai partner di sistemi completi con esperienza nell'implementazione di piattaforme domestiche.

• Usare un solo modello di scheda per tutti i carichi — acquistate training e inferenza per livelli e distribuite modelli grandi e piccoli separatamente, evitando sprechi come «far girare un modello da 7B su una B300».

Perché scegliere ChangFan Industrial Computing

Torniamo alla struttura dei costi della fig. 1: i chip rappresentano solo il 30–40% del costo di un centro di calcolo IA — elettricità, raffreddamento, rete ed esercizio costituiscono il resto, ed è lì che i produttori di piattaforme di sistema creano valore. ChangFan Industrial Computing fornisce a centri di calcolo IA e aziende IA server GPU completi e personalizzazione dello strato infrastrutturale:

• Piattaforme di sistema per tutti gli scenari: dalle workstation di inferenza ai server GPU a 8 schede, con configurazione su richiesta di piattaforme NVIDIA e piattaforme di calcolo domestiche, e regolazione complessiva del rapporto CPU/GPU, della cache NVMe e della rete ad alta velocità.

• Progettazione termica ed elettrica per alte potenze: per consumi oltre 1.000 W per scheda offriamo ottimizzazione dei flussi d'aria del telaio, alimentazione ridondata e telai predisposti per il raffreddamento a liquido, affinché le GPU potenti funzionino a lungo a piena potenza.

• Geni di affidabilità industriale: tutta la linea di prodotti rispetta gli standard di progettazione 7×24, con alimentatori ridondanti, gestione fuori banda (IPMI/BMC) e collaudi completi al banco e sotto carico — mirando direttamente ai costi nascosti della disponibilità del cluster.

• Capacità OEM/ODM approfondite: struttura del telaio, serigrafia del pannello, BIOS/BMC, disposizione delle porte, driver preinstallati e immagini dell'ambiente di inferenza — tutto personalizzabile, aiutando gli integratori a consegnare rapidamente sistemi IA con il proprio marchio.

• Certificazioni complete e consegna globale: prodotti certificati secondo 3C, CE, FCC, RoHS e altri standard, schede tecniche e rapporti di prova forniti in cinese e inglese, supporto alla logistica globale e alla consegna di progetti all'estero.

Che stiate pianificando un cluster di training da mille schede o costruendo una piattaforma di inferenza aziendale, ChangFan Industrial Computing fornisce l'hardware di sistema adatto e un supporto professionale alla selezione. Contattate gli ingegneri commerciali di ChangFan Industrial Computing per test su campioni e un preventivo.

Domande frequenti (FAQ)

D: Vale ancora la pena comprare la H100 nel 2026? R: Sì. Grazie alla catena di fornitura matura e all'assenza di costi di migrazione dell'ecosistema, la H100 resta la scelta ottimale per il prezzo per training e inferenza da 7B a 70B; ma per il training d'avanguardia con budget sufficiente, la B300 è il miglior investimento a lungo termine.

D: Il raffreddamento a liquido è obbligatorio per la B300? R: Sì. Con un TDP di ~1.400 W per scheda, la B300 supera il limite del raffreddamento ad aria, e il raffreddamento a liquido a piastra fredda è lo standard; l'implementazione della B300 richiede una pianificazione complessiva di alimentazione, raffreddamento e portata della struttura.

D: La Ascend 910C può sostituire la H100? R: Negli scenari di inferenza (modelli 7B–13B) è una sostituzione quasi completa, con un'efficienza reale di circa il 70–82% della H100; nel training il divario di potenza effettiva è di circa 4,5 volte, ma sotto i vincoli di conformità Xinchuang è l'unica scelta indipendente e controllabile.

D: Quando uscirà la Ascend 950PR? R: Secondo la roadmap pubblicata da Huawei, la 950PR esce nel primo trimestre 2026 con ottimizzazione per gli scenari prefill dell'inferenza, e la 950DT nel quarto trimestre 2026; le specifiche e le consegne concrete sono da confermare secondo gli annunci ufficiali di Huawei.

D: Quale configurazione minima serve per l'inferenza di un modello da 70B? R: I pesi FP16 sono circa 140 GB: una singola scheda H200 (141 GB) basta; per grandi batch paralleli scegliete la B300 (288 GB); con budget limitato va bene il parallelismo tensoriale multi-H100.

D: Costruire un proprio centro di calcolo IA o noleggiare calcolo cloud? R: Tutto si riduce all'utilizzo: con un carico stabile e un utilizzo annuo superiore al 60–70%, un cluster di sistemi proprio batte generalmente il noleggio cloud a lungo termine in TCO; con un carico variabile o in fase di validazione, è più prudente noleggiare prima e costruire dopo.

D: I server GPU di ChangFan Industrial Computing supportano la personalizzazione del raffreddamento a liquido? R: Sì. ChangFan Industrial Computing offre telai predisposti per il raffreddamento a liquido, ottimizzazione dei flussi d'aria e alimentazione ridondata, oltre a un ciclo completo OEM/ODM dal telaio al BIOS e agli ambienti preinstallati.