6 na Pangunahing Pamantayan sa Pagpili ng mga GPU para sa mga AI Computing Center: Isang Malalim na Paghahambing ng H100/H200/B200/B300 laban sa Ascend 910B/910C/950PR | Changfan Industrial

Panimula: Ang pagpili ng card ang nagdedesisyon sa lahat, ngunit ang «card» ay hindi ang chip

Noong 2026, ang threshold ng pamumuhunan sa mga AI computing center ay lumipat mula sa «pagkuha ng mga card» patungo sa «pagpili ng tamang mga card»: ang isang cluster ay nagkakahalaga ng daan-daang milyong yuan, at ang pagkakamali sa pagpili ay nangangahulugan ng dobleng mga siklo ng pagsasanay, gastos sa inferens na lampas sa kontrol, at teknikal na landas na luma sa loob ng tatlong taon. Karamihan ng mga pagkakamali sa pagpili ay nagmumula sa iisang kilos — ang paggamit ng specification sheet bilang batayan ng desisyon.

Hindi sasabihin sa iyo ng specification sheet na ang cluster ng 10,000 GPU ay humihinto sa pagsasanay nang average na bawat 3 oras; na ang 2.3 beses na mas mataas na performance ng isang card ay nagbabawas lamang ng oras ng pagsasanay nang kalahati; na ang B300 na may 1,400 watt thermal design power sa air-cooled na bulwagan ay isang mamahaling palamuti lamang; o na ang migrasyon mula CUDA patungong CANN ay maaaring lamunin ang buong margin ng proyekto. Ang artikulong ito ay lampas sa paglilista lamang ng mga parameter, paghahambing nang komprehensibo ang NVIDIA H100/H200/B200/B300 at Ascend 910B/910C/950PR sa anim na pangunahing tagapagpahiwatig na nagtatakda ng ROI ng AI computing center, habang nagbibigay ng agad na magagamit na matrix ng desisyon batay sa senaryo at checklist ng mga pagkakamali.

Mga konklusyon muna: Limang kontra-intuitibong paghuhusga

• Ang esensya ng pagpili ng card ay pagpili ng modelo ng negosyo, hindi computing power. Ang yunit ng gastos ng negosyo ng pagsasanay ay «oras at kuryente para sanayin ang isang malaking modelo»; ang yunit ng gastos ng negosyo ng inferens ay «bawat milyong token». Unawain muna kung saan ka kumikita ng pera, saka pag-usapan kung aling card ang bibilihin.

• Ang kapasidad ng video memory ang nagtatakda kung maaaring tumakbo ang modelo, ang bandwidth ang nagtatakda kung gaano kabilis, at ang interconnect ang nagtatakda kung gaano kalaki. Ang mga halaga ng TFLOPS sa specification sheet ay may bisa lamang kapag nagawa mong busugin ang mga ito — sa praktika, maraming GPU ang tumatakbo na may epektibong rate ng paggamit (MFU) na mas mababa sa kalahati.

• Ang mga chip ay bumubuo lamang ng 30–40% ng kabuuang gastos. Ang kuryente, liquid cooling, network at limang taon ng operasyon ang lumalamon ng natitirang 60% — ang pagpili ng card ay sa esensya pagpili ng isang kumpletong imprastraktura.

• Ang pagbili ng B300 ay nangangahulugan ng pagbili ng liquid-cooled machine hall. Sa ~1,400 watt bawat card, lumalampas ito sa limitasyon ng air cooling; kung ang kuryente at cooling ng pasilidad ay hindi nasa kinakailangang antas, kahit ang pinakamalakas na card ay tatakbo na may thermal throttling.

• Walang ganap na pinakamahusay na card — mayroon lamang card na pinakakanais-nais sa iyong workload. Ang H100 ay hindi pa luma, ang Ascend 910C ay hindi mapapalitan sa mga senaryo ng pagsunod sa Xinchuang, at ang 950PR ay nagpapahiwatig ng susunod na hakbang ng lokal na computing — ang sagot ay laging nakadepende sa iyong workload profile.

Pitong chip, apat na posisyon sa merkado

Bago pumasok sa mga tagapagpahiwatig, magtatag muna tayo ng pangunahing pag-unawa: ang pitong chip na ito ay hindi nasa linear na ugnayang «mas mabilis o mas mabagal» — sila ay humahawak ng apat na ganap na magkakaibang posisyon sa merkado:

• Trono ng pagsasanay: B200 / B300 (arkitekturang Blackwell) — FP8 computation at NVLink 5 interconnect na nakatataas sa lahat ng dimensyon; ang tanging antas para sa pagsasanay ng mga modelong trilyon parameter.

• Subok na gintong pamantayan: H100 / H200 (arkitekturang Hopper) — pinakahinog na ecosystem at supply chain, ang pinakamahusay na pagpipilian sa halaga para sa pagsasanay at inferens mula 7B hanggang 70B.

• Lokal na gulugod: Ascend 910B / 910C — ang tanging pagpipilian para sa mga senaryo ng pagsunod sa Xinchuang; ang inferens ay halos handa na sa produksyon, ang pagsasanay ay isang buong henerasyon ang pagkakahuli.

• Variable ng susunod na henerasyon: Ascend 950PR (ilulunsad sa unang quarter ng 2026, na-optimize para sa prefill stage sa inferens), na nagpapakita ng bilis ng paghabol ng lokal na computing.

Talahanayan 1: Mga pangunahing detalye ng pitong nangungunang AI computing chip (tinatayang mga halaga; suriin ang pinakabagong opisyal na mga detalye)

Tagapagpahiwatig 1: Angkop na pagsasanay at inferens — unawain muna kung ano ang iyong negosyo

Unang prinsipyo ng pagpili: ang iyong pangunahing workload ba ay pagsasanay o inferens? Hindi sila magkaparehong gawain. Ang pagsasanay ay masinsin sa computation at limitado ng komunikasyon ng cluster — sa mga cluster ng libu-libo hanggang sampu-sampung libong card, ang overhead na gastos ng All-Reduce ay maaaring umabot ng 30–50% ng kabuuang oras; samantalang ang decoding stage ng inferens ay masinsin sa bandwidth ng memory, at kapag naghihintay ang GPU ng data, walang computing power na makakatulong. Ang pagdidisenyo ng cluster ng inferens ayon sa mga pamantayan ng training card, o pagpaplano ng platform ng pagsasanay ayon sa mga pamantayan ng inference card — sa parehong kaso ay direksyonal na pagkakamali na nagkakahalaga ng daan-daang milyong yuan.

• Senaryo ng pagsasanay: ang FP8 performance sa B300 ay humigit-kumulang 2.3 beses na mas mataas kaysa H100, na nagbabawas ng oras ng pagsasanay ng modelong trilyon parameter sa 40–50% ng oras ng cluster ng H100; ang FP8 performance sa Ascend 910C ay katumbas ng humigit-kumulang 40% ng H100, at isinasaalang-alang ang agwat ng MFU (rate ng paggamit ng sample ng computing power), ang agwat ng epektibong performance ng pagsasanay ay humigit-kumulang 4.5 beses.

• Senaryo ng inferens: ang mga maliit na modelo 7B–13B ay maaaring tumakbo sa alinmang card, kaya ang presyo-performance ang nagdedesisyon; ang siksik na modelo 70B ay may FP16 weights na humigit-kumulang 140 gigabyte — ang H200 na may 141 gigabyte ay nagpapatakbo nito sa isang card, ang B300 na may 288 gigabyte ay nagpapahintulot ng napakalaking batch, at ang 910C na may 96 gigabyte ay nangangailangan ng multi-card tensor parallelism; sa mga senaryo ng MoE na antas 671B at mahabang konteksto +128K, ang mga card na may malaking memory ay dumudurog sa mga kakumpitensya.

Isang pangungusap para tandaan ang tagapagpahiwatig na ito: para sa pagsasanay bumibili ka ng computing power, para sa inferens bumibili ka ng bandwidth.

Tagapagpahiwatig 2: Kapasidad ng video memory at bandwidth — ang kapasidad ang nagtatakda ng kisame, ang bandwidth ang sahig

Ang video memory ay «kamalig ng butil» ng inferens, ang bandwidth ang «highway» nito. Ang tatlong uso ng mga malaking modelo — paglago ng mga parameter, pagpapahaba ng konteksto, at pagsikat ng MoE — ay lumalamon ng video memory sa nakakahindik na bilis. At lalo na ang mahabang konteksto ang bagong black hole ng memory: ang KV cache para sa kontekstong 128K ay maaaring lumamon ng dose-dosenang karagdagang gigabyte, na nangangahulugang ang «pagkasya ng mga weight» ay marka lamang ng pagpasa, at ang «reserba para sa KV cache» ang nagtatakda ng parallelism.

Ang agwat ng kapasidad ng memory ay direktang nagiging pera: upang patakbuhin ang modelong antas 405B (FP16 weights humigit-kumulang 810 gigabyte), ang B300 ay nangangailangan ng apat na card sa tensor parallelism, samantalang ang H100 ay nangangailangan ng labing-isang card; ang pagkakaiba ay hindi lamang presyo ng pitong karagdagang card, kundi pati isang buong server, mga kable ng NVLink at limang taon ng kuryente. Ang epekto ng bandwidth ay hindi gaanong halata: sa decoding stage, bawat token na nalikha ay nangangailangan ng buong pagbasa ng mga weight ng modelo; ang FP16 weights ng modelo 70B ay humigit-kumulang 140 gigabyte, binabasa ng H100 sa bilis na 3.35 terabyte/segundo sa humigit-kumulang 42 millisecond, samantalang pinipiga ng B300 sa 17 millisecond sa 8 terabyte/segundo — iyon ang dahilan kung bakit ang mga card na may mataas na bandwidth ay dumudurog sa mga kakumpitensya sa mga senaryong sensitibo sa latency.

Tagapagpahiwatig 3: Scale-up interconnect — ang malakas na card na hindi makakonekta ay nagiging isla

Ang scale-up ang nagtatakda kung ilang card ang maaari mong «hypothetically pagsamahin sa isang malaking card». Ang NVLink 5 ng NVIDIA (B300) ay nagbibigay ng 1.8 terabyte/segundo bawat GPU, at sa NVSwitch ay nagpapahintulot ng buong koneksyon ng 72 card sa isang rack — ang tensor parallelism ng modelong trilyon parameter ay natatapos sa isang rack; samantalang ang NVLink 4 (H100/H200) sa 900 gigabyte/segundo ay lubos na hinog. Ang HCCS interconnect ng Ascend 910C ay humigit-kumulang 400 gigabyte/segundo, ibig sabihin 44% ng NVLink 4; pinupunan ito ng Huawei sa antas ng sistema sa pamamagitan ng buong optical interconnect ng CloudMatrix supernode.

Kapag pumipili ng mga card, suriin nang sabay-sabay ang dalawang antas: ang bandwidth ng interconnect ng single node, na nagtatakda ng kahusayan ng parallelism sa loob ng rack; at ang solusyon ng supernode ng supplier, na nagtatakda ng kisame ng scale sa pagitan ng mga rack. Ang sinumang tumitingin lamang sa una ay maliitin ang kakayahan ng sistema ng Ascend; at ang sinumang tumitingin lamang sa ikalawa ay maliitin ang pagkakumplikado ng malawakang operasyon.

Tagapagpahiwatig 4: Availability ng cluster — ang pinaka-minaliit ngunit pinaka-maimpluwensyang tagapagpahiwatig

Ang tunay na data ng Meta tungkol sa pagsasanay ng Llama 3 405B ay karapat-dapat basahin muli ng tatlong beses ng bawat tagapagpasya ng pagbili: ang cluster ng 16,384 card na H100 ay nakasaksi ng 466 pagkaantala ng trabaho sa loob ng 54 na araw — average na isang pagkaantala bawat 3 oras, at ang rate ng pagkabigo ng GPU ay 120 beses na mas mataas kaysa CPU. Kalkulahin: ang cluster ng 10,000 card ay teoriya'y may ~87.6 milyong card-oras ng computing bawat taon; bawat nawawalang puntos ng availability ay nangangahulugan ng humigit-kumulang 870,000 card-oras ng epektibong kapangyarihan na nasasayang; at 10% na pagkalugi dahil sa pagkabigo ay nangangahulugan ng milyun-milyong dolyar ng computing na sumisingaw sa hangin.

Ang availability ay nakadepende sa tatlong bagay: pagpaparatol ng pagkabigo ng hardware RAS (nag-aalok ang B300 ng dedikadong RAS engine), katatagan ng init (ang mga card na may mataas na kapangyarihan ay nangangailangan ng liquid cooling, at ang pagkabigo ng liquid cooling ay humihinto sa buong rack), at diskarte sa checkpoint (ang pagsasanay ng 10,000 card ay nangangailangan ng pag-save bawat 15–30 minuto, na ginagawang bagong bottleneck ang bandwidth ng pagsulat ng storage). Ang mismong tagapagpahiwatig na ito ang larangan kung saan ang mga tagagawa ng integrated system ay lumilikha ng higit na halaga kaysa mga tagagawa ng chip: redundancy ng power supply, disenyo ng daloy ng hangin, out-of-band management, at burn-in test — bawat elemento ay tumitiyak ng availability.

Tagapagpahiwatig 5: Gastos sa migrasyon ng software — ang hardware ay sunk cost, ang software ay permanenteng gastos

Ang hadlang ng CUDA ay hindi ang bilang ng +10,000 computational operator mismo, kundi ang karanasan sa debugging, ang open-source ecosystem, at ang mga sagot na agad na matatagpuan na naipon ng milyun-milyong developer sa loob ng isang dekada — isang hadlang na hindi mapupunuan ng anumang detalye ng hardware. Bilang paghahambing: ang ROCm ay may humigit-kumulang kalahati ng mga operator ng CUDA, at ang Ascend CANN ay may humigit-kumulang 2,000 operator, na sumasaklaw na sa mga karaniwang modelo.

Praktikal na panuntunan: para sa pagsasanay at inferens ng mga karaniwang modelo (GPT/Llama/Qwen/DeepSeek), ang tatlong ecosystem ay angkop; para sa advanced na pananaliksik na may madalas na pagbabago ng arkitektura ng modelo, ang CUDA pa rin ang tanging pagpipilian; at kung saan ang pagsunod ay nagpapataw ng mga lokal na platform, ang CANN ang tanging pagpipilian, ngunit maglaan sa badyet ng 1–3 tao-buwan ng gawaing inhinyeriya para sa mga custom operator at pag-tune ng migrasyon, at itala ito sa plano ng proyekto at kontrata ng pagbili.

Tagapagpahiwatig 6: Token bawat dolyar at token bawat watt — ang huling pagsusulit ng komersyalisasyon

Sa sandaling pumasok ang AI computing center sa komersyal na operasyon, ang mga customer ay nagmamalasakit lamang sa isang bagay: magkano ang gastos bawat token. Ang mga pagsusukat ng third party ay nagpapakita na ang gastos ng inferens bawat milyong token sa B200/B300 ay katumbas ng humigit-kumulang 1/5 hanggang 1/10 ng H100 — ang kalamangang ito ay hindi nagmumula sa performance ng isang card, kundi sa kahusayan ng sistema: ang mas malaking memory ay sumusuporta sa mas malalaking batch, ang FP4 precision ay nagbabawas ng computation nang kalahati, at ang NVLink 5 ay nagbabawas ng overhead ng komunikasyon. Ito ang nagpapaliwanag kung bakit ang presyo ng pag-upa ng «lumang» H100 ay patuloy na bumababa: hindi ito bumagal — ang equation lamang ng token bawat dolyar nito ay hindi na consistent.

Sa larangan ng enerhiya, ang thermal design power bawat card ay tumaas mula 700 watt sa H100 hanggang ~1,400 watt sa B300 — lampas sa limitasyon ng air cooling; ang pagbili ng B300 ay sa praktika ay pagbili ng kumpletong imprastraktura ng liquid cooling (ang cold plate cooling ay nagpapahintulot ng PUE na mas mababa sa 1.15, na may panimulang pamumuhunan na 30–50% na mas mataas kaysa air cooling). Ngunit ang dapat ihambing ay «token bawat watt» hindi ang design power: ang yield ng token bawat watt sa B300 ay higit sa 3 beses na mas mataas kaysa H100. Samantalang ang Ascend 910C na may design power na humigit-kumulang 600 watt ay tumatakbo sa air cooling, na may kapansin-pansing mas mababang threshold ng imprastraktura — angkop para sa mga proyektong may limitadong badyet at kondisyon ng pasilidad.

Matrix ng desisyon ayon sa senaryo

Talahanayan 2: Matrix ng pagpili ng GPU para sa limang tipikal na senaryo

Checklist ng mga pagkakamali: Limang pinakakaraniwang pagkakamali sa pagpili

• Pagtingin lamang sa presyo ng isang card nang hindi kinakalkula ang kabuuang gastos ng pagmamay-ari ng cluster — ang NVSwitch, mga network card na IB/RoCE at konpigurasyon ng NVMe cache sa system na walong card ay maaaring magdoble ng kabuuang gastos; ang alok ng presyo ay dapat basahin sa dalawang antas: system at cluster.

• Paghahanda ng badyet ayon sa peak performance — ang rate ng MFU sa industriya ay kadalasang 30–50% lamang; muling kalkulahin gamit ang epektibong performance bago talakayin ang dami ng pagbili, kung hindi ay ang cluster ay palalakihin nang doble mula pa sa simula.

• Pagbabalewala sa mga prerequisite ng pasilidad — sa mga proyekto ng B300, suriin muna ang kapasidad ng kuryente, kakayahan ng pagtitiis ng sahig at kondisyon ng liquid cooling, saka makipag-negosasyon sa presyo; kung ang pasilidad ay hindi angkop, kahit ang pinakamababang presyo ng kontrata ay magiging sunk cost.

• Pagmamaliit sa mga gawain ng migrasyon — itala sa badyet ang gastos ng pag-tune ng migrasyon mula CUDA patungong CANN (hindi bababa sa 1–3 tao-buwan) at bigyan ng prayoridad ang mga kasosyo ng integrated system na may karanasan sa aplikasyon ng mga lokal na platform.

• Paggamit ng isang modelo ng card para sa lahat ng load — bilhin ang pagsasanay at inferens sa magkaibang antas at i-deploy ang malalaki at maliliit na modelo nang hiwalay, na iniiwasan ang pag-aaksaya tulad ng «pagpapatakbo ng modelo 7B sa B300».

Bakit piliin ang ChangFan Industrial Computing

Bumalik tayo sa istraktura ng gastos sa Figure 1: ang mga chip ay bumubuo lamang ng 30–40% ng gastos ng AI computing center — ang kuryente, cooling, network at operasyon ang bumubuo ng natitira, at mismong doon lumilikha ng halaga ang mga tagagawa ng system platform. Ang ChangFan Industrial Computing ay nagbibigay sa mga AI computing center at AI company ng mga integrated GPU server at customization ng layer ng imprastraktura:

• Mga system platform para sa lahat ng senaryo: mula sa mga inference workstation hanggang sa mga GPU server na walong card, na may konpigurasyon ayon sa kahilingan para sa mga platform ng NVIDIA at mga lokal na computing platform, at komprehensibong pag-tune ng ratio ng CPU/GPU, NVMe cache at high-speed network.

• Disenyo ng init at kuryente para sa mataas na kapangyarihan: para sa konsumo na lampas sa 1,000 watt bawat card, nagbibigay kami ng pag-optimize ng daloy ng hangin ng chassis, mga redundant na power supply at mga istrukturang handa sa liquid cooling, upang ang malalakas na GPU ay tumakbo nang buong kapangyarihan nang matagal.

• Mga gene ng pagiging maaasahan ng industriya: ang buong hanay ng produkto ay sumusunod sa mga pamantayan ng disenyo 7×24, na may mga redundant na module ng power supply, out-of-band management (IPMI/BMC) at kumpletong burn-in at loading test — direktang tinatarget ang mga nakatagong gastos ng availability ng cluster.

• Malalim na kakayahan ng OEM/ODM: istruktura ng kahon, silk-screen printing, BIOS/BMC, ayos ng mga port, mga pre-installed driver at mga imahe ng kapaligiran ng inferens — lahat ay customizable, na tumutulong sa mga integrator na mabilis na maihatid ang mga AI system na may sariling tatak.

• Kumpletong sertipikasyon at pandaigdigang paghahatid: ang mga produkto ay sertipikado ayon sa 3C, CE, FCC, RoHS at iba pang mga pamantayan, at ang mga data sheet at ulat ng pagsusulit ay available sa Tsino at Ingles, na may suporta sa pandaigdigang logistika at paghahatid ng mga proyekto sa ibang bansa.

Kung ikaw man ay nagpaplano ng cluster ng pagsasanay na libong card o nagtatayo ng platform ng inferens ng negosyo, ang ChangFan Industrial Computing ay nagbibigay ng angkop na hardware ng sistema at propesyonal na suporta sa pagpili. Makipag-ugnayan sa mga sales engineer ng ChangFan Industrial Computing para sa pagsusuri ng sample at pagkuha ng alok ng presyo.

Mga Madalas Itanong (FAQ)

T: Sulit pa rin ba ang pagbili ng H100 sa 2026? S: Oo. Salamat sa hinog na supply chain at zero na gastos sa migrasyon ng ecosystem, ang H100 ay nananatiling pinakamainam na pagpipilian sa presyo para sa pagsasanay at inferens mula 7B hanggang 70B; ngunit para sa advanced na pagsasanay na may sapat na badyet, ang B300 ang mas mahusay na pangmatagalang pamumuhunan.

T: Sapilitan ba ang liquid cooling para sa B300? S: Oo. Sa design power na ~1,400 watt bawat card, ang B300 ay lumalampas sa limitasyon ng air cooling, at ang cold plate liquid cooling ang pamantayan; ang deployment ng B300 ay nangangailangan ng komprehensibong pagpaplano ng kuryente, cooling at kakayahan ng pasilidad.

T: Maaari bang palitan ng Ascend 910C ang H100? S: Sa mga senaryo ng inferens (mga modelo 7B–13B) ito ay halos kumpletong kapalit, na may epektibong kahusayan na katumbas ng humigit-kumulang 70–82% ng H100; sa pagsasanay, ang agwat ng epektibong performance ay humigit-kumulang 4.5 beses, ngunit sa ilalim ng mga limitasyon ng pagsunod sa Xinchuang, ito ang tanging malaya at makokontrol na pagpipilian.

T: Kailan ilulunsad ang Ascend 950PR? S: Ayon sa roadmap na inilathala ng Huawei, ang 950PR ay ilulunsad sa unang quarter ng 2026 na may optimization para sa mga senaryo ng prefill sa inferens, at ang 950DT sa ikaapat na quarter ng 2026; ang mga tiyak na detalye at paghahatid ay kukumpirmahin ayon sa mga opisyal na anunsyo ng Huawei.

T: Ano ang minimum na konpigurasyon na kinakailangan para sa inferens ng modelo 70B? S: FP16 weights humigit-kumulang 140 gigabyte: isang card na H200 (141 gigabyte) ay sapat na; para sa malalaking parallel batch piliin ang B300 (288 gigabyte); at sa limitadong badyet, ang multi-H100 tensor parallelism ay angkop.

T: Magtayo ba ng pribadong AI computing center o umupa ng cloud computing power? S: Ang lahat ay nagtatapos sa rate ng paggamit: sa matatag na load at taunang paggamit na lampas 60–70%, ang cluster ng mga pribadong sistema ay karaniwang nakatataas sa pangmatagalang pag-upa ng cloud sa kabuuang gastos ng pagmamay-ari; at sa pabagu-bagong load o yugto ng pagpapatunay, ang pag-iingat ay umupa muna saka magtayo.

T: Sinusuportahan ba ng mga GPU server ng ChangFan Industrial Computing ang customization ng liquid cooling? S: Oo. Ang ChangFan Industrial Computing ay nagbibigay ng mga istrukturang handa sa
liquid cooling, pag-optimize ng daloy ng hangin at mga redundant na power supply, bukod pa sa kumpletong cycle ng OEM/ODM mula chassis hanggang BIOS at mga pre-installed na kapaligiran.