6 Metrik Utama untuk Memilih GPU bagi Pusat Pengkomputeran AI: Perbandingan Mendalam H100/H200/B200/B300 lwn. Ascend 910B/910C/950PR | Changfan Industrial Control

Pendahuluan: Pemilihan kad menentukan segalanya, tetapi «kad» bukanlah cip

Pada tahun 2026, ambang pelaburan dalam pusat pengkomputeran AI telah beralih daripada «mendapatkan kad» kepada «memilih kad yang betul»: satu kluster berharga ratusan juta yuan, dan kesilapan pemilihan bermakna kitaran latihan berganda, perbelanjaan inferens di luar kawalan, dan laluan teknikal yang lapuk dalam masa tiga tahun. Kebanyakan kesilapan pemilihan berpunca daripada tindakan yang sama — menggunakan helaian spesifikasi sebagai asas keputusan.

Helaian spesifikasi tidak akan memberitahu anda bahawa kluster 10,000 GPU menghentikan latihan secara purata setiap 3 jam; bahawa prestasi kad tunggal 2.3 kali lebih tinggi hanya memotong masa latihan kepada separuh; bahawa B300 dengan kuasa reka bentuk terma 1,400 watt di dewan berpenyejuk udara tidak lebih daripada hiasan mahal; atau bahawa migrasi daripada CUDA ke CANN boleh menelan keseluruhan margin projek. Artikel ini melangkaui sekadar menyenaraikan parameter, membandingkan secara menyeluruh NVIDIA H100/H200/B200/B300 dan Ascend 910B/910C/950PR merentasi enam penunjuk teras yang menentukan ROI pusat pengkomputeran AI, sambil menyediakan matriks keputusan berasaskan senario yang sedia digunakan dan senarai semak kesilapan.

Kesimpulan dahulu: Lima penilaian kontra-intuitif

• Intipati pemilihan kad adalah memilih model perniagaan, bukan kuasa pengkomputeran. Unit kos perniagaan latihan ialah «masa dan elektrik untuk melatih satu model besar»; unit kos perniagaan inferens ialah «setiap juta token». Fahami dahulu dari mana anda menjana wang, baru bincang kad mana yang hendak dibeli.

• Kapasiti memori video menentukan sama ada model boleh berjalan, lebar jalur menentukan berapa pantas, dan interkoneksi menentukan berapa besar. Nilai TFLOPS pada helaian spesifikasi hanya sah jika anda berjaya menepukannya — dalam praktiknya, banyak GPU beroperasi dengan kadar penggunaan berkesan (MFU) di bawah separuh.

• Cip hanya menyumbang 30–40% daripada jumlah kos. Elektrik, penyejukan cecair, rangkaian dan lima tahun operasi menelan baki 60% — memilih kad pada dasarnya ialah memilih infrastruktur lengkap.

• Membeli B300 bermakna membeli dewan mesin berpenyejuk cecair. Dengan ~1,400 watt setiap kad, ia melepasi had penyejukan udara; jika elektrik dan penyejukan kemudahan tidak mencapai tahap yang diperlukan, kad paling kuat pun akan berjalan dengan pendikitkan terma.

• Tiada kad yang mutlak terbaik — hanya ada kad yang paling sesuai dengan beban kerja anda. H100 masih jauh daripada lapuk, Ascend 910C amat diperlukan dalam senario pematuhan Xinchuang, dan 950PR mengisyaratkan langkah seterusnya pengkomputeran domestik — jawapannya sentiasa bergantung pada profil beban kerja anda.

Tujuh cip, empat kedudukan di pasaran

Sebelum masuk ke penunjuk, mari bina pemahaman asas: ketujuh-tujuh cip ini tidak berada dalam hubungan linear «lebih pantas atau lebih perlahan» — mereka menduduki empat kedudukan pasaran yang sama sekali berbeza:

• Takhta latihan: B200 / B300 (seni bina Blackwell) — pengiraan FP8 dan interkoneksi NVLink 5 unggul dalam semua dimensi; satu-satunya peringkat untuk melatih model trilion parameter.

• Piawaian emas terbukti: H100 / H200 (seni bina Hopper) — ekosistem dan rantaian bekalan paling matang, pilihan nilai terbaik untuk latihan dan inferens daripada 7B hingga 70B.

• Tulang belakang domestik: Ascend 910B / 910C — satu-satunya pilihan untuk senario pematuhan Xinchuang; inferens hampir sedia pengeluaran, latihan ketinggalan satu generasi penuh.

• Pemboleh ubah generasi akan datang: Ascend 950PR (dilancarkan suku pertama 2026, dioptimumkan untuk fasa prefill dalam inferens), menunjukkan kelajuan mengejar pengkomputeran domestik.

Jadual 1: Spesifikasi teras tujuh cip pengkomputeran AI terkemuka (nilai anggaran; semak spesifikasi rasmi terkini)

Penunjuk 1: Kesesuaian latihan dan inferens — fahami dahulu apa perniagaan anda

Prinsip pertama pemilihan: adakah beban kerja utama anda latihan atau inferens? Kedua-duanya bukan kerja yang sama. Latihan intensif pengiraan dan dihadkan oleh komunikasi kluster — dalam kluster beribu-ribu hingga berpuluh ribu kad, kos overhed All-Reduce boleh mencapai 30–50% daripada jumlah masa; manakala fasa penyahkodan dalam inferens intensif lebar jalur memori, dan apabila GPU menunggu data, tiada kuasa pengiraan yang membantu. Mereka bentuk kluster inferens mengikut kriteria kad latihan, atau merancang platform latihan mengikut kriteria kad inferens — dalam kedua-dua kes ialah kesilapan arah bernilai ratusan juta yuan.

• Senario latihan: prestasi FP8 pada B300 kira-kira 2.3 kali lebih tinggi daripada H100, memotong masa latihan model trilion parameter kepada 40–50% masa kluster H100; prestasi FP16 pada Ascend 910C bersamaan kira-kira 40% H100, dan dengan mengambil kira jurang MFU (kadar penggunaan sampel kuasa pengiraan), jurang prestasi latihan berkesan kira-kira 4.5 kali.

• Senario inferens: model kecil 7B–13B boleh berjalan pada mana-mana kad, jadi harga-prestasi yang menentukan; model padat 70B mempunyai berat FP16 kira-kira 140 gigabait — H200 dengan 141 gigabait menjalankannya pada satu kad, B300 dengan 288 gigabait membenarkan kelompok sangat besar, dan 910C dengan 96 gigabait memerlukan keselarian tensor berbilang kad; dalam senario MoE tahap 671B dan konteks panjang +128K, kad memori besar menghancurkan pesaing.

Satu ayat untuk mengingati penunjuk ini: untuk latihan anda membeli kuasa pengiraan, untuk inferens anda membeli lebar jalur.

Penunjuk 2: Kapasiti memori video dan lebar jalur — kapasiti menentukan siling, lebar jalur menentukan lantai

Memori video ialah «gudang bijirin» inferens, lebar jalur ialah «lebuh rayanya». Tiga trend model besar — pertumbuhan parameter, pemanjangan konteks, dan kebangkitan MoE — menelan memori video dengan kelajuan menggelikan. Dan terutamanya konteks panjang ialah lubang hitam baharu memori: cache KV untuk konteks 128K boleh menelan berpuluh gigabait tambahan, bermakna «berat muat» hanyalah markah lulus, dan «rezab untuk cache KV» yang menentukan keselarian.

Jurang kapasiti memori terus bertukar menjadi wang: untuk menjalankan model tahap 405B (berat FP16 kira-kira 810 gigabait), B300 memerlukan empat kad dalam keselarian tensor, manakala H100 memerlukan sebelas kad; perbezaannya bukan sahaja harga tujuh kad tambahan, tetapi juga satu pelayan lengkap, kabel NVLink dan lima tahun elektrik. Kesan lebar jalur kurang jelas: dalam fasa penyahkodan, setiap token yang dijana memerlukan pembacaan penuh berat model; berat FP16 model 70B kira-kira 140 gigabait, dibaca H100 pada kelajuan 3.35 terabait/saat dalam kira-kira 42 milisaat, manakala B300 memampatkannya kepada 17 milisaat pada 8 terabait/saat — itulah sebabnya kad lebar jalur tinggi menghancurkan pesaing dalam senario sensitif latensi.

Penunjuk 3: Interkoneksi scale-up — kad kuat yang tidak dapat dihubungkan menjadi pulau

Scale-up menentukan berapa banyak kad yang boleh anda «secara hipotesis gabungkan menjadi satu kad besar». NVLink 5 NVIDIA (B300) menyediakan 1.8 terabait/saat setiap GPU, dan dengan NVSwitch membenarkan sambungan penuh 72 kad dalam satu rak — keselarian tensor model trilion parameter selesai dalam satu rak; manakala NVLink 4 (H100/H200) pada 900 gigabait/saat sangat matang. Interkoneksi HCCS pada Ascend 910C kira-kira 400 gigabait/saat, iaitu 44% daripada NVLink 4; Huawei mengimbanginya pada tahap sistem dengan interkoneksi optik penuh supernod CloudMatrix.

Semasa memilih kad, nilai dua tahap serentak: lebar jalur interkoneksi nod tunggal, yang menentukan kecekapan keselarian dalam rak; dan penyelesaian supernod pembekal, yang menentukan siling skala antara rak. Sesiapa yang hanya melihat yang pertama memandang rendah keupayaan sistem Ascend; dan sesiapa yang hanya melihat yang kedua memandang rendah kerumitan operasi skala besar.

Penunjuk 4: Ketersediaan kluster — penunjuk yang paling dipandang rendah tetapi paling berpengaruh

Data sebenar Meta tentang latihan Llama 3 405B wajar dibaca semula tiga kali oleh setiap pembuat keputusan pembelian: kluster 16,384 kad H100 menyaksikan 466 gangguan kerja dalam 54 hari — purata satu gangguan setiap 3 jam, dan kadar kegagalan GPU 120 kali lebih tinggi daripada CPU. Kira: kluster 10,000 kad secara teori mempunyai ~87.6 juta kad-jam pengkomputeran setahun; setiap mata ketersediaan yang hilang bermakna kira-kira 870,000 kad-jam kuasa berkesan terbuang; dan kerugian 10% akibat kegagalan bermakna berjuta-juta dolar pengkomputeran menguap ke udara.

Ketersediaan bergantung pada tiga perkara: toleransi kesalahan perkakasan RAS (B300 menawarkan enjin RAS khusus), kestabilan terma (kad berkuasa tinggi memerlukan penyejukan cecair, dan kegagalan penyejukan cecair menghentikan keseluruhan rak), dan strategi titik semak (latihan 10,000 kad memerlukan simpanan setiap 15–30 minit, menjadikan lebar jalur tulis storan sebagai halangan baharu). Justru penunjuk inilah bidang di mana pengeluar sistem bersepadu mencipta nilai lebih besar daripada pengeluar cip: lebihan bekalan kuasa, reka bentuk aliran udara, pengurusan luar jalur dan ujian bakar — setiap elemen menjamin ketersediaan.

Penunjuk 5: Kos migrasi perisian — perkakasan ialah kos lemas, perisian ialah kos kekal

Parit CUDA bukanlah angka +10,000 operator pengiraan itu sendiri, tetapi pengalaman penyahpepijatan, ekosistem sumber terbuka dan jawapan yang boleh ditemui serta-merta yang dikumpul berjuta-juta pembangun selama sedekad — parit yang tidak dapat diisi oleh sebarang spesifikasi perkakasan. Sebagai perbandingan: ROCm mempunyai kira-kira separuh operator CUDA, dan Ascend CANN mempunyai kira-kira 2,000 operator, yang sudah merangkumi model lazim.

Peraturan praktikal: untuk latihan dan inferens model standard (GPT/Llama/Qwen/DeepSeek), ketiga-tiga ekosistem sesuai; untuk penyelidikan lanjutan dengan perubahan seni bina model yang kerap, CUDA masih satu-satunya pilihan; dan di mana pematuhan memaksakan platform domestik, CANN ialah satu-satunya pilihan, tetapi peruntukkan dalam bajet 1–3 orang-bulan kerja kejuruteraan untuk operator tersuai dan penalaan migrasi, dan catatkan dalam pelan projek serta kontrak pembelian.

Penunjuk 6: Token setiap dolar dan token setiap watt — peperiksaan akhir pengkomersialan

Sebaik sahaja pusat pengkomputeran AI memasuki operasi komersial, pelanggan hanya mengambil berat satu perkara: berapa kos setiap token. Ukuran pihak ketiga menunjukkan bahawa kos inferens setiap juta token pada B200/B300 bersamaan kira-kira 1/5 hingga 1/10 daripada H100 — kelebihan yang bukan datang daripada prestasi kad tunggal, tetapi daripada kecekapan sistem: memori lebih besar menyokong kelompok lebih besar, ketepatan FP4 memotong pengiraan kepada separuh, dan NVLink 5 mengurangkan overhed komunikasi. Ini menjelaskan mengapa harga sewaan H100 yang «lapuk» terus menurun: ia tidak menjadi lebih perlahan — hanya persamaan token setiap dolarnya tidak lagi konsisten.

Di bidang tenaga, kuasa reka bentuk terma setiap kad meningkat daripada 700 watt pada H100 kepada ~1,400 watt pada B300 — melepasi had penyejukan udara; membeli B300 secara praktikalnya bermakna membeli infrastruktur penyejukan cecair lengkap (penyejukan plat sejuk membolehkan PUE di bawah 1.15, dengan pelaburan awal 30–50% lebih tinggi daripada penyejukan udara). Tetapi yang perlu dibandingkan ialah «token setiap watt» bukan kuasa reka bentuk: hasil token setiap watt pada B300 lebih daripada 3 kali ganda H100. Sementara itu, Ascend 910C dengan kuasa reka bentuk kira-kira 600 watt berjalan dengan penyejukan udara, dengan ambang infrastruktur yang jelas lebih rendah — sesuai untuk projek dengan bajet dan keadaan kemudahan terhad.

Matriks keputusan mengikut senario

Jadual 2: Matriks pemilihan GPU untuk lima senario tipikal

Senarai semak kesilapan: Lima kesilapan paling biasa dalam pemilihan

• Hanya melihat harga satu kad tanpa mengira jumlah kos pemilikan kluster — NVSwitch, kad rangkaian IB/RoCE dan konfigurasi cache NVMe dalam sistem lapan kad boleh menggandakan jumlah kos; sebut harga mesti dibaca pada dua tahap: sistem dan kluster.

• Menyediakan bajet mengikut prestasi puncak — kadar MFU dalam industri selalunya hanya 30–50%; kira semula dengan prestasi berkesan sebelum membincangkan kuantiti pembelian, jika tidak kluster akan mengembang dua kali ganda sejak awal.

• Mengabaikan prasyarat kemudahan — dalam projek B300, semak dahulu kapasiti elektrik, daya tahan lantai dan keadaan penyejukan cecair, kemudian baru berunding harga; jika kemudahan tidak sesuai, harga kontrak terendah pun akan menjadi kos lemas.

• Memandang rendah kerja migrasi — catatkan dalam bajet kos penalaan migrasi daripada CUDA ke CANN (minimum 1–3 orang-bulan) dan beri keutamaan kepada rakan kongsi sistem bersepadu dengan pengalaman pelaksanaan platform domestik.

• Menggunakan satu model kad untuk semua beban — beli latihan dan inferens pada tahap berbeza dan gunakan model besar dan kecil secara berasingan, mengelakkan pembaziran seperti «menjalankan model 7B pada B300».

Mengapa memilih ChangFan Industrial Computing

Mari kembali kepada struktur kos pada Rajah 1: cip hanya menyumbang 30–40% daripada kos pusat pengkomputeran AI — elektrik, penyejukan, rangkaian dan operasi membentuk bakinya, dan justeru di situlah pengeluar platform sistem mencipta nilai. ChangFan Industrial Computing menyediakan untuk pusat pengkomputeran AI dan syarikat AI pelayan GPU bersepadu dan penyesuaian lapisan infrastruktur:

• Platform sistem untuk semua senario: daripada stesen kerja inferens hingga pelayan GPU lapan kad, dengan konfigurasi mengikut permintaan untuk platform NVIDIA dan platform pengkomputeran domestik, serta penalaan menyeluruh nisbah CPU/GPU, cache NVMe dan rangkaian berkelajuan tinggi.

• Reka bentuk terma dan elektrik untuk kuasa tinggi: untuk penggunaan melebihi 1,000 watt setiap kad, kami menyediakan pengoptimuman aliran udara casis, bekalan kuasa berlebihan dan struktur sedia penyejukan cecair, supaya GPU kuat berjalan dengan kuasa penuh untuk tempoh lama.

• Gen kebolehpercayaan industri: keseluruhan rangkaian produk mematuhi piawaian reka bentuk 7×24, dengan modul bekalan kuasa berlebihan, pengurusan luar jalur (IPMI/BMC) dan ujian bakar serta pemuatan lengkap — menyasarkan secara langsung kos tersembunyi ketersediaan kluster.

• Keupayaan OEM/ODM mendalam: struktur kotak, percetakan skrin sutera, BIOS/BMC, susunan port, pemacu pra-pasang dan imej persekitaran inferens — semuanya boleh disesuaikan, membantu penyepaduan menghantar sistem AI berjenama sendiri dengan pantas.

• Pensijilan lengkap dan penghantaran global: produk disahkan mengikut 3C, CE, FCC, RoHS dan piawaian lain, dengan helaian data dan laporan ujian tersedia dalam bahasa Cina dan Inggeris, disokong logistik global dan penghantaran projek luar negara.

Sama ada anda merancang kluster latihan seribu kad atau membina platform inferens perusahaan, ChangFan Industrial Computing menyediakan perkakasan sistem yang sesuai dan sokongan pemilihan profesional. Hubungi jurutera jualan ChangFan Industrial Computing untuk ujian sampel dan sebut harga.

Soalan Lazim (FAQ)

S: Adakah membeli H100 pada 2026 masih berbaloi? J: Ya. Berkat rantaian bekalan matang dan kos migrasi ekosistem sifar, H100 masih pilihan optimum harga untuk latihan dan inferens daripada 7B hingga 70B; tetapi untuk latihan lanjutan dengan bajet mencukupi, B300 ialah pelaburan jangka panjang yang lebih baik.

S: Adakah penyejukan cecair wajib untuk B300? J: Ya. Dengan kuasa reka bentuk ~1,400 watt setiap kad, B300 melepasi had penyejukan udara, dan penyejukan cecair plat sejuk ialah piawaian; penggunaan B300 memerlukan perancangan menyeluruh elektrik, penyejukan dan daya tahan kemudahan.

S: Bolehkah Ascend 910C menggantikan H100? J: Dalam senario inferens (model 7B–13B) ia adalah pengganti hampir penuh, dengan kecekapan berkesan bersamaan kira-kira 70–82% H100; dalam latihan, jurang prestasi berkesan kira-kira 4.5 kali, tetapi di bawah kekangan pematuhan Xinchuang, ia adalah satu-satunya pilihan berdikari dan terkawal.

S: Bilakah Ascend 950PR dilancarkan? J: Menurut peta hala tuju yang diterbitkan Huawei, 950PR dilancarkan suku pertama 2026 dengan pengoptimuman untuk senario prefill inferens, dan 950DT pada suku keempat 2026; spesifikasi dan penghantaran khusus disahkan mengikut pengumuman rasmi Huawei.

S: Apakah konfigurasi minimum yang diperlukan untuk inferens model 70B? J: Berat FP16 kira-kira 140 gigabait: satu kad H200 (141 gigabait) mencukupi; untuk kelompok selari besar pilih B300 (288 gigabait); dan dengan bajet terhad, keselarian tensor berbilang H100 sesuai.

S: Bina pusat pengkomputeran AI persendirian atau sewa kuasa pengkomputeran awan? J: Semuanya bermuara pada kadar penggunaan: dengan beban stabil dan penggunaan tahunan melebihi 60–70%, kluster sistem persendirian biasanya mengatasi sewaan awan jangka panjang dalam jumlah kos pemilikan; dan dengan beban berubah-ubah atau fasa pengesahan, berhemat ialah menyewa dahulu kemudian membina.

S: Adakah pelayan GPU ChangFan Industrial Computing menyokong penyesuaian penyejukan cecair? J: Ya. ChangFan Industrial Computing menyediakan struktur sedia penyejukan cecair, pengoptimuman aliran udara dan bekalan kuasa berlebihan, selain kitaran OEM/ODM lengkap daripada casis hingga BIOS dan persekitaran pra-pasang.