6 kluczowych wskaźników przy wyborze układów GPU do centrów obliczeniowych AI: szczegółowe porównanie modeli H100/H200/B200/B300 oraz Ascend 910B/910C/950PR | Changfan Industrial Control

Wstęp: wybór karty decyduje o wszystkim, ale «karta» to nie układ scalony

W 2026 roku próg inwestycyjny centrów obliczeniowych AI przesunął się z «zdobycia kart» na «wybór właściwych kart»: pojedynczy klaster kosztuje setki milionów juanów, a błąd w wyborze oznacza podwojenie cykli treningowych, niekontrolowane wydatki na inferencję i zestarzałą w ciągu trzech lat linię technologiczną. Większość błędów wyboru sprowadza się do tego samego gestu — użycia karty katalogowej jako podstawy decyzji.

Karta katalogowa nie powie ci, że klaster 10 000 GPU przerywa trening średnio co 3 godziny; że 2,3-krotny wzrost wydajności pojedynczej karty skraca czas treningu zaledwie o połowę; że B300 o TDP 1 400 W w chłodzonej powietrzem hali maszynowej to droga ozdoba; ani że migracja z CUDA na CANN może pochłonąć całą marżę projektu. Ten artykuł wykracza poza proste wyliczanie parametrów i za pomocą sześciu kluczowych wskaźników decydujących o ROI centrum obliczeniowego AI kompleksowo porównuje NVIDIA H100/H200/B200/B300 i Ascend 910B/910C/950PR, oferując gotową do użycia macierz decyzyjną według scenariuszy i listę kontrolną pułapek.

Najpierw wnioski: pięć sprzecznych z intuicją ocen

• Istota wyboru karty to wybór modelu biznesowego, a nie mocy obliczeniowej. Jednostką kosztu biznesu treningowego jest «czas i prąd na wytrenowanie jednego dużego modelu»; jednostką kosztu biznesu inferencyjnego jest «milion tokenów». Najpierw zrozum, jakie pieniądze zarabiasz, potem dyskutuj, jaką kartę kupić.

• Pojemność VRAM decyduje, czy model w ogóle ruszy, przepustowość decyduje o szybkości, łączność decyduje o skali. TFLOPS z karty katalogowej liczą się dopiero wtedy, gdy uda się je wysycić — w praktyce wiele GPU pracuje z efektywnym wykorzystaniem (MFU) poniżej połowy.

• Układy scalone stanowią zaledwie 30–40% całkowitego kosztu. Zasilanie, chłodzenie cieczą, sieć i pięć lat eksploatacji pochłaniają pozostałe 60% — wybór karty to w istocie wybór całej infrastruktury.

• Zakup B300 to zakup hali maszynowej z chłodzeniem cieczą. Przy ~1 400 W na kartę przekracza się granicę chłodzenia powietrzem; jeśli zasilanie i chłodzenie obiektu nie dotrzymują kroku, nawet najmocniejsza karta będzie pracować z dławieniem.

• Nie istnieje najlepsza karta — istnieje karta najlepiej dopasowana do twojego obciążenia. H100 wcale nie jest przestarzała, Ascend 910C jest niezastąpiona w scenariuszach zgodności Xinchuang, a 950PR zapowiada kolejny krok krajowych mocy obliczeniowych — odpowiedź zawsze zależy od profilu twojego obciążenia.

Siedem układów, cztery pozycje rynkowe

Zanim przejdziemy do wskaźników, ustalmy podstawowe rozumienie: te siedem układów nie pozostaje w liniowej relacji «szybszy czy wolniejszy» — zajmują one cztery zupełnie różne pozycje rynkowe:

• Tron treningu: B200 / B300 (architektura Blackwell) — obliczenia FP8 i łączność NVLink 5 liderują pod każdym względem; jedyny poziom do treningu modeli o bilionie parametrów.

• Sprawdzony złoty środek: H100 / H200 (architektura Hopper) — najbardziej dojrzały ekosystem i łańcuch dostaw, wybór optymalnego stosunku ceny do jakości dla treningu i inferencji 7B–70B.

• Krajowy filar: Ascend 910B / 910C — jedyna opcja dla scenariuszy zgodności Xinchuang; inferencja jest niemal gotowa do produkcji, trening pozostaje generację w tyle.

• Zmienna nowej generacji: Ascend 950PR (premiera w I kw. 2026 r., zoptymalizowana pod fazę prefill inferencji), pokazująca tempo nadrabiania zaległości krajowych mocy obliczeniowych.

Tabela 1: Kluczowe specyfikacje siedmiu głównych układów obliczeniowych AI (wartości przybliżone; zweryfikuj z najnowszymi oficjalnymi specyfikacjami)

Wskaźnik 1: dopasowanie do treningu i inferencji — najpierw zrozum, jaki prowadzisz biznes

Pierwsza zasada wyboru: czy twoje główne obciążenie to trening czy inferencja? To nie jest ten sam biznes. Trening jest obliczeniowo intensywny i ograniczony komunikacją klastrową — w klastrach tysięcy i dziesiątek tysięcy kart narzut All-Reduce może stanowić 30–50% całkowitego czasu; faza dekodowania inferencji jest intensywna pod względem przepustowości pamięci i żadna moc obliczeniowa nie pomoże, gdy GPU czeka na dane. Projektowanie klastra inferencyjnego według standardów kart treningowych lub planowanie platformy treningowej według standardów kart inferencyjnych — w obu przypadkach to błąd kierunkowy wart setki milionów juanów.

• Scenariusz treningowy: wydajność FP8 B300 jest około 2,3 razy wyższa niż H100, co skraca czas treningu modelu o bilionie parametrów do 40–50% czasu klastra H100; wydajność FP16 Ascend 910C to około 40% H100, a z uwzględnieniem luki MFU (wykorzystania mocy obliczeniowej modelu) luka efektywnej wydajności treningowej wynosi około 4,5-krotności.

• Scenariusz inferencyjny: małe modele 7B–13B mogą działać na dowolnej karcie, więc decyduje opłacalność; gęsty model 70B ma wagi FP16 około 140 GB — H200 ze 141 GB uruchamia go na jednej karcie, B300 z 288 GB pozwala na bardzo duże partie, a 910C z 96 GB wymaga równoległości tensorowej na wielu kartach; w scenariuszach MoE poziomu 671B i długiego kontekstu 128K+ karty z dużą pamięcią wygrywają miażdżąco.

Jedno zdanie do zapamiętania tego wskaźnika: do treningu kupuje się moc obliczeniową, do inferencji — przepustowość.

Wskaźnik 2: pojemność i przepustowość VRAM — pojemność wyznacza sufit, przepustowość wyznacza podłogę

VRAM to «stodoła» inferencji, przepustowość to «autostrada». Trzy trendy dużych modeli — wzrost parametrów, wydłużanie kontekstu i rozpowszechnianie MoE — pożerają VRAM w zawrotnym tempie. Szczególnie długi kontekst to nowa czarna dziura pamięci: pamięć podręczna KV kontekstu 128K może pochłonąć kolejne dziesiątki gigabajtów, co oznacza, że «zmieszczenie wag» to jedynie próg zaliczenia, a «zapas na pamięć KV» decyduje o równoległości.

Luka pojemności pamięci przekłada się bezpośrednio na pieniądze: do uruchomienia modelu poziomu 405B (wagi FP16 około 810 GB) B300 wymaga 4 kart w równoległości tensorowej, a H100 aż 11; różnica to nie tylko cena 7 dodatkowych kart, ale też cały serwer, kable NVLink i pięć lat prądu. Wpływ przepustowości jest mniej rzucający się w oczy: w fazie dekodowania każdy wygenerowany token wymaga pełnego odczytu wag modelu; wagi FP16 modelu 70B to około 140 GB, H100 z 3,35 TB/s odczytuje je w około 42 milisekundy, a B300 z 8 TB/s skraca to do 17 milisekund — dlatego karty o wysokiej przepustowości miażdżą konkurencję w scenariuszach wrażliwych na opóźnienia.

Wskaźnik 3: łączność scale-up — potężna karta, której nie można połączyć, staje się wyspą

Scale-up decyduje o tym, ile kart możesz «zwirtualizować w jedną dużą kartę». NVLink 5 firmy NVIDIA (B300) zapewnia 1,8 TB/s na GPU, a z NVSwitch pozwala w pełni połączyć 72 karty w jednym racku — równoległość tensorowa modelu o bilionie parametrów zamyka się w jednym racku; NVLink 4 (H100/H200) o przepustowości 900 GB/s jest niezwykle dojrzały. Łączność HCCS w Ascend 910C to około 400 GB/s, czyli 44% NVLink 4; Huawei rekompensuje to na poziomie systemowym w pełni optyczną łącznością superwęzła CloudMatrix.

Przy wyborze kart oceniaj jednocześnie dwa poziomy: przepustowość łączności pojedynczego węzła, decydującą o efektywności równoległości wewnątrzrackowej; oraz rozwiązanie superwęzłowe dostawcy, wyznaczające sufit rozbudowy międzyrackowej. Patrząc tylko na pierwszy, nie docenisz zdolności systemowych Ascend; patrząc tylko na drugi — złożoności wielkoskalowej eksploatacji.

Wskaźnik 4: dostępność klastra — wskaźnik najbardziej niedoceniany i najbardziej decydujący

Rzeczywiste dane Meta dotyczące treningu Llama 3 405B każdy decydent zakupowy powinien przeczytać trzy razy: klaster 16 384 kart H100 doświadczył 466 przerwań zadań w ciągu 54 dni — średnio jednej co 3 godziny, a częstość awarii GPU jest 120 razy wyższa niż CPU. Policz: klaster 10 000 kart ma teoretycznie ~87,6 mln kartogodzin mocy obliczeniowej rocznie; każdy utracony punkt procentowy dostępności to około 870 000 kartogodzin zmarnowanej efektywnej mocy; 10% strat z powodu przestojów to miliony dolarów mocy obliczeniowej ulatujące w powietrze.

Dostępność zależy od trzech rzeczy: sprzętowej odporności na awarie RAS (B300 wprowadza dedykowany silnik RAS), stabilności termicznej (karty dużej mocy wymagają chłodzenia cieczą, a awaria chłodzenia cieczą zatrzymuje cały rack) oraz strategii punktów kontrolnych (trening na 10 000 kart wymaga zapisu co 15–30 minut, co czyni przepustowość zapisu pamięci masowej nowym wąskim gardłem). Właśnie ten wskaźnik to obszar, w którym producenci kompletnych systemów tworzą większą wartość niż producenci układów: redundancja zasilania, projektowanie przepływów powietrza, zarządzanie pozapasmowe i testy stanowiskowe — każdy element zabezpiecza dostępność.

Wskaźnik 5: koszt migracji oprogramowania — sprzęt to koszt utopiony, oprogramowanie to koszt stały

Fosa CUDA to nie sama liczba ponad 10 000 operatorów, lecz doświadczenie w debugowaniu, ekosystem open source i natychmiast odnajdywalne odpowiedzi zgromadzone przez miliony programistów w ciągu dekady — fosa, której nie wypełni żadna specyfikacja sprzętowa. Dla porównania: ROCm ma około połowy operatorów CUDA, a Ascend CANN około 2 000 operatorów, które pokrywają już główne modele.

Praktyczna zasada: do treningu i inferencji standardowych modeli (GPT/Llama/Qwen/DeepSeek) nadają się wszystkie trzy ekosystemy; do badań na czołowej krawędzi z częstą zmianą architektury modeli jedynym wyborem pozostaje CUDA; tam, gdzie zgodność nakazuje platformy krajowe, jedynym wyborem jest CANN, ale zabudżetuj 1–3 osobomiesiące pracy inżynierskiej na niestandardowe operatory i optymalizację migracji oraz wpisz to do harmonogramu projektu i umowy zakupu.

Wskaźnik 6: tokeny na dolara i tokeny na wat — egzamin końcowy komercjalizacji

Gdy tylko centrum obliczeniowe AI wchodzi w eksploatację komercyjną, klientów interesuje jedno: ile kosztuje jeden token. Pomiary stron trzecich pokazują, że koszt inferencji miliona tokenów na B200/B300 to około 1/5–1/10 kosztu H100 — przewaga wynika nie z wydajności pojedynczej karty, lecz z efektywności systemowej: większa pamięć obsługuje większe partie, precyzja FP4 o połowę zmniejsza obliczenia, NVLink 5 obniża narzut komunikacyjny. To wyjaśnia, dlaczego cena wynajmu «przestarzałej» H100 stale spada: nie stała się wolniejsza — po prostu rachunek tokenów na dolara przestał się spinać.

Po stronie energetycznej TDP pojedynczej karty wzrósł z 700 W w H100 do ~1 400 W w B300 — poza granicę chłodzenia powietrzem; zakup B300 to w istocie zakup kompletnej infrastruktury chłodzenia cieczą (chłodzenie płytą chłodną pozwala osiągnąć PUE poniżej 1,15, przy nakładach początkowych wyższych o 30–50% niż chłodzenie powietrzem). Porównywać należy jednak «tokeny na wat», a nie TDP: uzysk tokenów na wat B300 jest ponad 3 razy wyższy niż H100. Ascend 910C o TDP około 600 W działa z chłodzeniem powietrzem, z wyraźnie niższym progiem infrastrukturalnym — nadaje się do projektów o ograniczonym budżecie i warunkach obiektowych.

Macierz decyzyjna według scenariuszy

Tabela 2: Macierz wyboru GPU dla pięciu typowych scenariuszy

Lista kontrolna pułapek: pięć najczęstszych błędów wyboru

• Patrzenie tylko na cenę jednostkową bez liczenia TCO klastra — NVSwitch, karty sieciowe IB/RoCE i konfiguracja pamięci podręcznej NVMe w systemie 8-kartowym mogą podwoić koszt całkowity; ofertę należy czytać na dwóch poziomach: systemu i klastra.

• Budżetowanie według wydajności szczytowej — branżowe MFU wynosi często zaledwie 30–50%; przelicz na wydajność efektywną przed omawianiem wielkości zakupów, inaczej klaster od startu jest przewymiarowany dwukrotnie.

• Ignorowanie warunków wstępnych obiektu — w projektach B300 najpierw sprawdź moc elektryczną, nośność stropów i warunki chłodzenia cieczą, a potem rozmawiaj o cenie; jeśli obiekt nie spełnia wymagań, nawet najniższa cena kontraktowa stanie się kosztem utopionym.

• Niedocenianie pracy migracyjnej — wpisz do budżetu koszt optymalizacji migracji z CUDA na CANN (minimum 1–3 osobomiesiące) i daj pierwszeństwo partnerom kompletnych systemów z doświadczeniem we wdrażaniu platform krajowych.

• Używanie jednego modelu karty do wszystkich obciążeń — kupuj trening i inferencję poziomowo i wdrażaj duże i małe modele osobno, unikając marnotrawstwa typu «uruchamianie modelu 7B na B300».

Dlaczego warto wybrać ChangFan Industrial Computing

Wróćmy do struktury kosztów na rys. 1: układy scalone stanowią zaledwie 30–40% kosztu centrum obliczeniowego AI — prąd, chłodzenie, sieć i eksploatacja stanowią resztę, i właśnie tam producenci platform systemowych tworzą wartość. ChangFan Industrial Computing dostarcza centrom obliczeniowym AI i firmom AI kompletne serwery GPU oraz dostosowanie warstwy infrastrukturalnej:

• Platformy systemowe dla wszystkich scenariuszy: od stacji roboczych do inferencji po serwery GPU z 8 kartami, z konfiguracją na życzenie platform NVIDIA i krajowych platform obliczeniowych oraz kompleksowym strojeniem proporcji CPU/GPU, pamięci podręcznej NVMe i sieci szybkiej.

• Projektowanie termiczne i energetyczne dla dużych mocy: dla poboru powyżej 1 000 W na kartę oferujemy optymalizację przepływów powietrza w obudowie, zasilanie redundantne i obudowy gotowe na chłodzenie cieczą, aby mocne GPU długo pracowały pełną parą.

• Geny przemysłowej niezawodności: cała linia produktów spełnia standardy projektowe 7×24, z redundantnymi zasilaczami, zarządzaniem pozapasmowym (IPMI/BMC) oraz pełnymi testami stanowiskowymi i obciążeniowymi — wymierzonymi bezpośrednio w ukryte koszty dostępności klastra.

• Głębokie możliwości OEM/ODM: konstrukcja obudowy, sitodruk panelu, BIOS/BMC, rozmieszczenie portów, preinstalowane sterowniki i obrazy środowiska inferencyjnego — wszystko konfigurowalne, pomagając integratorom szybko dostarczać systemy AI pod własną marką.

• Pełne certyfikaty i dostawa globalna: produkty certyfikowane zgodnie z 3C, CE, FCC, RoHS i innymi normami, specyfikacje i raporty z testów dostępne w języku chińskim i angielskim, wsparcie logistyki globalnej i dostaw projektów zagranicznych.

Niezależnie od tego, czy planujesz klaster treningowy tysiąca kart, czy budujesz korporacyjną platformę inferencyjną — ChangFan Industrial Computing zapewni odpowiedni sprzęt systemowy i profesjonalne wsparcie w wyborze. Skontaktuj się z inżynierami sprzedaży ChangFan Industrial Computing w sprawie testów próbek i oferty.

Często zadawane pytania (FAQ)

P: Czy w 2026 roku warto jeszcze kupować H100? O: Tak. Dzięki dojrzałemu łańcuchowi dostaw i zerowym kosztom migracji ekosystemu H100 pozostaje optymalnym cenowo wyborem do treningu i inferencji 7B–70B; ale przy treningu na czołowej krawędzi i wystarczającym budżecie B300 jest lepszą inwestycją długoterminową.

P: Czy chłodzenie cieczą jest obowiązkowe dla B300? O: Tak. Przy TDP ~1 400 W na kartę B300 przekracza granicę chłodzenia powietrzem, a chłodzenie cieczą płytą chłodną jest standardem; wdrożenie B300 wymaga kompleksowego zaplanowania zasilania, chłodzenia i nośności obiektu.

P: Czy Ascend 910C może zastąpić H100? O: W scenariuszach inferencyjnych (modele 7B–13B) to niemal pełne zastąpienie, z rzeczywistą efektywnością około 70–82% H100; w treningu luka efektywnej wydajności wynosi około 4,5-krotności, ale przy ograniczeniach zgodności Xinchuang to jedyny niezależny i kontrolowalny wybór.

P: Kiedy ukaże się Ascend 950PR? O: Zgodnie z opublikowaną przez Huawei mapą drogową 950PR wychodzi w pierwszym kwartale 2026 roku z optymalizacją pod scenariusze prefill inferencji, a 950DT w czwartym kwartale 2026 roku; konkretne specyfikacje i dostawy należy potwierdzać według oficjalnych ogłoszeń Huawei.

P: Jaka minimalna konfiguracja jest potrzebna do inferencji modelu 70B? O: Wagi FP16 to około 140 GB: wystarczy jedna karta H200 (141 GB); dla dużych równoległych partii wybierz B300 (288 GB); przy ograniczonym budżecie sprawdzi się równoległość tensorowa na wielu H100.

P: Budować własne centrum obliczeniowe AI czy wynajmować moce chmurowe? O: Wszystko sprowadza się do wykorzystania: przy stabilnym obciążeniu i rocznym wykorzystaniu powyżej 60–70% własny klaster systemowy zwykle wygrywa z długoterminowym wynajmem chmury pod względem TCO; przy zmiennym obciążeniu lub w fazie walidacji bezpieczniej najpierw wynająć, potem budować.

P: Czy serwery GPU ChangFan Industrial Computing obsługują dostosowanie chłodzenia cieczą? O: Tak. ChangFan Industrial Computing oferuje obudowy gotowe na chłodzenie cieczą, optymalizację przepływów powietrza i zasilanie redundantne, a także pełny cykl OEM/ODM od obudowy po BIOS i preinstalowane środowiska.