6 ключових показників для вибору графічних процесорів для центрів обробки даних ШІ: детальне порівняння H100/H200/B200/B300 та Ascend 910B/910C/950PR | Changfan Industrial Control

Вступ: вибір карти вирішує все, але «карта» — це не чип

У 2026 році інвестиційний поріг обчислювальних центрів ШІ змістився з «отримати карти» на «обрати правильні карти»: один кластер коштує сотні мільйонів юанів, а помилка у виборі означає подвоєні цикли навчання, неконтрольовані витрати на інференс і застарілу за три роки технічну лінійку. Більшість помилок вибору сходяться до однієї й тієї ж дії — використання таблиці характеристик як основи для рішення.

Таблиця характеристик не розповість вам, що кластер з 10 000 GPU перериває навчання в середньому кожні 3 години; що 2,3-кратне зростання продуктивності однієї карти скорочує час навчання лише вдвічі; що B300 з TDP 1 400 Вт у машинному залі з повітряним охолодженням — це дорога прикраса; або що міграція з CUDA на CANN може поглинути весь прибуток проєкту. Ця стаття виходить за межі перелічення параметрів і на основі шести ключових показників, що визначають ROI обчислювального центру ШІ, проводить всебічне порівняння NVIDIA H100/H200/B200/B300 і Ascend 910B/910C/950PR, а також пропонує готову матрицю рішень за сценаріями та чек-лист помилок.

Спочатку висновки: п'ять контрінтуїтивних суджень

• Суть вибору карти — це вибір бізнес-моделі, а не обчислювальної потужності. Одиниця витрат навчального бізнесу — «час і електроенергія на навчання однієї великої моделі»; одиниця витрат інференс-бізнесу — «за мільйон токенів». Спочатку зрозумійте, які гроші ви заробляєте, а потім обговорюйте, яку карту купувати.

• Обсяг відеопам'яті визначає, чи запуститься модель, пропускна здатність — наскільки швидко, а з'єднання — наскільки масштабно. TFLOPS з таблиці мають значення лише тоді, коли їх вдається наситити — на практиці багато GPU працюють з ефективною утилізацією (MFU) менше половини.

• Чипи становлять лише 30–40% загальної вартості. Електропостачання, рідинне охолодження, мережа та п'ять років експлуатації поглинають решту 60% — вибір карти по суті є вибором цілої інфраструктури.

• Купівля B300 означає купівлю машинного залу з рідинним охолодженням. При ~1 400 Вт на карту це перевищує межу повітряного охолодження; якщо електропостачання та охолодження об'єкта не відповідають вимогам, навіть найпотужніша карта працюватиме з тротлінгом.

• Не існує найкращої карти — існує карта, що найкраще відповідає вашому навантаженню. H100 ще далека від застарівання, Ascend 910C незамінна у сценаріях відповідності Сіньчуан (Xinchuang), а 950PR віщує наступний крок вітчизняних обчислень — відповідь завжди залежить від профілю вашого навантаження.

Сім чипів, чотири ринкові позиції

Перш ніж заглиблюватися в показники, встановімо базове розуміння: ці сім чипів не пов'язані лінійним відношенням «швидше чи повільніше» — вони займають чотири зовсім різні ринкові позиції:

• Трон продуктивності навчання: B200 / B300 (архітектура Blackwell) — обчислення FP8 і з'єднання NVLink 5 лідирують за всіма напрямами; єдиний ешелон для навчання моделей із трильйоном параметрів.

• Перевірена золота середина: H100 / H200 (архітектура Hopper) — найзріліша екосистема та ланцюг поставок, вибір за співвідношенням ціна/продуктивність для навчання та інференсу 7B–70B.

• Вітчизняна опора: Ascend 910B / 910C — єдиний варіант для сценаріїв відповідності Сіньчуан; інференс майже готовий до промислового застосування, навчання відстає на покоління.

• Змінна наступного покоління: Ascend 950PR (вихід у 1 кв. 2026 р., оптимізована під фазу prefill інференсу), що демонструє темпи наздоганяючого розвитку вітчизняних обчислень.

Таблиця 1: Основні характеристики семи головних чипів для обчислень ШІ (приблизні значення; звіряйте з останніми офіційними специфікаціями)

Показник 1: відповідність навчанню та інференсу — спочатку зрозумійте, яким бізнесом ви займаєтесь

Перший принцип вибору карти: чи є вашим основним навантаженням навчання чи інференс? Це не той самий бізнес. Навчання обчислювально ємне й обмежене кластерною комунікацією — у кластерах із тисяч і десятків тисяч карт накладні витрати All-Reduce можуть становити 30–50% загального часу; фаза декодування інференсу ємна за пропускною здатністю пам'яті, і жодна обчислювальна потужність не допоможе, коли GPU простоює в очікуванні даних. Проєктувати кластер інференсу за стандартами карт навчання або планувати платформу навчання за стандартами карт інференсу — в обох випадках це спрямована помилка вартістю в сотні мільйонів юанів.

• Сценарій навчання: продуктивність B300 у FP8 приблизно в 2,3 рази вища, ніж у H100, що скорочує час навчання моделі з трильйоном параметрів до 40–50% від часу кластера H100; продуктивність Ascend 910C у FP16 становить близько 40% від H100, а з урахуванням розриву в MFU (коефіцієнт утилізації обчислювальної потужності моделі) розрив в ефективній продуктивності навчання становить близько 4,5 рази.

• Сценарій інференсу: малі моделі 7B–13B можуть працювати на будь-якій карті, тому вирішує співвідношення ціни та якості; щільна модель 70B має ваги FP16 близько 140 ГБ — H200 зі 141 ГБ запускає її на одній карті, B300 з 288 ГБ дозволяє дуже великі батчі, а 910C з 96 ГБ потребує тензорного паралелізму на кількох картах; у сценаріях MoE рівня 671B та довгого контексту 128K+ карти з великим обсягом пам'яті виграють нищівно.

Запам'ятайте цей показник однією фразою: для навчання купують обчислювальну потужність, для інференсу — пропускну здатність.

Показник 2: обсяг і пропускна здатність відеопам'яті — обсяг задає стелю, пропускна здатність задає мінімум

Відеопам'ять — це «комора» інференсу, пропускна здатність — «магістраль». Три тренди великих моделей — зростання параметрів, подовження контексту та поширення MoE — стрімко поглинають відеопам'ять. Особливо довгий контекст — нова чорна діра пам'яті: KV-кеш контексту 128K може з'їсти ще десятки гігабайт, а це означає, що «ваги вміщаються» — це лише прохідний бал, а «запас під KV-кеш» — те, що визначає паралелізм.

Розрив в обсязі пам'яті напряму конвертується в гроші: для запуску моделі рівня 405B (ваги FP16 близько 810 ГБ) B300 потребує 4 карти в тензорному паралелізмі, а H100 — 11 карт; різниця — це не лише ціна 7 зайвих карт, але й цілий сервер, кабелі NVLink та п'ять років електроенергії. Вплив пропускної здатності менш помітний: у фазі декодування кожен згенерований токен потребує повного читання ваг моделі; ваги FP16 моделі 70B — близько 140 ГБ, H100 з 3,35 ТБ/с читає їх приблизно за 42 мілісекунди, а B300 з 8 ТБ/с стискає це до 17 мілісекунд — ось чому карти з високою пропускною здатністю нищать конкурентів у чутливих до затримок сценаріях.

Показник 3: масштабне з'єднання (scale-up) — потужна карта, яку не можна об'єднати, стає островом

Scale-up визначає, скільки карт ви можете «віртуалізувати в одну велику карту». NVLink 5 від NVIDIA (B300) забезпечує 1,8 ТБ/с на GPU, а з NVSwitch дозволяє повністю з'єднати 72 карти всередині стійки — тензорний паралелізм моделі з трильйоном параметрів завершується в межах однієї стійки; NVLink 4 (H100/H200) з 900 ГБ/с надзвичайно зрілий. З'єднання HCCS у Ascend 910C — близько 400 ГБ/с, що становить 44% від NVLink 4; Huawei компенсує це на системному рівні повністю оптичним з'єднанням супервузла CloudMatrix.

При виборі карт оцінюйте одночасно два рівні: пропускну здатність з'єднання одного вузла, що визначає ефективність паралелізму всередині стійки; та рішення вендора щодо супервузлів, що задає стелю масштабування між стійками. Дивлячись лише на перше, ви недооціните системні можливості Ascend; дивлячись лише на друге — недооціните складність широкомасштабної експлуатації.

Показник 4: доступність кластера — найнедооціненіший і найвпливовіший показник

Реальні дані Meta про навчання Llama 3 405B варто перечитати тричі кожному, хто ухвалює рішення про закупівлі: кластер із 16 384 карт H100 за 54 дні зазнав 466 переривань завдань — у середньому одне кожні 3 години, а частота відмов GPU у 120 разів вища, ніж у CPU. Порахуйте: кластер із 10 000 карт має теоретичні ~87,6 млн карто-годин обчислень на рік; кожен втрачений відсоток доступності — це близько 870 000 карто-годин марно витраченої ефективної потужності; 10% втрат на простій означають мільйони доларів обчислень, що розсіюються в повітрі.

Доступність визначається трьома речами: відмовостійкістю обладнання RAS (B300 представляє виділений рушій RAS), тепловою стабільністю (потужні карти потребують рідинного охолодження, а відмова рідинного охолодження зупиняє цілу стійку) та стратегією контрольних точок (навчання на 10 000 карт потребує збереження кожні 15–30 хвилин, що робить пропускну здатність запису сховища новим вузьким місцем). Саме цей показник — та сфера, де виробники готових систем створюють більше цінності, ніж виробники чипів: резервування живлення, проєктування повітряних потоків, позасмугове керування та стендові випробування — кожен елемент підстраховує доступність.

Показник 5: вартість міграції ПЗ — обладнання це незворотні витрати, ПЗ — постійні

Рів CUDA — це не саме число 10 000+ операторів, а досвід налагодження, відкрита екосистема та миттєво знаходимі відповіді, накопичені мільйонами розробників за десятиліття, — розрив, який не закрити жодними характеристиками обладнання. Для порівняння: у ROCm приблизно половина операторів CUDA, а в Ascend CANN — близько 2 000 операторів, які вже покривають основні моделі.

Практичне правило: для навчання та інференсу стандартних моделей (GPT/Llama/Qwen/DeepSeek) підходять усі три екосистеми; для передових досліджень із частою зміною архітектури моделей єдиним вибором залишається CUDA; там, де відповідність приписує вітчизняні платформи, єдиний вибір — CANN, але закладіть у бюджет 1–3 людино-місяці інженерних робіт на користувацькі оператори та налаштування міграції і впишіть це в графік проєкту та контракт закупівлі.

Показник 6: токени на долар і токени на ват — фінальний іспит комерціалізації

Щойно обчислювальний центр ШІ починає комерційну експлуатацію, клієнтів цікавить лише одне: скільки коштує один токен. Дані сторонніх вимірювань показують, що вартість інференсу мільйона токенів на B200/B300 становить приблизно 1/5–1/10 від H100 — перевага походить не від продуктивності однієї карти, а від системної ефективності: більший обсяг пам'яті підтримує більші батчі, точність FP4 вдвічі скорочує обчислення, NVLink 5 знижує накладні витрати на комунікацію. Це пояснює, чому орендна ціна «застарілої» H100 продовжує падати: вона не стала повільнішою — просто перестали сходитися розрахунки токенів на долар.

З боку енергетики TDP однієї карти зріс з 700 Вт у H100 до ~1 400 Вт у B300 — за межу повітряного охолодження; купівля B300 по суті означає купівлю повної інфраструктури рідинного охолодження (пластинчасте охолодження дозволяє досягти PUE нижче 1,15, при початкових вкладеннях на 30–50% вищих за повітряне). Але порівнювати потрібно «токени на ват», а не TDP: вихід токенів на ват у B300 більш ніж у 3 рази вищий, ніж у H100. Ascend 910C з TDP близько 600 Вт працює на повітряному охолодженні, з помітно нижчим інфраструктурним порогом — підходить для проєктів з обмеженим бюджетом і умовами об'єкта.

Матриця рішень за сценаріями

Таблиця 2: Матриця вибору GPU для п'яти типових сценаріїв

Чек-лист помилок: п'ять найпоширеніших помилок вибору

• Дивитися лише на ціну однієї карти й не рахувати TCO кластера — NVSwitch, мережеві карти IB/RoCE та конфігурація NVMe-кешу в 8-картковій системі можуть подвоїти загальну вартість; комерційну пропозицію потрібно читати на двох рівнях: системи та кластера.

• Складати бюджет за піковою продуктивністю — галузевий MFU зазвичай становить лише 30–50%; перераховуйте на ефективну продуктивність, перш ніж обговорювати обсяги закупівель, інакше кластер із самого початку завищений удвічі.

• Ігнорувати попередні умови об'єкта — у проєктах B300 спочатку перевіряйте електричну потужність, несучу здатність перекриттів та умови для рідинного охолодження, а потім обговорюйте ціну; якщо об'єкт не відповідає, навіть найнижча контрактна ціна стане незворотними витратами.

• Недооцінювати обсяг робіт з міграції — впишіть вартість налаштування при міграції з CUDA на CANN у бюджет (мінімум 1–3 людино-місяці) та надавайте пріоритет партнерам з готових систем із досвідом впровадження вітчизняних платформ.

• Використовувати одну модель для всіх навантажень — закуповуйте навчання та інференс за рівнями та розгортайте великі й малі моделі окремо, уникаючи марнотратства на кшталт «запуску моделі 7B на B300».

Чому варто обрати ChangFan Industrial Computing

Повернемося до структури витрат на рис. 1: чипи становлять лише 30–40% вартості обчислювального центру ШІ — електроенергія, охолодження, мережа та експлуатація становлять решту, і саме тут виробники системних платформ створюють цінність. ChangFan Industrial Computing надає обчислювальним центрам ШІ та ШІ-підприємствам готові GPU-сервери та кастомізацію інфраструктурного рівня:

• Системні платформи для всіх сценаріїв: від робочих станцій інференсу до 8-карткових GPU-серверів, з конфігурацією платформ NVIDIA та вітчизняних обчислювальних платформ на вимогу, з комплексним налаштуванням співвідношення CPU/GPU, NVMe-кешу та високошвидкісної мережі.

• Проєктування тепловідведення та живлення для високих потужностей: для енергоспоживання 1 000 Вт+ на карту ми пропонуємо оптимізацію повітряних потоків корпусу, резервоване живлення та корпуси з готовністю до рідинного охолодження, щоб потужні GPU довго працювали на повну потужність.

• Гени промислової надійності: уся лінійка продукції відповідає стандартам проєктування 7×24, з резервованими блоками живлення, позасмуговим керуванням (IPMI/BMC) та повними стендовими й навантажувальними випробуваннями — прямо націленими на приховані витрати доступності кластера.

• Глибокі можливості OEM/ODM: конструкція корпусу, шовкографія панелі, BIOS/BMC, розташування портів, передвстановлені драйвери та образи інференс-середовища — все налаштовується, допомагаючи інтеграторам швидко постачати ШІ-системи під власним брендом.

• Повні сертифікації та глобальна поставка: продукція сертифікована за 3C, CE, FCC, RoHS та іншими стандартами, надаються специфікації та звіти про випробування китайською та англійською мовами, підтримується глобальна логістика та поставка закордонних проєктів.

Чи плануєте ви кластер навчання на тисячу карт, чи будуєте корпоративну платформу інференсу — ChangFan Industrial Computing надасть відповідне системне обладнання та професійну підтримку вибору. Зверніться до інженерів з продажу ChangFan Industrial Computing за тестуванням зразків та комерційною пропозицією.

Часті запитання (FAQ)

З: Чи варто ще купувати H100 у 2026 році? В: Так. Завдяки зрілому ланцюгу поставок та нульовим витратам на міграцію екосистеми H100 залишається оптимальним за ціною вибором для навчання та інференсу 7B–70B; але для передового навчання за достатнього бюджету B300 — краща довгострокова інвестиція.

З: Чи обов'язкове рідинне охолодження для B300? В: Так. При TDP ~1 400 Вт на карту B300 перевищує межу повітряного охолодження, і пластинчасте рідинне охолодження є стандартом; розгортання B300 потребує комплексного планування електропостачання, охолодження та несучої здатності об'єкта.

З: Чи може Ascend 910C замінити H100? В: У сценаріях інференсу (моделі 7B–13B) це майже повна заміна, з фактичною ефективністю близько 70–82% від H100; у навчанні розрив ефективної продуктивності становить близько 4,5 рази, але за обмежень відповідності Сіньчуан це єдиний незалежний і контрольований вибір.

З: Коли вийде Ascend 950PR? В: Згідно з опублікованою Huawei дорожньою картою, 950PR виходить у першому кварталі 2026 року з оптимізацією під prefill-сценарії інференсу, а 950DT — у четвертому кварталі 2026 року; конкретні характеристики та поставки — за офіційними оголошеннями Huawei.

З: Яка мінімальна конфігурація потрібна для інференсу моделі 70B? В: Ваги FP16 — близько 140 ГБ: одна карта H200 (141 ГБ) впорається; для великих паралельних батчів обирайте B300 (288 ГБ); за обмеженого бюджету підійде тензорний паралелізм на кількох H100.

З: Будувати власний обчислювальний центр ШІ чи орендувати хмарні потужності? В: Все зводиться до утилізації: за стабільного навантаження та річної утилізації вище 60–70% власний кластер систем зазвичай виграє у довгострокової оренди хмари за TCO; за мінливого навантаження або на етапі перевірки надійніше спочатку орендувати, а потім будувати.

З: Чи підтримують GPU-сервери ChangFan Industrial Computing кастомізацію рідинного охолодження? В: Так. ChangFan Industrial Computing пропонує корпуси з готовністю до рідинного охолодження, оптимізацію повітряних потоків та резервоване живлення, а також повний цикл OEM/ODM від корпусу до BIOS та передвстановлених середовищ.