• Выбор GPU для центров ИИ-вычислений: 6 ключевых показателей — H100/H200/B200/B300 против Ascend 910B/910C/950PR | ChangFan Industrial Computing

Введение: выбор карты решает всё, но «карта» — это не чип

В 2026 году инвестиционный порог для вычислительных центров ИИ сместился с «получить карты» на «выбрать правильные карты»: один кластер обходится в сотни миллионов юаней, а ошибка в выборе означает удвоение циклов обучения, неконтролируемые расходы на инференс и устаревшую за три года техническую линейку. Большинство ошибок выбора восходят к одному и тому же действию — использованию таблицы спецификаций как основы для решения.

Таблица спецификаций не расскажет вам, что кластер из 10 000 GPU прерывает обучение в среднем каждые 3 часа; что 2,3-кратный рост производительности одной карты сокращает время обучения лишь вдвое; что B300 с TDP 1 400 Вт в машинном зале с воздушным охлаждением — это дорогая безделушка; или что миграция с CUDA на CANN может поглотить всю прибыль проекта. Эта статья выходит за рамки перечисления характеристик и на основе шести ключевых показателей, определяющих ROI вычислительного центра ИИ, проводит всестороннее сравнение NVIDIA H100/H200/B200/B300 и Ascend 910B/910C/950PR, а также предлагает готовую матрицу решений по сценариям и чек-лист ошибок.

Сначала выводы: пять контринтуитивных суждений

• Суть выбора карты — это выбор бизнес-модели, а не вычислительной мощности. Единица затрат обучающего бизнеса — «время и электричество на обучение одной большой модели»; единица затрат инференс-бизнеса — «за миллион токенов». Сначала разберитесь, какие деньги вы зарабатываете, а потом обсуждайте, какую карту покупать.

• Объём видеопамяти определяет, запустится ли модель, пропускная способность — насколько быстро, а соединение — насколько масштабно. TFLOPS из таблицы имеют значение только тогда, когда их удаётся насытить — на практике многие GPU работают с эффективной утилизацией (MFU) менее половины.

• Чипы составляют лишь 30–40% общей стоимости. Электроснабжение, жидкостное охлаждение, сеть и пять лет эксплуатации поглощают остальные 60% — выбор карты по сути является выбором целой инфраструктуры.

• Покупка B300 означает покупку машинного зала с жидкостным охлаждением. При ~1 400 Вт на карту это превышает предел воздушного охлаждения; если электроснабжение и охлаждение объекта не соответствуют требованиям, даже самая мощная карта будет работать с троттлингом.

• Не существует лучшей карты — существует карта, наилучшим образом соответствующая вашей нагрузке. H100 ещё далёк от устаревания, Ascend 910C незаменим в сценариях соответствия требованиям Синьчуан (Xinchuang), а 950PR представляет следующий шаг отечественных вычислений — ответ всегда зависит от профиля вашей нагрузки.

Семь чипов, четыре рыночные ниши

Прежде чем углубляться в показатели, установим базовое понимание: эти семь чипов не связаны линейным отношением «быстрее или медленнее» — они занимают четыре совершенно разные рыночные ниши:

• Трон производительности обучения: B200 / B300 (архитектура Blackwell) — вычисления FP8 и соединение NVLink 5 лидируют по всем направлениям; единственный эшелон для обучения моделей с триллионом параметров.

• Проверенная золотая середина: H100 / H200 (архитектура Hopper) — самая зрелая экосистема и цепочка поставок, выбор по соотношению цена/производительность для обучения и инференса 7B–70B.

• Отечественная опора: Ascend 910B / 910C — единственный вариант для сценариев соответствия Синьчуан; инференс почти готов к промышленному применению, обучение отстаёт на поколение.

• Переменная следующего поколения: Ascend 950PR (выход в 1 кв. 2026 г., оптимизирован для prefill-фазы инференса), демонстрирующий темпы догоняющего развития отечественных вычислений.

Таблица 1: Основные характеристики семи основных чипов для вычислений ИИ (приблизительные значения; сверяйтесь с последними официальными спецификациями)

Показатель 1: соответствие обучению и инференсу — сначала поймите, каким бизнесом вы занимаетесь

Первый принцип выбора карты: является ли вашей основной нагрузкой обучение или инференс? Это не один и тот же бизнес. Обучение вычислительно ёмкое и ограничено кластерной коммуникацией — в кластерах из тысяч и десятков тысяч карт накладные расходы All-Reduce могут составлять 30–50% общего времени; фаза декодирования инференса ёмка по пропускной способности памяти, и никакая вычислительная мощность не поможет, когда GPU простаивает в ожидании. Проектировать кластер инференса по стандартам карт обучения или планировать платформу обучения по стандартам карт инференса — в обоих случаях это направленная ошибка стоимостью в сотни миллионов юаней.

• Сценарий обучения: производительность B300 в FP8 примерно в 2,3 раза выше, чем у H100, что сокращает время обучения модели с триллионом параметров до 40–50% от времени кластера H100; производительность Ascend 910C в FP16 составляет около 40% от H100, а с учётом разрыва в MFU (коэффициент утилизации вычислительной мощности модели) разрыв в эффективной производительности обучения составляет около 4,5 раз.

• Сценарий инференса: малые модели 7B–13B могут работать на любой карте, поэтому решает соотношение цены и качества; плотная модель 70B имеет веса FP16 около 140 ГБ — H200 со 141 ГБ запускает её на одной карте, B300 с 288 ГБ позволяет очень большие батчи, а 910C с 96 ГБ требует тензорного параллелизма на нескольких картах; в сценариях MoE уровня 671B и длинного контекста 128K+ карты с большим объёмом памяти выигрывают сокрушительно.

Запомните этот показатель одной фразой: для обучения покупают вычислительную мощность, для инференса — пропускную способность.

Показатель 2: объём и пропускная способность видеопамяти — объём задаёт потолок, пропускная способность задаёт минимум

Видеопамять — это «амбар» инференса, пропускная способность — «магистраль». Три тренда больших моделей — рост параметров, удлинение контекста и распространение MoE — стремительно поглощают видеопамять. Особенно длинный контекст — новая чёрная дыра памяти: KV-кэш контекста 128K может съесть ещё десятки гигабайт, а это значит, что «веса помещаются» — это лишь проходной балл, а «запас под KV-кэш» — то, что определяет параллелизм.

Разрыв в объёме памяти напрямую конвертируется в деньги: для запуска модели уровня 405B (веса FP16 около 810 ГБ) B300 требует 4 карты в тензорном параллелизме, а H100 — 11 карт; разница — это не только цена 7 лишних карт, но и целый сервер, кабели NVLink и пять лет электроэнергии. Влияние пропускной способности менее заметно: на фазе декодирования каждый сгенерированный токен требует полного чтения весов модели; веса FP16 модели 70B — около 140 ГБ, H100 с 3,35 ТБ/с читает их примерно за 42 миллисекунды, а B300 с 8 ТБ/с сжимает это до 17 миллисекунд — вот почему карты с высокой пропускной способностью памяти сокрушают конкурентов в чувствительных к задержкам сценариях.

Показатель 3: масштабируемое соединение (scale-up) — мощная карта, которую нельзя объединить, становится островом

Scale-up определяет, сколько карт вы можете «виртуализировать в одну большую карту». NVIDIA NVLink 5 (B300) обеспечивает 1,8 ТБ/с на GPU, а с NVSwitch позволяет полностью соединить 72 карты внутри стойки — тензорный параллелизм модели с триллионом параметров завершается в пределах одной стойки; NVLink 4 (H100/H200) с 900 ГБ/с чрезвычайно зрелый. Соединение HCCS в Ascend 910C — около 400 ГБ/с, что составляет 44% от NVLink 4; Huawei компенсирует это на системном уровне полностью оптическим соединением суперузла CloudMatrix.

При выборе карт оценивайте одновременно два уровня: пропускную способность соединения одного узла, определяющую эффективность параллелизма внутри стойки; и решение вендора по суперузлам, задающее потолок масштабирования между стойками. Глядя только на первое, вы недооцените системные возможности Ascend; глядя только на второе — недооцените сложность крупномасштабной эксплуатации.

Показатель 4: доступность кластера — самый недооценённый и самый влиятельный показатель

Реальные данные Meta об обучении Llama 3 405B стоит перечитать трижды каждому, кто принимает решения о закупках: кластер из 16 384 карт H100 за 54 дня пережил 466 прерываний заданий — в среднем одно каждые 3 часа, а частота отказов GPU в 120 раз выше, чем у CPU. Посчитайте: кластер из 10 000 карт имеет теоретические ~87,6 млн карто-часов вычислений в год; каждый потерянный процент доступности — это около 870 000 карто-часов впустую потраченной эффективной мощности; 10% потерь на простой означают миллионы долларов вычислений, улетучивающихся в никуда.

Доступность определяется тремя вещами: отказоустойчивостью оборудования RAS (B300 представляет выделенный движок RAS), тепловой стабильностью (высокомощные карты требуют жидкостного охлаждения, а отказ жидкостного охлаждения останавливает целую стойку) и стратегией контрольных точек (обучение на 10 000 карт требует сохранения каждые 15–30 минут, что делает пропускную способность записи хранилища новым узким местом). Именно этот показатель — та область, где производители готовых систем создают больше ценности, чем производители чипов: резервирование питания, проектирование воздушных потоков, внеполосное управление и стендовые испытания — каждый элемент подстраховывает доступность.

Показатель 5: стоимость миграции ПО — оборудование это невозвратные затраты, ПО — постоянные

Ров CUDA — это не само число 10 000+ операторов, а опыт отладки, открытая экосистема и мгновенно находимые ответы, накопленные миллионами разработчиков за десятилетие, — разрыв, который не закрыть никакими характеристиками оборудования. Для сравнения: у ROCm примерно половина операторов CUDA, а у Ascend CANN — около 2 000 операторов, но они уже покрывают основные модели.

Практическое правило: для обучения и инференса стандартных моделей (GPT/Llama/Qwen/DeepSeek) подходят все три экосистемы; для передовых исследований с частой сменой архитектуры моделей единственным выбором остаётся CUDA; там, где соответствие требованиям предписывает отечественные платформы, единственный выбор — CANN, но заложите в бюджет 1–3 человеко-месяца инженерных работ на пользовательские операторы и настройку миграции и впишите это в график проекта и контракт закупки.

Показатель 6: токены на доллар и токены на ватт — финальный экзамен коммерциализации

Как только вычислительный центр ИИ начинает коммерческую эксплуатацию, клиентов интересует только одно: сколько стоит один токен. Данные сторонних тестов показывают, что стоимость инференса миллиона токенов на B200/B300 составляет примерно 1/5–1/10 от H100 — преимущество исходит не от производительности одной карты, а от системной эффективности: больший объём памяти поддерживает большие батчи, точность FP4 вдвое сокращает вычисления, NVLink 5 снижает накладные расходы на коммуникацию. Это объясняет, почему арендная цена «устаревшей» H100 продолжает падать: она не стала медленнее — просто перестала сходиться арифметика токенов на доллар.

Со стороны энергетики TDP одной карты вырос с 700 Вт у H100 до ~1 400 Вт у B300 — за предел воздушного охлаждения; покупка B300 по сути означает покупку полной инфраструктуры жидкостного охлаждения (пластинчатое охлаждение позволяет достичь PUE ниже 1,15, при первоначальных вложениях на 30–50% выше воздушного). Но сравнивать нужно «токены на ватт», а не TDP: выход токенов на ватт у B300 более чем в 3 раза выше, чем у H100. Ascend 910C с TDP около 600 Вт работает на воздушном охлаждении, с заметно более низким инфраструктурным порогом — подходит для проектов с ограниченным бюджетом и условиями объекта.

Матрица решений по сценариям

Таблица 2: Матрица выбора GPU для пяти типовых сценариев

Чек-лист ошибок: пять самых распространённых ошибок при выборе

• Смотреть только на цену одной карты и не считать TCO кластера — NVSwitch, сетевые карты IB/RoCE и конфигурация NVMe-кэша в 8-карточной системе могут удвоить общую стоимость; коммерческое предложение нужно читать на двух уровнях: системы и кластера.

• Составлять бюджет по пиковой производительности — отраслевой MFU обычно составляет лишь 30–50%; пересчитывайте на эффективную производительность, прежде чем обсуждать объёмы закупок, иначе кластер изначально завышен вдвое.

• Игнорировать предварительные условия объекта — в проектах B300 сначала проверяйте электрическую мощность, несущую способность перекрытий и условия для жидкостного охлаждения, а потом обсуждайте цену; если объект не соответствует, даже самая низкая контрактная цена станет невозвратными затратами.

• Недооценивать объём работ по миграции — впишите стоимость настройки при миграции с CUDA на CANN в бюджет (минимум 1–3 человеко-месяца) и отдавайте приоритет партнёрам по готовым системам с опытом внедрения отечественных платформ.

• Использовать одну модель для всех нагрузок — закупайте обучение и инференс по уровням и развёртывайте большие и малые модели раздельно, избегая расточительства вроде «запуска модели 7B на B300».

Почему стоит выбрать ChangFan Industrial Computing

Вернёмся к структуре затрат на рис. 1: чипы составляют лишь 30–40% стоимости вычислительного центра ИИ — электроэнергия, охлаждение, сеть и эксплуатация составляют остальное, и именно здесь производители системных платформ создают ценность. ChangFan Industrial Computing предоставляет GPU-серверы в сборе и кастомизацию инфраструктурного уровня для вычислительных центров ИИ и ИИ-предприятий:

• Системные платформы для всех сценариев: от рабочих станций инференса до 8-карточных GPU-серверов, с конфигурацией платформ NVIDIA и отечественных вычислительных платформ по требованию, с комплексной настройкой соотношения CPU/GPU, NVMe-кэша и высокоскоростной сети.

• Проектирование теплоотвода и питания для высоких мощностей: для энергопотребления 1 000 Вт+ на карту мы предлагаем оптимизацию воздушных потоков корпуса, резервированное питание и корпуса с готовностью к жидкостному охлаждению, чтобы мощные GPU долго работали на полную мощность.

• Гены промышленной надёжности: вся линейка продукции соответствует стандартам проектирования 7×24, с резервированными блоками питания, внеполосным управлением (IPMI/BMC) и полными стендовыми и нагрузочными испытаниями — прямо нацеленными на скрытые затраты доступности кластера.

• Глубокие возможности OEM/ODM: конструкция корпуса, шелкография панели, BIOS/BMC, расположение портов, предустановленные драйверы и образы инференс-окружения — всё настраивается, помогая интеграторам быстро поставлять ИИ-системы под собственным брендом.

• Полные сертификации и глобальная поставка: продукция сертифицирована по 3C, CE, FCC, RoHS и другим стандартам, предоставляются спецификации и отчёты об испытаниях на китайском и английском языках, поддерживается глобальная логистика и поставка зарубежных проектов.

Планируете ли вы кластер обучения на тысячу карт или строите корпоративную платформу инференса — ChangFan Industrial Computing предоставит подходящее системное оборудование и профессиональную поддержку выбора. Обратитесь к инженерам по продажам ChangFan Industrial Computing за тестированием образцов и коммерческим предложением.

Часто задаваемые вопросы (FAQ)

В: Стоит ли ещё покупать H100 в 2026 году? О: Да. Благодаря зрелой цепочке поставок и нулевым затратам на миграцию экосистемы H100 остаётся оптимальным по цене выбором для обучения и инференса 7B–70B; но для передового обучения при достаточном бюджете B300 — лучшая долгосрочная инвестиция.

В: Обязательно ли жидкостное охлаждение для B300? О: Да. При TDP ~1 400 Вт на карту B300 превышает предел воздушного охлаждения, и пластинчатое жидкостное охлаждение является стандартом; развёртывание B300 требует комплексного планирования электроснабжения, охлаждения и несущей способности объекта.

В: Может ли Ascend 910C заменить H100? О: В сценариях инференса (модели 7B–13B) это почти полная замена, с фактической эффективностью около 70–82% от H100; в обучении разрыв эффективной производительности составляет около 4,5 раз, но при ограничениях соответствия Синьчуан это единственный независимый и контролируемый выбор.

В: Когда выйдет Ascend 950PR? О: Согласно опубликованной Huawei дорожной карте, 950PR выходит в первом квартале 2026 года с оптимизацией под prefill-сценарии инференса, а 950DT — в четвёртом квартале 2026 года; конкретные характеристики и поставки — по официальным объявлениям Huawei.

В: Какая минимальная конфигурация нужна для инференса модели 70B? О: Веса FP16 — около 140 ГБ: одна карта H200 (141 ГБ) справится; для больших параллельных батчей выбирайте B300 (288 ГБ); при ограниченном бюджете подойдёт тензорный параллелизм на нескольких H100.

В: Строить собственный вычислительный центр ИИ или арендовать облачные мощности? О: Всё сводится к утилизации: при стабильной нагрузке и годовой утилизации выше 60–70% собственный кластер систем обычно выигрывает у долгосрочной аренды облака по TCO; при изменчивой нагрузке или на этапе проверки надёжнее сначала арендовать, а потом строить.

В: Поддерживают ли GPU-серверы ChangFan Industrial Computing кастомизацию жидкостного охлаждения? О: Да. ChangFan Industrial Computing предлагает корпуса с готовностью к жидкостному охлаждению, оптимизацию воздушных потоков и резервированное питание, а также полный цикл OEM/ODM от корпуса до BIOS и предустановленных окружений.