6 métricas clave para seleccionar GPU en centros de computación de IA: una comparativa detallada de H100/H200/B200/B300 frente a Ascend 910B/910C/950PR | Changfan Industrial Control

Introducción: elegir la tarjeta lo decide todo, pero la «tarjeta» no es el chip

En 2026, el umbral de inversión de los centros de cómputo de IA ha pasado de «conseguir tarjetas» a «elegir las tarjetas correctas»: un solo clúster cuesta cientos de millones de yuanes, y un error de selección significa ciclos de entrenamiento duplicados, gastos de inferencia incontrolables y una hoja de ruta tecnológica obsoleta en tres años. La mayoría de los errores de selección se remontan a un mismo gesto: usar la ficha técnica como base de decisión.

La ficha técnica no le dirá que un clúster de 10 000 GPU interrumpe el entrenamiento una media de cada 3 horas; que una potencia por tarjeta 2,3 veces mayor solo reduce el tiempo de entrenamiento a la mitad; que una B300 con TDP de 1 400 W en una sala con refrigeración por aire es un adorno caro; ni que la migración de CUDA a CANN puede absorber todo el margen de un proyecto. Este artículo va más allá de la simple enumeración de parámetros y compara en profundidad, a través de seis indicadores clave que determinan el ROI de un centro de cómputo de IA, las NVIDIA H100/H200/B200/B300 y las Ascend 910B/910C/950PR, con una matriz de decisión por escenario lista para usar y una lista de verificación antierrores.

Primero las conclusiones: cinco juicios contraintuitivos

• La esencia de elegir una tarjeta es elegir un modelo de negocio, no potencia de cómputo. La unidad de coste del negocio de entrenamiento es «el tiempo y la electricidad para entrenar un modelo grande»; la unidad de coste del negocio de inferencia es «el millón de tokens». Entienda primero qué dinero gana y luego discuta qué tarjeta comprar.

• La capacidad de VRAM determina si el modelo puede ejecutarse, el ancho de banda determina la velocidad y la interconexión determina la escala. Los TFLOPS de la ficha técnica solo cuentan cuando se logra saturarlos — en la práctica, muchas GPU funcionan con una utilización efectiva (MFU) inferior a la mitad.

• Los chips solo representan el 30–40 % del coste total. La electricidad, la refrigeración líquida, la red y cinco años de operación absorben el 60 % restante — elegir una tarjeta es, en esencia, elegir toda una infraestructura.

• Comprar una B300 es comprar una sala de máquinas con refrigeración líquida. Con ~1 400 W por tarjeta, se supera el límite de la refrigeración por aire; si la electricidad y la refrigeración de las instalaciones no están a la altura, incluso la tarjeta más potente funcionará con limitación térmica.

• No existe la mejor tarjeta — existe la tarjeta mejor adaptada a su carga de trabajo. La H100 está lejos de quedar obsoleta, la Ascend 910C es insustituible en los escenarios de conformidad Xinchuang, y la 950PR anuncia el siguiente paso del cómputo doméstico — la respuesta siempre depende del perfil de su carga.

Siete chips, cuatro posiciones de mercado

Antes de entrar en los indicadores, establezcamos una comprensión básica: estos siete chips no mantienen una relación lineal de «más o menos rápido» — ocupan cuatro posiciones de mercado totalmente distintas:

• El trono del entrenamiento: B200 / B300 (arquitectura Blackwell) — cómputo FP8 e interconexión NVLink 5 líderes en todos los aspectos; el único escalón para entrenar modelos de un billón de parámetros.

• El valor seguro probado: H100 / H200 (arquitectura Hopper) — el ecosistema y la cadena de suministro más maduros, la elección de mejor relación calidad-precio para entrenamiento e inferencia de 7B a 70B.

• El pilar doméstico: Ascend 910B / 910C — la única opción para los escenarios de conformidad Xinchuang; la inferencia está casi lista para producción, el entrenamiento va una generación por detrás.

• La variable de nueva generación: Ascend 950PR (lanzamiento en el T1 de 2026, optimizada para la fase prefill de la inferencia), que muestra el ritmo de alcance del cómputo doméstico.

Tabla 1: Especificaciones clave de los siete principales chips de cómputo de IA (valores aproximados; verifique las últimas especificaciones oficiales)

Indicador 1: adecuación entrenamiento/inferencia — primero entienda cuál es su negocio

Primer principio de selección: ¿su carga principal es entrenamiento o inferencia? No es el mismo negocio. El entrenamiento es intensivo en cómputo y está limitado por la comunicación del clúster — en clústeres de miles e incluso decenas de miles de tarjetas, la sobrecarga de All-Reduce puede representar el 30–50 % del tiempo total; la fase de decodificación de la inferencia es intensiva en ancho de banda de memoria, y ninguna potencia de cómputo ayuda cuando la GPU espera datos. Diseñar un clúster de inferencia según los estándares de las tarjetas de entrenamiento, o planificar una plataforma de entrenamiento según los estándares de las tarjetas de inferencia — en ambos casos es un error direccional de cientos de millones de yuanes.

• Escenario de entrenamiento: la potencia FP8 de la B300 es aproximadamente 2,3 veces la de la H100, lo que reduce el tiempo de entrenamiento de un modelo de un billón de parámetros al 40–50 % del de un clúster H100; la potencia FP16 de la Ascend 910C es aproximadamente el 40 % de la de la H100 y, considerando la brecha de MFU (utilización de la potencia de cómputo del modelo), la brecha de potencia efectiva de entrenamiento es de unas 4,5 veces.

• Escenario de inferencia: los modelos pequeños de 7B–13B pueden ejecutarse en cualquier tarjeta, por lo que decide la relación calidad-precio; un modelo denso de 70B tiene pesos FP16 de unos 140 GB — la H200 con 141 GB lo ejecuta en una sola tarjeta, la B300 con 288 GB permite lotes muy grandes y la 910C con 96 GB requiere paralelismo tensorial multitarjeta; en los escenarios MoE de nivel 671B y de contexto largo de 128K+, las tarjetas de gran memoria aplastan a la competencia.

Una frase para recordar este indicador: para entrenamiento se compra potencia de cómputo, para inferencia se compra ancho de banda.

Indicador 2: capacidad y ancho de banda de la VRAM — la capacidad fija el techo, el ancho de banda fija el piso

La VRAM es el «granero» de la inferencia, el ancho de banda es la «autopista». Las tres tendencias de los modelos grandes — crecimiento de parámetros, alargamiento del contexto y auge de los MoE — devoran la VRAM a gran velocidad. El contexto largo en particular es el nuevo agujero negro de la memoria: la caché KV de un contexto de 128K puede consumir decenas de gigabytes adicionales, lo que significa que «quepan los pesos» es solo la nota mínima, y «la reserva para la caché KV» es lo que determina el paralelismo.

La brecha de capacidad de memoria se convierte directamente en dinero: para ejecutar un modelo de nivel 405B (pesos FP16 de unos 810 GB), la B300 requiere 4 tarjetas en paralelismo tensorial y la H100 requiere 11; la diferencia no es solo el precio de 7 tarjetas adicionales, sino también todo un servidor, cables NVLink y cinco años de electricidad. El efecto del ancho de banda es más discreto: en la fase de decodificación, cada token generado exige una lectura completa de los pesos del modelo; los pesos FP16 de un modelo de 70B son unos 140 GB, la H100 a 3,35 TB/s los lee en unos 42 milisegundos, la B300 a 8 TB/s lo reduce a 17 milisegundos — por eso las tarjetas de alto ancho de banda aplastan a la competencia en los escenarios sensibles a la latencia.

Indicador 3: interconexión scale-up — una tarjeta potente que no puede interconectarse se convierte en una isla

El scale-up determina cuántas tarjetas puede «virtualizar en una sola tarjeta grande». El NVLink 5 de NVIDIA (B300) ofrece 1,8 TB/s por GPU y, con NVSwitch, permite interconectar completamente 72 tarjetas dentro de un rack — el paralelismo tensorial de un modelo de un billón de parámetros se completa dentro de un solo rack; el NVLink 4 (H100/H200) con 900 GB/s está extraordinariamente maduro. La interconexión HCCS de la Ascend 910C es de unos 400 GB/s, el 44 % del NVLink 4; Huawei lo compensa a nivel de sistema con la interconexión totalmente óptica del supernodo CloudMatrix.

Al seleccionar tarjetas, evalúe simultáneamente dos niveles: el ancho de banda de interconexión de un solo nodo, que determina la eficiencia del paralelismo intrarack; y la solución de supernodo del proveedor, que fija el techo de expansión inter-racks. Mirar solo lo primero subestima la capacidad de sistema de Ascend; mirar solo lo segundo subestima la complejidad de la operación a gran escala.

Indicador 4: disponibilidad del clúster — el indicador más subestimado y más determinante

Los datos reales de Meta sobre el entrenamiento de Llama 3 405B merecen ser releídos tres veces por todo responsable de compras: un clúster de 16 384 tarjetas H100 sufrió 466 interrupciones de trabajos en 54 días — una media de cada 3 horas, y la tasa de fallos de las GPU es 120 veces la de las CPU. Haga el cálculo: un clúster de 10 000 tarjetas tiene teóricamente ~87,6 millones de tarjetas-hora de cómputo al año; cada punto porcentual de disponibilidad perdido son unas 870 000 tarjetas-hora de potencia efectiva desperdiciadas; un 10 % de pérdidas por inactividad son millones de dólares de cómputo que se evaporan.

La disponibilidad depende de tres cosas: la tolerancia a fallos del hardware RAS (la B300 introduce un motor RAS dedicado), la estabilidad térmica (las tarjetas de alta potencia exigen refrigeración líquida, y un fallo de la refrigeración líquida detiene todo un rack) y la estrategia de puntos de control (el entrenamiento en 10 000 tarjetas exige guardar cada 15–30 minutos, convirtiendo el rendimiento de escritura del almacenamiento en el nuevo cuello de botella). Este indicador es precisamente el ámbito donde los fabricantes de sistemas completos crean más valor que los fabricantes de chips: redundancia de alimentación, diseño de flujos de aire, gestión fuera de banda y pruebas en banco — cada elemento garantiza la disponibilidad.

Indicador 5: coste de migración de software — el hardware es un coste hundido, el software un coste permanente

El foso de CUDA no es la cifra de más de 10 000 operadores en sí, sino la experiencia de depuración, el ecosistema de código abierto y las respuestas instantáneamente localizables acumuladas por millones de desarrolladores en una década — un foso que ninguna especificación de hardware puede salvar. En comparación: ROCm tiene aproximadamente la mitad de los operadores de CUDA, y Ascend CANN unos 2 000 operadores, que ya cubren los modelos habituales.

Regla práctica: para el entrenamiento y la inferencia de modelos estándar (GPT/Llama/Qwen/DeepSeek) sirven los tres ecosistemas; para la investigación de vanguardia con cambios frecuentes de arquitectura de modelo, CUDA sigue siendo la única opción; donde la conformidad exige plataformas domésticas, CANN es la única opción, pero presupueste 1–3 meses-persona de ingeniería para operadores personalizados y ajuste de la migración, e inclúyalo en el calendario del proyecto y en el contrato de compra.

Indicador 6: tokens por dólar y tokens por vatio — el examen final de la comercialización

En cuanto un centro de cómputo de IA entra en operación comercial, a los clientes solo les interesa una cosa: cuánto cuesta un token. Las mediciones de terceros muestran que el coste de inferencia del millón de tokens en B200/B300 es aproximadamente de 1/5 a 1/10 del de la H100 — una ventaja que no procede de la potencia de una sola tarjeta, sino de la eficiencia del sistema: una memoria mayor admite lotes más grandes, la precisión FP4 reduce el cómputo a la mitad y NVLink 5 reduce la sobrecarga de comunicación. Esto explica por qué el precio de alquiler de la «obsoleta» H100 sigue cayendo: no se ha vuelto más lenta — simplemente ya no cuadra la cuenta de los tokens por dólar.

En el lado energético, el TDP por tarjeta ha pasado de 700 W en la H100 a ~1 400 W en la B300 — más allá del límite de la refrigeración por aire; comprar una B300 equivale en la práctica a comprar toda una infraestructura de refrigeración líquida (la refrigeración por placa fría permite un PUE inferior a 1,15, con una inversión inicial un 30–50 % superior a la refrigeración por aire). Pero hay que comparar los «tokens por vatio», no el TDP: el rendimiento de tokens por vatio de la B300 es más de 3 veces el de la H100. La Ascend 910C, con un TDP de unos 600 W, funciona con refrigeración por aire, con un umbral de infraestructura notablemente más bajo — adecuada para proyectos con presupuesto y condiciones de instalación limitados.

Matriz de decisión por escenario

Tabla 2: Matriz de selección de GPU para cinco escenarios típicos

Lista de verificación antierrores: los cinco errores de selección más comunes

• Mirar solo el precio unitario sin calcular el TCO del clúster — NVSwitch, las tarjetas de red IB/RoCE y la configuración de la caché NVMe de un sistema de 8 tarjetas pueden duplicar el coste total; un presupuesto debe leerse en dos niveles: sistema y clúster.

• Presupuestar según la potencia pico — el MFU del sector suele ser solo del 30–50 %; recalcule en potencia efectiva antes de hablar de volúmenes de compra, o el clúster nacerá sobredimensionado al doble.

• Ignorar los requisitos previos de las instalaciones — en los proyectos B300, verifique primero la potencia eléctrica, la capacidad de carga del suelo y las condiciones para la refrigeración líquida, y luego hable de precio; si las instalaciones no cumplen, el precio contractual más bajo se convertirá en un coste hundido.

• Subestimar el trabajo de migración — incluya en el presupuesto el coste de ajuste de la migración de CUDA a CANN (mínimo 1–3 meses-persona) y priorice a los socios de sistemas completos con experiencia en el despliegue de plataformas domésticas.

• Usar un solo modelo de tarjeta para todas las cargas — compre entrenamiento e inferencia por niveles y despliegue modelos grandes y pequeños por separado, evitando desperdicios como «ejecutar un modelo de 7B en una B300».

Por qué elegir ChangFan Industrial Computing

Volvamos a la estructura de costes de la fig. 1: los chips solo representan el 30–40 % del coste de un centro de cómputo de IA — la electricidad, la refrigeración, la red y la operación constituyen el resto, y ahí es donde los fabricantes de plataformas de sistemas crean valor. ChangFan Industrial Computing ofrece a los centros de cómputo de IA y a las empresas de IA servidores GPU completos y personalización de la capa de infraestructura:

• Plataformas de sistemas para todos los escenarios: desde estaciones de trabajo de inferencia hasta servidores GPU de 8 tarjetas, con configuración a demanda de plataformas NVIDIA y plataformas de cómputo domésticas, y ajuste integral de la relación CPU/GPU, la caché NVMe y la red de alta velocidad.

• Diseño térmico y eléctrico para altas potencias: para un consumo de más de 1 000 W por tarjeta, ofrecemos optimización del flujo de aire del chasis, alimentación redundante y chasis preparados para refrigeración líquida, para que las GPU potentes funcionen a plena potencia de forma sostenida.

• Genes de fiabilidad industrial: toda la gama cumple los estándares de diseño 7×24, con fuentes de alimentación redundantes, gestión fuera de banda (IPMI/BMC) y pruebas completas en banco y en carga — apuntando directamente a los costes ocultos de la disponibilidad del clúster.

• Capacidades profundas de OEM/ODM: estructura del chasis, serigrafía del panel, BIOS/BMC, disposición de puertos, controladores preinstalados e imágenes de entorno de inferencia — todo personalizable, ayudando a los integradores a entregar rápidamente sistemas de IA con su propia marca.

• Certificaciones completas y entrega global: productos certificados según 3C, CE, FCC, RoHS y otras normas, con especificaciones e informes de prueba en chino e inglés, y soporte de logística global y entrega de proyectos en el extranjero.

Tanto si planifica un clúster de entrenamiento de mil tarjetas como si construye una plataforma de inferencia empresarial, ChangFan Industrial Computing proporciona el hardware de sistemas adecuado y apoyo profesional en la selección. Póngase en contacto con los ingenieros de ventas de ChangFan Industrial Computing para pruebas de muestras y un presupuesto.

Preguntas frecuentes (FAQ)

P: ¿Aún vale la pena comprar la H100 en 2026? R: Sí. Gracias a su cadena de suministro madura y a la ausencia de costes de migración de ecosistema, la H100 sigue siendo la opción óptima en precio para entrenamiento e inferencia de 7B a 70B; pero para el entrenamiento de vanguardia con presupuesto suficiente, la B300 es la mejor inversión a largo plazo.

P: ¿Es obligatoria la refrigeración líquida para la B300? R: Sí. Con un TDP de ~1 400 W por tarjeta, la B300 supera el límite de la refrigeración por aire, y la refrigeración líquida por placa fría es el estándar; el despliegue de la B300 exige una planificación integral de la electricidad, la refrigeración y la capacidad de carga de las instalaciones.

P: ¿Puede la Ascend 910C sustituir a la H100? R: En los escenarios de inferencia (modelos de 7B–13B) es una sustitución casi total, con una eficiencia real de alrededor del 70–82 % de la H100; en entrenamiento, la brecha de potencia efectiva es de unas 4,5 veces, pero bajo las restricciones de conformidad Xinchuang es la única opción independiente y controlable.

P: ¿Cuándo se lanzará la Ascend 950PR? R: Según la hoja de ruta publicada por Huawei, la 950PR se lanza en el primer trimestre de 2026 con optimización para los escenarios prefill de la inferencia, y la 950DT en el cuarto trimestre de 2026; las especificaciones y entregas concretas se confirman según los anuncios oficiales de Huawei.

P: ¿Qué configuración mínima se necesita para la inferencia de un modelo de 70B? R: Los pesos FP16 son unos 140 GB: una sola tarjeta H200 (141 GB) basta; para lotes paralelos grandes, elija la B300 (288 GB); con presupuesto limitado, sirve el paralelismo tensorial multi-H100.

P: ¿Construir un centro de cómputo de IA propio o alquilar cómputo en la nube? R: Todo se reduce a la utilización: con una carga estable y una utilización anual superior al 60–70 %, un clúster de sistemas propio suele superar en TCO al alquiler de nube a largo plazo; con una carga variable o en fase de validación, es más prudente alquilar primero y construir después.

P: ¿Los servidores GPU de ChangFan Industrial Computing admiten personalización de refrigeración líquida? R: Sí. ChangFan Industrial Computing ofrece chasis preparados para refrigeración líquida, optimización del flujo de aire y alimentación redundante, así como un ciclo completo de OEM/ODM desde el chasis hasta la BIOS y los entornos preinstalados.