6 Schlüsselkennzahlen für die Auswahl von GPUs für KI-Rechenzentren: Ein detaillierter Vergleich von H100/H200/B200/B300 mit Ascend 910B/910C/950PR | Changfan Industrial Control

Einleitung: Die Kartenwahl entscheidet über alles, aber die „Karte“ ist nicht der Chip

Im Jahr 2026 hat sich die Investitionsschwelle für KI-Rechenzentren von „Karten bekommen“ auf „die richtigen Karten wählen“ verlagert: Ein einziges Cluster kostet Hunderte Millionen Yuan, und ein Auswahlfehler bedeutet verdoppelte Trainingszyklen, außer Kontrolle geratene Inferenzausgaben und eine in drei Jahren veraltete Technologielinie. Die meisten Auswahlfehler gehen auf ein und dieselbe Handlung zurück — das Datenblatt als Entscheidungsgrundlage zu verwenden.

Das Datenblatt verrät Ihnen nicht, dass ein 10.000-GPU-Cluster das Training im Schnitt alle 3 Stunden unterbricht; dass 2,3-fache Einzelkartenleistung die Trainingszeit nur halbiert; dass eine B300 mit 1.400 W TDP in einem luftgekühlten Maschinenraum nur eine teure Dekoration ist; oder dass die Migration von CUDA zu CANN die gesamte Projektmarge aufzehren kann. Dieser Artikel geht über die reine Parameteraufzählung hinaus und vergleicht anhand von sechs Schlüsselindikatoren, die den ROI eines KI-Rechenzentrums bestimmen, NVIDIA H100/H200/B200/B300 und Ascend 910B/910C/950PR umfassend — mit einer sofort einsetzbaren Szenario-Entscheidungsmatrix und einer Checkliste gegen Fallstricke.

Zuerst die Schlussfolgerungen: fünf kontraintuitive Urteile

• Die Essenz der Kartenwahl ist die Wahl eines Geschäftsmodells, nicht von Rechenleistung. Die Kosteneinheit des Trainingsgeschäfts ist „Zeit und Strom für das Training eines großen Modells“; die Kosteneinheit des Inferenzgeschäfts ist „pro Million Tokens“. Verstehen Sie zuerst, welches Geld Sie verdienen, und diskutieren Sie dann, welche Karte Sie kaufen.

• Die VRAM-Kapazität bestimmt, ob das Modell laufen kann, die Bandbreite bestimmt, wie schnell, der Interconnect bestimmt, wie groß. Die TFLOPS im Datenblatt zählen nur, wenn man sie sättigen kann — in der Praxis laufen viele GPUs mit einer effektiven Auslastung (MFU) von weniger als der Hälfte.

• Chips machen nur 30–40 % der Gesamtkosten aus. Stromversorgung, Flüssigkühlung, Netzwerk und fünf Jahre Betrieb verschlingen die übrigen 60 % — eine Karte zu wählen heißt im Kern, eine gesamte Infrastruktur zu wählen.

• Eine B300 zu kaufen heißt, einen flüssigkeitsgekühlten Maschinenraum zu kaufen. Mit ~1.400 W pro Karte liegt man jenseits der Luftkühlungsgrenze; wenn Stromversorgung und Kühlung des Standorts nicht mithalten, wird selbst die stärkste Karte gedrosselt laufen.

• Es gibt keine beste Karte — es gibt die Karte, die am besten zu Ihrer Arbeitslast passt. Die H100 ist längst nicht veraltet, die Ascend 910C ist in Xinchuang-Compliance-Szenarien unverzichtbar, und die 950PR kündigt den nächsten Schritt heimischer Rechenleistung an — die Antwort hängt immer von Ihrem Lastprofil ab.

Sieben Chips, vier Marktpositionen

Bevor wir in die Indikatoren einsteigen, schaffen wir ein Grundverständnis: Diese sieben Chips stehen nicht in einer linearen „schneller oder langsamer“-Beziehung — sie besetzen vier völlig unterschiedliche Marktpositionen:

• Der Trainingsthron: B200 / B300 (Blackwell-Architektur) — FP8-Rechenleistung und NVLink-5-Interconnect führen in jeder Hinsicht; die einzige Ebene für das Training von Modellen mit einer Billion Parametern.

• Der erprobte Goldstandard: H100 / H200 (Hopper-Architektur) — das reifste Ökosystem und die reifste Lieferkette, die Preis-Leistungs-Wahl für Training und Inferenz von 7B bis 70B.

• Die heimische Stütze: Ascend 910B / 910C — die einzige Option für Xinchuang-Compliance-Szenarien; die Inferenz ist nahezu produktionsreif, das Training hinkt eine Generation hinterher.

• Die Variable der nächsten Generation: Ascend 950PR (Markteinführung Q1 2026, optimiert für die Prefill-Phase der Inferenz), die das Aufholtempo heimischer Rechenleistung zeigt.

Tabelle 1: Kernspezifikationen der sieben wichtigsten KI-Rechenchips (Näherungswerte; bitte mit den neuesten offiziellen Spezifikationen abgleichen)

Indikator 1: Training-Inferenz-Eignung — verstehen Sie zuerst, in welchem Geschäft Sie sind

Erstes Auswahlprinzip: Ist Ihre Hauptlast Training oder Inferenz? Das ist nicht dasselbe Geschäft. Training ist rechenintensiv und durch die Cluster-Kommunikation begrenzt — in Clustern mit Tausenden bis Zehntausenden Karten kann der All-Reduce-Overhead 30–50 % der Gesamtzeit ausmachen; die Decode-Phase der Inferenz ist speicherbandbreitenintensiv, und keine Rechenleistung hilft, wenn die GPU auf Daten wartet. Ein Inferenzcluster nach Trainingskarten-Standards zu konzipieren oder eine Trainingsplattform nach Inferenzkarten-Standards zu planen — beides ist ein direktionaler Fehler in Hunderter-Millionen-Yuan-Größenordnung.

• Trainingsszenario: Die FP8-Leistung der B300 ist etwa 2,3-mal so hoch wie die der H100, was die Trainingszeit eines Modells mit einer Billion Parametern auf 40–50 % der eines H100-Clusters reduziert; die FP16-Leistung der Ascend 910C beträgt etwa 40 % der H100, und unter Berücksichtigung der MFU-Lücke (Model FLOPs Utilization) beträgt die Lücke der effektiven Trainingsleistung etwa das 4,5-Fache.

• Inferenzszenario: Kleine Modelle von 7B–13B laufen auf jeder Karte, also entscheidet das Preis-Leistungs-Verhältnis; ein dichtes 70B-Modell hat FP16-Gewichte von etwa 140 GB — die H200 mit 141 GB führt es auf einer einzigen Karte aus, die B300 mit 288 GB ermöglicht sehr große Batches, und die 910C mit 96 GB erfordert tensorparallele Mehrkartenkonfigurationen; in MoE-Szenarien der 671B-Klasse und bei Langkontexten von 128K+ gewinnen großspeicherige Karten überwältigend.

Ein Satz, um sich diesen Indikator zu merken: Für Training kauft man Rechenleistung, für Inferenz kauft man Bandbreite.

Indikator 2: VRAM-Kapazität und -Bandbreite — die Kapazität setzt die Obergrenze, die Bandbreite setzt die Untergrenze

VRAM ist die „Scheune“ der Inferenz, die Bandbreite ist die „Autobahn“. Die drei Trends großer Modelle — Parameterwachstum, Kontextverlängerung und MoE-Verbreitung — verschlingen VRAM in rasantem Tempo. Besonders der lange Kontext ist das neue Speicher-Schwarze-Loch: Der KV-Cache eines 128K-Kontexts kann weitere zig Gigabyte verschlingen, was bedeutet, dass „die Gewichte passen“ nur die Mindestanforderung ist und „die Reserve für den KV-Cache“ den Parallelismus bestimmt.

Die Speicherkapazitätslücke schlägt sich direkt in Geld nieder: Um ein Modell der 405B-Klasse (FP16-Gewichte ca. 810 GB) auszuführen, benötigt die B300 4 Karten im Tensorparallelismus, die H100 benötigt 11; der Unterschied ist nicht nur der Preis von 7 zusätzlichen Karten, sondern ein ganzer Server, NVLink-Kabel und fünf Jahre Strom. Der Bandbreiteneffekt ist unauffälliger: In der Decode-Phase erfordert jedes generierte Token ein vollständiges Lesen der Modellgewichte; die FP16-Gewichte eines 70B-Modells betragen etwa 140 GB, die H100 mit 3,35 TB/s liest sie in etwa 42 Millisekunden, die B300 mit 8 TB/s drückt das auf 17 Millisekunden — deshalb überrollen bandbreitenstarke Karten die Konkurrenz in latenzsensiblen Szenarien.

Indikator 3: Scale-up-Interconnect — eine leistungsstarke Karte, die sich nicht vernetzen lässt, wird zur Insel

Scale-up bestimmt, wie viele Karten Sie „zu einer großen Karte virtualisieren“ können. NVIDIAs NVLink 5 (B300) bietet 1,8 TB/s pro GPU und ermöglicht mit NVSwitch die vollständige Vernetzung von 72 Karten innerhalb eines Racks — der Tensorparallelismus eines Modells mit einer Billion Parametern wird innerhalb eines Racks abgeschlossen; NVLink 4 (H100/H200) mit 900 GB/s ist äußerst ausgereift. Der HCCS-Interconnect der Ascend 910C liegt bei etwa 400 GB/s, das sind 44 % von NVLink 4; Huawei gleicht dies auf Systemebene durch die volle optische Vernetzung des CloudMatrix-Supernodes aus.

Bewerten Sie bei der Kartenwahl gleichzeitig zwei Ebenen: die Interconnect-Bandbreite eines einzelnen Knotens, die die Intra-Rack-Parallelisierungseffizienz bestimmt; und die Supernode-Lösung des Anbieters, die die Inter-Rack-Erweiterungsobergrenze setzt. Wer nur auf Ersteres schaut, unterschätzt die Systemfähigkeit von Ascend; wer nur auf Letzteres schaut, unterschätzt die Komplexität des großflächigen Betriebs.

Indikator 4: Cluster-Verfügbarkeit — der am meisten unterschätzte und folgenreichste Indikator

Die realen Daten von Meta zum Training von Llama 3 405B sollte jeder Beschaffungsentscheider dreimal lesen: Ein Cluster aus 16.384 H100-Karten erlebte in 54 Tagen 466 Job-Unterbrechungen — im Schnitt eine alle 3 Stunden, und die GPU-Ausfallrate ist 120-mal höher als die der CPUs. Rechnen Sie nach: Ein 10.000-Karten-Cluster hat theoretisch ~87,6 Millionen Kartenstunden Rechenleistung pro Jahr; jeder verlorene Verfügbarkeitsprozentpunkt sind etwa 870.000 Kartenstunden vergeudeter effektiver Rechenleistung; 10 % Verluste durch Ausfälle bedeuten Millionen Dollar an Rechenleistung, die sich in Luft auflöst.

Die Verfügbarkeit hängt von drei Dingen ab: der Hardware-Fehlertoleranz RAS (die B300 führt eine dedizierte RAS-Engine ein), der thermischen Stabilität (Hochleistungskarten erfordern Flüssigkühlung, und ein Flüssigkühlungsausfall stoppt ein ganzes Rack) und der Checkpoint-Strategie (Training auf 10.000 Karten erfordert alle 15–30 Minuten eine Sicherung, wodurch die Schreibbandbreite des Speichers zum neuen Engpass wird). Genau dieser Indikator ist der Bereich, in dem Komplettsystemhersteller mehr Wert schaffen als Chiphersteller: Stromversorgungsredundanz, Luftstromdesign, Out-of-Band-Management und Testfeldprüfung — jedes Element sichert die Verfügbarkeit ab.

Indikator 5: Software-Migrationskosten — Hardware ist ein versunkener Kostenfaktor, Software ein dauerhafter

Der CUDA-Graben ist nicht die Zahl von 10.000+ Operatoren selbst, sondern die Debugging-Erfahrung, das Open-Source-Ökosystem und die sofort auffindbaren Antworten, die Millionen von Entwicklern in einem Jahrzehnt angesammelt haben — ein Graben, den keine Hardware-Spezifikation schließen kann. Zum Vergleich: ROCm hat etwa halb so viele Operatoren wie CUDA, und Ascend CANN etwa 2.000 Operatoren, die aber bereits die gängigen Modelle abdecken.

Praxisregel: Für Training und Inferenz gängiger Modelle (GPT/Llama/Qwen/DeepSeek) eignen sich alle drei Ökosysteme; für Spitzenforschung mit häufigen Modellarchitekturwechseln bleibt CUDA die einzige Wahl; wo Compliance heimische Plattformen vorschreibt, ist CANN die einzige Wahl — budgetieren Sie aber 1–3 Personenmonate Engineering für benutzerdefinierte Operatoren und Migrationsoptimierung und schreiben Sie dies in Projektplan und Kaufvertrag.

Indikator 6: Tokens pro Dollar und Tokens pro Watt — die Abschlussprüfung der Kommerzialisierung

Sobald ein KI-Rechenzentrum in den kommerziellen Betrieb geht, interessiert Kunden nur eines: Was kostet ein Token? Drittmessungen zeigen, dass die Inferenzkosten pro Million Tokens auf B200/B300 etwa 1/5 bis 1/10 der H100 betragen — ein Vorteil, der nicht von der Einzelkartenleistung kommt, sondern von der Systemeffizienz: Mehr Speicher ermöglicht größere Batches, FP4-Präzision halbiert die Rechenarbeit, NVLink 5 senkt den Kommunikationsoverhead. Das erklärt, warum der Mietpreis der „veralteten“ H100 weiter sinkt: Sie ist nicht langsamer geworden — nur die Tokens-pro-Dollar-Rechnung geht nicht mehr auf.

Auf der Energieseite ist die TDP pro Karte von 700 W bei der H100 auf ~1.400 W bei der B300 gestiegen — jenseits der Luftkühlungsgrenze; eine B300 zu kaufen bedeutet faktisch, eine komplette Flüssigkühlungsinfrastruktur zu kaufen (Cold-Plate-Kühlung ermöglicht einen PUE unter 1,15, bei 30–50 % höheren Anfangsinvestitionen als Luftkühlung). Aber verglichen werden muss „Tokens pro Watt“, nicht die TDP: Der Tokens-pro-Watt-Ertrag der B300 ist mehr als 3-mal so hoch wie der der H100. Die Ascend 910C mit einer TDP von etwa 600 W läuft luftgekühlt, mit deutlich niedrigerer Infrastrukturschwelle — geeignet für Projekte mit begrenztem Budget und Standortbedingungen.

Szenario-Entscheidungsmatrix

Tabelle 2: GPU-Auswahlmatrix für fünf typische Szenarien

Checkliste gegen Fallstricke: die fünf häufigsten Auswahlfehler

• Nur auf den Stückpreis schauen und die Cluster-TCO nicht berechnen — NVSwitch, IB/RoCE-Netzwerkkarten und die NVMe-Cache-Konfiguration eines 8-Karten-Systems können die Gesamtkosten verdoppeln; ein Angebot muss auf zwei Ebenen gelesen werden: System und Cluster.

• Das Budget nach Spitzenleistung aufstellen — die branchenübliche MFU liegt oft nur bei 30–50 %; rechnen Sie auf effektive Leistung um, bevor Sie über Beschaffungsmengen sprechen, sonst ist das Cluster von Anfang an doppelt überdimensioniert.

• Die Standortvoraussetzungen ignorieren — prüfen Sie bei B300-Projekten zuerst elektrische Leistung, Bodentragfähigkeit und Flüssigkühlungsbedingungen, dann den Preis; wenn der Standort nicht passt, wird selbst der niedrigste Vertragspreis zu versunkenen Kosten.

• Den Migrationsaufwand unterschätzen — budgetieren Sie die Optimierungskosten der Migration von CUDA zu CANN (mindestens 1–3 Personenmonate) und bevorzugen Sie Komplettsystempartner mit Erfahrung im Einsatz heimischer Plattformen.

• Ein einziges Kartenmodell für alle Lasten verwenden — beschaffen Sie Training und Inferenz gestaffelt und setzen Sie große und kleine Modelle getrennt ein, um Verschwendung wie „ein 7B-Modell auf einer B300 laufen lassen“ zu vermeiden.

Warum ChangFan Industrial Computing wählen

Zurück zur Kostenstruktur in Abb. 1: Chips machen nur 30–40 % der Kosten eines KI-Rechenzentrums aus — Strom, Kühlung, Netzwerk und Betrieb machen den Rest aus, und genau hier schaffen Systemplattformhersteller Wert. ChangFan Industrial Computing bietet KI-Rechenzentren und KI-Unternehmen schlüsselfertige GPU-Server und Individualisierung der Infrastrukturebene:

• Systemplattformen für alle Szenarien: von Inferenz-Workstations bis zu 8-Karten-GPU-Servern, mit bedarfsgerechter Konfiguration von NVIDIA- und heimischen Rechenplattformen sowie ganzheitlicher Abstimmung von CPU/GPU-Verhältnis, NVMe-Cache und Hochgeschwindigkeitsnetzwerk.

• Thermo- und Stromversorgungsdesign für hohe Leistungen: Für über 1.000 W Verbrauch pro Karte bieten wir Gehäuse-Luftstromoptimierung, redundante Stromversorgung und flüssigkühlungsbereite Gehäuse, damit leistungsstarke GPUs dauerhaft mit voller Leistung laufen.

• Industrielle Zuverlässigkeitsgene: Die gesamte Produktlinie entspricht 7×24-Designstandards, mit redundanten Netzteilen, Out-of-Band-Management (IPMI/BMC) sowie vollständigen Testfeld- und Belastungsprüfungen — direkt auf die versteckten Kosten der Cluster-Verfügbarkeit zielend.

• Tiefe OEM/ODM-Fähigkeiten: Gehäusestruktur, Frontblenden-Siebdruck, BIOS/BMC, Schnittstellenlayout, vorinstallierte Treiber und Inferenz-Umgebungs-Images — alles anpassbar, um Integratoren die schnelle Lieferung von KI-Systemen unter eigener Marke zu ermöglichen.

• Vollständige Zertifizierungen und weltweite Lieferung: Produkte nach 3C, CE, FCC, RoHS und weiteren Standards zertifiziert, Datenblätter und Prüfberichte auf Chinesisch und Englisch verfügbar, weltweite Logistik und Lieferung von Auslandsprojekten unterstützt.

Ob Sie ein Trainingscluster mit tausend Karten planen oder eine unternehmenseigene Inferenzplattform aufbauen — ChangFan Industrial Computing liefert die passende Systemhardware und professionelle Auswahlunterstützung. Kontaktieren Sie die Vertriebsingenieure von ChangFan Industrial Computing für Mustergerätetests und ein Angebot.

Häufig gestellte Fragen (FAQ)

F: Lohnt sich der Kauf einer H100 im Jahr 2026 noch? A: Ja. Dank reifer Lieferkette und null Ökosystem-Migrationskosten bleibt die H100 die preisoptimale Wahl für Training und Inferenz von 7B bis 70B; für Spitzentraining mit ausreichendem Budget ist die B300 jedoch die bessere Langzeitinvestition.

F: Ist Flüssigkühlung für die B300 Pflicht? A: Ja. Mit ~1.400 W TDP pro Karte überschreitet die B300 die Luftkühlungsgrenze, und Cold-Plate-Flüssigkühlung ist Standard; der Einsatz der B300 erfordert eine Gesamtplanung von Stromversorgung, Kühlung und Tragfähigkeit des Standorts.

F: Kann die Ascend 910C die H100 ersetzen? A: In Inferenzszenarien (7B–13B-Modelle) ist sie ein nahezu vollständiger Ersatz mit einer realen Effizienz von etwa 70–82 % der H100; im Training beträgt die effektive Leistungslücke etwa das 4,5-Fache, aber unter Xinchuang-Compliance-Zwängen ist sie die einzige unabhängige und kontrollierbare Wahl.

F: Wann erscheint die Ascend 950PR? A: Laut der von Huawei veröffentlichten Roadmap erscheint die 950PR im ersten Quartal 2026 mit Optimierung für Inferenz-Prefill-Szenarien, die 950DT im vierten Quartal 2026; konkrete Spezifikationen und Lieferungen richten sich nach den offiziellen Ankündigungen von Huawei.

F: Welche Mindestkonfiguration braucht man für die Inferenz eines 70B-Modells? A: Die FP16-Gewichte betragen etwa 140 GB: Eine einzelne H200 (141 GB) reicht aus; für große parallele Batches wählen Sie die B300 (288 GB); bei begrenztem Budget eignet sich Tensorparallelismus über mehrere H100.

F: Eigenes KI-Rechenzentrum bauen oder Cloud-Rechenleistung mieten? A: Es läuft alles auf die Auslastung hinaus: Bei stabiler Last und jährlicher Auslastung über 60–70 % schlägt ein eigenes Systemcluster die langfristige Cloud-Miete in der TCO meist; bei schwankender Last oder in der Validierungsphase ist es sicherer, erst zu mieten und dann zu bauen.

F: Unterstützen die GPU-Server von ChangFan Industrial Computing Flüssigkühlungs-Individualisierung? A: Ja. ChangFan Industrial Computing bietet flüssigkühlungsbereite Gehäuse, Luftstromoptimierung und redundante Stromversorgung sowie den kompletten OEM/ODM-Zyklus vom Gehäuse bis zum BIOS und vorinstallierten Umgebungen.