Yapay Zeka İşlem Merkezleri İçin GPU Seçiminde 6 Temel Kriter: H100/H200/B200/B300 ile Ascend 910B/910C/950PR Arasında Kapsamlı Bir Karşılaştırma | Changfan Industrial Control

Giriş: Kart seçimi her şeyi belirler, ancak «kart» çip değildir

2026'da, yapay zeka bilişim merkezlerine yatırım eşiği «kart temin etmekten» «doğru kartı seçmeye» kaydı: tek bir küme yüz milyonlarca yuana mal oluyor ve seçim hatası iki kat eğitim döngüleri, kontrolden çıkmış çıkarım giderleri ve üç yıl içinde eskiyen bir teknik rota anlamına geliyor. Seçim hatalarının çoğu aynı eylemden kaynaklanıyor — teknik özellik sayfasını karar temeli olarak kullanmak.

Teknik özellik sayfası size 10.000 GPU'luk bir kümenin ortalama her 3 saatte bir eğitimi kesintiye uğrattığını; tek kartın 2,3 kat daha yüksek performansının yalnızca eğitim süresini yarıya indirdiğini; 1.400 watt termal tasarım gücüne sahip B300'ün hava soğutmalı bir salonda pahalı bir süs eşyasından başka bir şey olmadığını; ya da CUDA'dan CANN'e geçişin projenin tüm kâr marjını yutabileceğini söylemez. Bu makale, salt parametre listelemenin ötesine geçerek, yapay zeka bilişim merkezinin yatırım getirisini belirleyen altı temel göstergede NVIDIA H100/H200/B200/B300 ile Ascend 910B/910C/950PR'yi kapsamlı biçimde karşılaştırır ve hemen kullanıma hazır senaryo bazlı karar matrisi ile hata kontrol listesi sunar.

Önce sonuçlar: Sezgilere aykırı beş yargı

• Kart seçiminin özü iş modeli seçimidir, bilişim gücü değil. Eğitim işinin maliyet birimi «tek bir büyük modeli eğitmek için gereken zaman ve elektrik»tir; çıkarım işinin maliyet birimi «milyon token başına»dır. Önce parayı nereden kazandığınızı anlayın, sonra hangi kartı alacağınızı tartışın.

• Video belleği kapasitesi modelin çalışıp çalışamayacağını belirler, bant genişliği ne kadar hızlı çalışacağını, ara bağlantı ise ne kadar büyüyebileceğini. Teknik özellik sayfasındaki TFLOPS değerleri ancak onları doyurmayı başardığınızda geçerlidir — pratikte, pek çok GPU %50'nin altında etkin kullanım oranı (MFU) ile çalışır.

• Çipler toplam maliyetin yalnızca %30–40'ını oluşturur. Elektrik, sıvı soğutma, ağ ve beş yıllık işletme geri kalan %60'ı yutar — kart seçmek esasen eksiksiz bir altyapı seçmektir.

• B300 satın almak, sıvı soğutmalı makine salonu satın almak demektir. Kart başına ~1.400 watt ile hava soğutma sınırının ötesindedir; tesisin elektrik ve soğutması gereken düzeyde değilse, en güçlü kart bile termal kısma ile çalışır.

• Mutlak en iyi kart diye bir şey yoktur — yalnızca iş yükünüze en uygun kart vardır. H100 hiç de eskimiş değil, Ascend 910C Xinchuang uyumluluk senaryolarında vazgeçilmezdir ve 950PR yerli bilişimin bir sonraki adımını müjdeliyor — yanıt her zaman iş yükü profilinize bağlıdır.

Yedi çip, pazarda dört konum

Göstergelere girmeden önce temel bir anlayış oluşturalım: bu yedi çip «daha hızlı ya da daha yavaş» doğrusal ilişkisinde değildir — tamamen farklı dört pazar konumunu işgal ederler:

• Eğitim tahtı: B200 / B300 (Blackwell mimarisi) — FP8 hesaplamaları ve NVLink 5 ara bağlantısı her boyutta üstün; trilyon parametreli modellerin eğitimi için tek katman.

• Kanıtlanmış altın standart: H100 / H200 (Hopper mimarisi) — en olgun ekosistem ve tedarik zinciri, 7B'den 70B'ye eğitim ve çıkarım için fiyat-performans açısından en iyi seçim.

• Yerli omurga: Ascend 910B / 910C — Xinchuang uyumluluk senaryoları için tek seçenek; çıkarım neredeyse üretime hazır, eğitim tam bir nesil geride.

• Yeni nesil değişkeni: Ascend 950PR (2026 ilk çeyreğinde lansman, çıkarımın prefill aşaması için optimize edilmiş), yerli bilişimin yetişme hızını gösteriyor.

Tablo 1: Yedi önde gelen yapay zeka bilişim çipinin temel özellikleri (yaklaşık değerler; en güncel resmi özellikleri kontrol edin)

Gösterge 1: Eğitim ve çıkarım uygunluğu — önce işinizin ne olduğunu anlayın

Seçimin ilk ilkesi: Ana iş yükünüz eğitim mi yoksa çıkarım mı? Bunlar aynı iş değildir. Eğitim hesaplama açısından yoğundur ve küme iletişimleriyle sınırlıdır — binlerce hatta on binlerce kartlık kümelerde, All-Reduce ek yük maliyetleri toplam sürenin %30–50'sini oluşturabilir; çıkarımın kod çözme aşaması ise bellek bant genişliği açısından yoğundur ve GPU veri beklerken hiçbir hesaplama gücü fayda sağlamaz. Eğitim kartı ölçütlerine göre çıkarım kümesi tasarlamak ya da çıkarım kartı ölçütlerine göre eğitim platformu planlamak — her iki durumda da yüz milyonlarca yuan değerinde yön hatasıdır.

• Eğitim senaryosu: B300'de FP8 performansı H100'ün yaklaşık 2,3 katı olup trilyon parametreli modelin eğitim süresini H100 kümesinin süresinin %40–50'sine indirir; Ascend 910C'de FP16 performansı H100'ün yaklaşık %40'ı olup MFU (bilişim gücünün örnek kullanım oranı) farkı hesaba katıldığında etkin eğitim performansı farkı yaklaşık 4,5 kattır.

• Çıkarım senaryosu: Küçük modeller 7B–13B herhangi bir kartta çalışabilir, bu nedenle fiyat-performans belirleyicidir; yoğun 70B modelin FP16 ağırlıkları yaklaşık 140 gigabayttır — 141 gigabaytlık H200 bunu tek kartta çalıştırır, 288 gigabaytlık B300 çok büyük yığınlara izin verir ve 96 gigabaytlık 910C çok kartlı tensör paralelleştirmesi gerektirir; 671B düzeyindeki MoE ve uzun bağlam +128K senaryolarında, büyük bellekli kartlar rakipleri ezer.

Bu göstergeyi hatırlamak için tek cümle: Eğitim için hesaplama gücü satın alırsınız, çıkarım için bant genişliği.

Gösterge 2: Video belleği kapasitesi ve bant genişliği — kapasite tavanı belirler, bant genişliği tabanı

Video belleği çıkarımın «tahıl ambarı», bant genişliği ise «otoyolu»dur. Büyük modellerin üç eğilimi — parametre büyümesi, bağlam uzaması ve MoE'nin yükselişi — video belleğini baş döndürücü bir hızla tüketiyor. Özellikle uzun bağlam, belleğin yeni kara deliğidir: 128K bağlamın KV önbelleği düzinelerce ek gigabayt yutabilir; yani «ağırlıkların sığması» yalnızca geçme notudur ve «KV önbelleği için rezerv» paralelleştirmeyi belirler.

Bellek kapasitesi farkı doğrudan paraya dönüşür: 405B düzeyindeki bir modeli (FP16 ağırlıkları yaklaşık 810 gigabayt) çalıştırmak için B300 tensör paralelleştirmesinde dört kart gerektirirken, H100 on bir kart gerektirir; fark yalnızca yedi ek kartın fiyatı değil, aynı zamanda eksiksiz bir sunucu, NVLink kabloları ve beş yıllık elektriktir. Bant genişliğinin etkisi daha az belirgindir: kod çözme aşamasında, üretilen her token modelin ağırlıklarının tam okunmasını gerektirir; 70B modelin FP16 ağırlıkları yaklaşık 140 gigabayttır ve H100 bunları 3,35 terabayt/saniye hızla yaklaşık 42 milisaniyede okurken, B300 8 terabayt/saniye ile 17 milisaniyeye sıkıştırır — gecikmeye duyarlı senaryolarda yüksek bant genişlikli kartların rakipleri ezmesinin nedeni budur.

Gösterge 3: Ölçek büyütme (scale-up) ara bağlantısı — bağlanamayan güçlü kart adaya dönüşür

Ölçek büyütme, kaç kartı «varsayımsal olarak tek bir büyük kartta birleştirebileceğinizi» belirler. NVIDIA'nın NVLink 5'i (B300) GPU başına 1,8 terabayt/saniye hız sağlar ve NVSwitch ile tek rafta 72 kartın tam bağlantısını mümkün kılar — trilyon parametreli modelin tensör paralelleştirmesi tek rafta tamamlanır; NVLink 4 (H100/H200) ise 900 gigabayt/saniye hızla son derece olgundur. Ascend 910C'deki HCCS ara bağlantısı yaklaşık 400 gigabayt/saniye, yani NVLink 4'ün %44'üdür; Huawei bunu sistem düzeyinde CloudMatrix süperdüğümünün tam optik ara bağlantısıyla telafi eder.

Kart seçerken aynı anda iki düzeyi değerlendirin: tek düğüm ara bağlantı bant genişliği — raf içi paralelleştirme verimliliğini belirler; ve tedarikçinin süperdüğüm çözümü — raflar arası ölçeklenebilirlik tavanını belirler. Yalnızca birincisine bakan, Ascend'in sistem yeteneğini küçümser; yalnızca ikincisine bakan ise geniş ölçekli işletimin karmaşıklığını küçümser.

Gösterge 4: Küme kullanılabilirliği — en az ilgi gören, en çok etki eden gösterge

Llama 3 405B eğitimi hakkındaki Meta'nın gerçek verileri, her satın alma karar vericisinin üç kez yeniden okumasına değer: 16.384 H100 kartlık küme, 54 gün içinde 466 iş kesintisi yaşadı — ortalama her 3 saatte bir kesinti ve GPU arıza oranı CPU'lardan 120 kat daha yüksek. Hesaplayın: 10.000 kartlık küme teorik olarak yıllık ~87,6 milyon kart-saat bilişime sahiptir; kaybedilen her kullanılabilirlik puanı yaklaşık 870.000 kart-saat etkin gücün boşa gitmesi demektir; ve arızadan kaynaklanan %10 kayıp, milyonlarca dolarlık bilişimin havaya uçması demektir.

Kullanılabilirlik üç şeye bağlıdır: donanım hata toleransı RAS (B300 özel RAS motoru sunar), termal kararlılık (yüksek güçlü kartlar sıvı soğutma gerektirir ve sıvı soğutma arızası tüm rafı durdurur) ve kontrol noktası stratejisi (10.000 kartlık eğitim her 15–30 dakikada bir kaydetme gerektirir, bu da depolama yazma bant genişliğini yeni darboğaz yapar). Tam da bu gösterge, entegre sistem üreticilerinin çip üreticilerinden daha fazla değer yarattığı alandır: güç kaynağı yedekliliği, hava akışı tasarımı, bant dışı yönetim ve yakma testleri — her öğe kullanılabilirliği güvence altına alır.

Gösterge 5: Yazılım geçiş maliyeti — donanım batık maliyettir, yazılım kalıcı maliyettir

CUDA hendeği, kendi başına +10.000 hesaplama operatörü sayısı değil, milyonlarca geliştiricinin on yıl boyunca biriktirdiği hata ayıklama deneyimi, açık kaynak ekosistemi ve anında bulunabilen yanıtlardır — hiçbir donanım özelliğinin dolduramayacağı bir hendek. Karşılaştırma için: ROCm, CUDA'nın yaklaşık yarısı kadar operatöre sahiptir ve Ascend CANN yaklaşık 2.000 operatöre sahip olup yaygın modelleri şimdiden kapsamaktadır.

Pratik kural: Standart modellerin (GPT/Llama/Qwen/DeepSeek) eğitimi ve çıkarımı için üç ekosistem de uygundur; model mimarilerinin sık değiştirildiği ileri araştırmalar için CUDA hâlâ tek seçenektir; ve uyumluluğun yerli platformları dayattığı durumlarda CANN tek seçenektir, ancak bütçede özel operatörler ve geçiş ayarlaması için 1–3 kişi-ay mühendislik çalışması ayırın ve bunu proje planına ve satın alma sözleşmesine kaydedin.

Gösterge 6: Dolar başına token ve watt başına token — ticarileştirmenin son sınavı

Yapay zeka bilişim merkezi ticari işletime girdiği andan itibaren müşteriler yalnızca tek bir şeyi önemser: token başına maliyet ne kadar? Üçüncü taraf ölçümleri, B200/B300'de milyon token başına çıkarım maliyetinin H100'ün yaklaşık 1/5 ila 1/10'u olduğunu gösteriyor — bu avantaj tek kart performansından değil, sistem verimliliğinden geliyor: daha büyük bellek daha büyük yığınları destekler, FP4 hassasiyeti hesaplamaları yarıya indirir ve NVLink 5 iletişim ek yükünü azaltır. Bu, «eskimiş» H100'ün kiralama fiyatının neden düşmeye devam ettiğini açıklıyor: yavaşlamadı — yalnızca dolar başına token denklemi artık tutarlı değil.

Enerji cephesinde, kart başına termal tasarım gücü H100'deki 700 watt'tan B300'de ~1.400 watt'a yükseldi — hava soğutma sınırının ötesinde; B300 satın almak pratikte eksiksiz bir sıvı soğutma altyapısı satın almaktır (soğuk plaka soğutma 1,15'in altında PUE sağlar, başlangıç yatırımı hava soğutmadan %30–50 daha yüksektir). Ancak karşılaştırılması gereken tasarım gücü değil «watt başına token»dır: B300'de watt başına token verimi H100'ün 3 katından fazladır. ~600 watt tasarım gücüne sahip Ascend 910C ise hava soğutmayla çalışır ve belirgin şekilde daha düşük altyapı eşiğine sahiptir — bütçe ve tesis koşulları sınırlı projeler için uygundur.

Senaryoya göre karar matrisi

Tablo 2: Beş tipik senaryo için GPU seçim matrisi

Hata kontrol listesi: Seçimde en yaygın beş hata

• Kümenin toplam sahip olma maliyetini hesaplamadan yalnızca tek kartın fiyatına bakmak — sekiz kartlı sistemde NVSwitch, IB/RoCE ağ kartları ve NVMe önbellek yapılandırması toplam maliyeti ikiye katlayabilir; fiyat teklifini iki düzeyde okumak gerekir: sistem ve küme.

• Bütçeyi tepe performansa göre ayarlamak — sektörde MFU oranı genellikle yalnızca %30–50'dir; satın alma miktarlarını tartışmadan önce etkin performansla yeniden hesaplayın, aksi takdirde küme baştan itibaren iki kat şişirilmiş olur.

• Tesis ön koşullarını göz ardı etmek — B300 projelerinde önce elektrik kapasitesini, zemin taşıma kapasitesini ve sıvı soğutma koşullarını kontrol edin, sonra fiyat pazarlığı yapın; tesis uygun değilse en düşük sözleşme fiyatı bile batık maliyete dönüşür.

• Geçiş çalışmalarını küçümsemek — CUDA'dan CANN'e geçiş ayarlaması maliyetini (en az 1–3 kişi-ay) bütçeye kaydedin ve yerli platformların uygulanması deneyimine sahip entegre sistem ortaklarına öncelik verin.

• Tüm yükler için tek kart modeli kullanmak — eğitim ve çıkarımı farklı seviyelerde satın alın ve büyük ve küçük modelleri ayrı ayrı dağıtın, böylece «B300'de 7B model çalıştırma» gibi israflardan kaçının.

Neden ChangFan Industrial Computing

Şekil 1'deki maliyet yapısına dönelim: çipler yapay zeka bilişim merkezi maliyetinin yalnızca %30–40'ını oluşturur — elektrik, soğutma, ağ ve işletme geri kalanını oluşturur ve tam da orada sistem platformu üreticileri değer yaratır. ChangFan Industrial Computing, yapay zeka bilişim merkezleri ve yapay zeka şirketleri için entegre GPU sunucuları ve altyapı katmanı özelleştirmesi sunar:

• Tüm senaryolar için sistem platformları: çıkarım iş istasyonlarından sekiz kartlı GPU sunucularına kadar, NVIDIA platformları ve yerli bilişim platformları için talep üzerine yapılandırma ve CPU/GPU oranı, NVMe önbellek ve yüksek hızlı ağın kapsamlı ayarlamasıyla.

• Yüksek güçler için termal ve elektrik tasarımı: Kart başına 1.000 watt'ı aşan tüketim için şasi hava akışı optimizasyonu, yedekli güç kaynakları ve sıvı soğutmaya hazır yapılar sunuyoruz; böylece güçlü GPU'lar uzun süre tam güçle çalışır.

• Endüstriyel güvenilirlik genleri: Tüm ürün yelpazesi 7×24 tasarım standartlarına bağlıdır; yedekli güç kaynağı modülleri, bant dışı yönetim (IPMI/BMC) ve tam yakma ve yükleme testleriyle — doğrudan küme kullanılabilirliğinin gizli maliyetlerini hedefler.

• Derin OEM/ODM yetenekleri: Kasa yapısı, serigrafi baskı, BIOS/BMC, bağlantı noktası düzeni, önceden yüklenmiş sürücüler ve çıkarım ortamı imajları — hepsi özelleştirilebilir ve entegratörlerin kendi markalı yapay zeka sistemlerini hızla teslim etmelerine yardımcı olur.

• Tam sertifikasyon ve küresel teslimat: Ürünler 3C, CE, FCC, RoHS ve diğer standartlara göre sertifikalıdır; veri sayfaları ve test raporları Çince ve İngilizce olarak mevcuttur; küresel lojistik ve yurt dışı proje teslimatı desteğiyle.

İster bin kartlık eğitim kümesi planlıyor olun ister kurumsal çıkarım platformu kuruyor olun, ChangFan Industrial Computing uygun sistem donanımı ve profesyonel seçim desteği sunar. Numune testi ve fiyat teklifi için ChangFan Industrial Computing satış mühendisleriyle iletişime geçin.

Sıkça Sorulan Sorular (SSS)

S: 2026'da H100 almak hâlâ mantıklı mı? C: Evet. Olgun tedarik zinciri ve sıfır ekosistem geçiş maliyeti sayesinde H100, 7B'den 70B'ye eğitim ve çıkarım için hâlâ fiyat açısından en uygun seçimdir; ancak yeterli bütçeli ileri eğitim için B300 uzun vadede daha iyi yatırımdır.

S: B300 için sıvı soğutma zorunlu mu? C: Evet. Kart başına ~1.400 watt tasarım gücüyle B300 hava soğutma sınırının ötesindedir ve soğuk plaka sıvı soğutma standarttır; B300 dağıtımı elektrik, soğutma ve tesis taşıma kapasitesinin kapsamlı planlamasını gerektirir.

S: Ascend 910C, H100'ün yerini alabilir mi? C: Çıkarım senaryolarında (7B–13B modeller) neredeyse tam bir alternatiftir; etkin verimlilik H100'ün yaklaşık %70–82'sine eşittir; eğitimde etkin performans farkı yaklaşık 4,5 kattır, ancak Xinchuang uyumluluk kısıtlamalarında tek bağımsız ve kontrol edilebilir seçenektir.

S: Ascend 950PR ne zaman piyasaya çıkıyor? C: Huawei'nin yayımladığı yol haritasına göre 950PR, 2026 ilk çeyreğinde çıkarım prefill senaryoları optimizasyonuyla piyasaya çıkıyor ve 950DT 2026 dördüncü çeyreğinde; kesin özellikler ve teslimatlar Huawei'nin resmi duyurularına göre teyit edilecektir.

S: 70B model çıkarımı için gereken minimum yapılandırma nedir? C: FP16 ağırlıkları yaklaşık 140 gigabayt: tek H100 kartı (141 gigabayt) yeterlidir; büyük paralel yığınlar için B300 (288 gigabayt) seçin; sınırlı bütçeyle çoklu H100 tensör paralelleştirmesi uygundur.

S: Özel yapay zeka bilişim merkezi mi kurmalıyım yoksa bulut bilişim gücü mü kiralamalıyım? C: Her şey kullanım oranına bağlıdır: istikrarlı yük ve %60–70'in üzerinde yıllık kullanımla, özel sistemler kümesi genellikle uzun vadeli bulut kiralamasına karşı toplam sahip olma maliyetinde üstün gelir; dalgalı yük veya doğrulama aşamasında ise önce kiralayıp sonra kurmak daha temkinlidir.

S: ChangFan Industrial Computing'in GPU sunucuları sıvı soğutma özelleştirmesini destekliyor mu? C: Evet. ChangFan Industrial Computing, sıvı soğutmaya hazır yapılar, hava akışı optimizasyonu ve yedekli güç kaynaklarının yanı sıra şasiden BIOS'a ve önceden yüklenmiş ortamlara kadar tam OEM/ODM döngüsü sunar.