6 Chỉ số then chốt khi lựa chọn GPU cho các trung tâm điện toán AI: So sánh chuyên sâu giữa H100/H200/B200/B300 và Ascend 910B/910C/950PR | Changfan Industrial Control

Mở đầu: Chọn thẻ quyết định tất cả, nhưng «thẻ» không phải là chip

Năm 2026, ngưỡng đầu tư vào trung tâm điện toán AI đã chuyển từ «có được thẻ» sang «chọn đúng thẻ»: một cụm có giá hàng trăm triệu nhân dân tệ, và sai lầm chọn thẻ đồng nghĩa với chu kỳ huấn luyện gấp đôi, chi phí suy luận vượt tầm kiểm soát và một lộ trình kỹ thuật lỗi thời trong ba năm. Hầu hết các sai lầm chọn thẻ đều bắt nguồn từ cùng một hành động — dùng bảng thông số làm căn cứ quyết định.

Bảng thông số sẽ không cho bạn biết rằng cụm 10.000 GPU bị gián đoạn huấn luyện trung bình mỗi 3 giờ; rằng hiệu năng thẻ đơn cao hơn 2,3 lần chỉ giảm thời gian huấn luyện xuống một nửa; rằng B300 với công suất thiết kế nhiệt 1.400 watt trong phòng máy làm mát bằng khí chỉ là một vật trang trí đắt tiền; hoặc rằng việc chuyển từ CUDA sang CANN có thể nuốt trọn biên lợi nhuận của dự án. Bài viết này vượt ra ngoài việc liệt kê tham số, so sánh toàn diện NVIDIA H100/H200/B200/B300 và Ascend 910B/910C/950PR qua sáu chỉ số cốt lõi quyết định ROI của trung tâm điện toán AI, đồng thời cung cấp ma trận quyết định theo kịch bản sẵn dùng và danh sách kiểm tra lỗi.

Kết luận trước: Năm phán đoán phản trực giác

• Bản chất của việc chọn thẻ là chọn mô hình kinh doanh, không phải chọn sức mạnh tính toán. Đơn vị chi phí của kinh doanh huấn luyện là «thời gian và điện năng để huấn luyện một mô hình lớn»; đơn vị chi phí của kinh doanh suy luận là «trên mỗi triệu token». Trước tiên hãy hiểu bạn kiếm tiền từ đâu, rồi mới bàn chuyện mua thẻ nào.

• Dung lượng bộ nhớ video quyết định mô hình có chạy được không, băng thông quyết định tốc độ, và kết nối liên kết quyết định quy mô. Các giá trị TFLOPS trên bảng thông số chỉ có giá trị khi bạn bão hòa được chúng — trên thực tế, nhiều GPU hoạt động với tỷ lệ sử dụng hiệu quả (MFU) dưới một nửa.

• Chip chỉ chiếm 30–40% tổng chi phí. Điện, làm mát bằng chất lỏng, mạng và năm năm vận hành chiếm 60% còn lại — chọn thẻ về bản chất là chọn một hạ tầng hoàn chỉnh.

• Mua B300 đồng nghĩa với mua phòng máy làm mát bằng chất lỏng. Với ~1.400 watt mỗi thẻ, nó vượt qua giới hạn làm mát bằng khí; nếu điện và làm mát của cơ sở không đạt yêu cầu, thẻ mạnh nhất cũng sẽ chạy với tình trạng bóp xung nhiệt.

• Không có thẻ nào tuyệt đối tốt nhất — chỉ có thẻ phù hợp nhất với khối lượng công việc của bạn. H100 chưa hề lỗi thời, Ascend 910C không thể thiếu trong các kịch bản tuân thủ Xinchuang, và 950PR báo hiệu bước tiếp theo của điện toán nội địa — câu trả lời luôn phụ thuộc vào hồ sơ khối lượng công việc của bạn.

Bảy con chip, bốn vị thế trên thị trường

Trước khi đi vào các chỉ số, hãy thiết lập nhận thức nền tảng: bảy con chip này không nằm trong quan hệ tuyến tính «nhanh hơn hay chậm hơn» — chúng chiếm bốn vị thế thị trường hoàn toàn khác nhau:

• Ngai vàng huấn luyện: B200 / B300 (kiến trúc Blackwell) — tính toán FP8 và kết nối NVLink 5 vượt trội toàn diện; tầng duy nhất để huấn luyện mô hình nghìn tỷ tham số.

• Chuẩn vàng đã kiểm chứng: H100 / H200 (kiến trúc Hopper) — hệ sinh thái và chuỗi cung ứng trưởng thành nhất, lựa chọn giá trị cho huấn luyện và suy luận từ 7B đến 70B.

• Xương sống nội địa: Ascend 910B / 910C — lựa chọn duy nhất cho các kịch bản tuân thủ Xinchuang; suy luận gần như sẵn sàng sản xuất, huấn luyện chậm trọn một thế hệ.

• Biến số thế hệ tiếp theo: Ascend 950PR (ra mắt quý 1 năm 2026, tối ưu cho giai đoạn prefill trong suy luận), cho thấy tốc độ bắt kịp của điện toán nội địa.

Bảng 1: Thông số cốt lõi của bảy chip điện toán AI hàng đầu (giá trị gần đúng; kiểm tra thông số chính thức mới nhất)

Chỉ số 1: Độ phù hợp huấn luyện và suy luận — trước tiên hãy hiểu việc kinh doanh của bạn

Nguyên tắc đầu tiên khi chọn thẻ: khối lượng công việc chính của bạn là huấn luyện hay suy luận? Đó không phải cùng một việc. Huấn luyện cần nhiều tính toán và bị giới hạn bởi truyền thông cụm — trong các cụm hàng nghìn đến hàng chục nghìn thẻ, chi phí tổng quát All-Reduce có thể chiếm 30–50% tổng thời gian; trong khi giai đoạn giải mã của suy luận cần nhiều băng thông bộ nhớ, và khi GPU đang chờ dữ liệu thì không có sức mạnh tính toán nào giúp ích được. Thiết kế cụm suy luận theo tiêu chí thẻ huấn luyện, hoặc lên kế hoạch nền tảng huấn luyện theo tiêu chí thẻ suy luận — trong cả hai trường hợp đều là sai lầm định hướng trị giá hàng trăm triệu nhân dân tệ.

• Kịch bản huấn luyện: hiệu năng FP8 của B300 cao hơn khoảng 2,3 lần so với H100, giảm thời gian huấn luyện mô hình nghìn tỷ tham số xuống 40–50% thời gian của cụm H100; hiệu năng FP16 của Ascend 910C tương đương khoảng 40% H100, và tính cả khoảng cách MFU (tỷ lệ sử dụng mẫu sức mạnh tính toán), khoảng cách hiệu năng huấn luyện hiệu quả khoảng 4,5 lần.

• Kịch bản suy luận: các mô hình nhỏ 7B–13B có thể chạy trên bất kỳ thẻ nào, nên giá/hiệu năng quyết định; mô hình dày đặc 70B có trọng số FP16 khoảng 140 gigabyte — H200 với 141 gigabyte chạy nó trên một thẻ, B300 với 288 gigabyte cho phép lô rất lớn, và 910C với 96 gigabyte đòi hỏi song song tensor đa thẻ; trong các kịch bản MoE mức 671B và ngữ cảnh dài +128K, thẻ bộ nhớ lớn nghiền nát đối thủ.

Một câu để ghi nhớ chỉ số này: huấn luyện thì mua sức mạnh tính toán, suy luận thì mua băng thông.

Chỉ số 2: Dung lượng bộ nhớ video và băng thông — dung lượng quyết định trần, băng thông quyết định nền

Bộ nhớ video là «kho lương» của suy luận, băng thông là «đường cao tốc». Ba xu hướng của mô hình lớn — tăng trưởng tham số, kéo dài ngữ cảnh và sự trỗi dậy của MoE — đang nuốt bộ nhớ video với tốc độ chóng mặt. Đặc biệt ngữ cảnh dài là lỗ đen mới của bộ nhớ: bộ nhớ đệm KV của ngữ cảnh 128K có thể ngốn thêm hàng chục gigabyte, nghĩa là «vừa trọng số» chỉ là điểm đỗ, và «dự trữ cho bộ nhớ đệm KV» mới quyết định song song hóa.

Khoảng cách dung lượng bộ nhớ trực tiếp chuyển thành tiền: để chạy mô hình mức 405B (trọng số FP16 khoảng 810 gigabyte), B300 cần bốn thẻ song song tensor, trong khi H100 cần mười một thẻ; sự khác biệt không chỉ là giá bảy thẻ thêm, mà còn là một máy chủ hoàn chỉnh, cáp NVLink và năm năm tiền điện. Tác động của băng thông ít rõ ràng hơn: trong giai đoạn giải mã, mỗi token được tạo ra đòi hỏi đọc toàn bộ trọng số mô hình; trọng số FP16 của mô hình 70B khoảng 140 gigabyte, H100 đọc với tốc độ 3,35 terabyte/giây trong khoảng 42 mili giây, trong khi B300 nén xuống 17 mili giây với 8 terabyte/giây — đó là lý do thẻ băng thông cao nghiền nát đối thủ trong các kịch bản nhạy cảm với độ trễ.

Chỉ số 3: Kết nối liên kết mở rộng theo chiều dọc (scale-up) — thẻ mạnh mà không kết nối được sẽ trở thành hòn đảo

Scale-up quyết định bạn có thể «giả định hợp nhất bao nhiêu thẻ thành một thẻ lớn». NVLink 5 của NVIDIA (B300) cung cấp 1,8 terabyte/giây mỗi GPU, và với NVSwitch cho phép kết nối toàn phần 72 thẻ trong một giá đỡ — song song tensor của mô hình nghìn tỷ tham số hoàn tất trong một giá đỡ; NVLink 4 (H100/H200) với 900 gigabyte/giây cực kỳ trưởng thành. Kết nối HCCS của Ascend 910C khoảng 400 gigabyte/giây, tức 44% của NVLink 4; Huawei bù đắp điều này ở cấp hệ thống bằng kết nối quang toàn phần của siêu nút CloudMatrix.

Khi chọn thẻ, hãy đánh giá đồng thời hai cấp độ: băng thông kết nối nút đơn, quyết định hiệu quả song song trong giá đỡ; và giải pháp siêu nút của nhà cung cấp, quyết định trần mở rộng giữa các giá đỡ. Ai chỉ nhìn cái thứ nhất sẽ đánh giá thấp năng lực hệ thống của Ascend; ai chỉ nhìn cái thứ hai sẽ đánh giá thấp độ phức tạp vận hành quy mô lớn.

Chỉ số 4: Độ sẵn sàng của cụm — chỉ số ít được quan tâm nhất nhưng ảnh hưởng lớn nhất

Dữ liệu thực tế của Meta về huấn luyện Llama 3 405B đáng để mọi người ra quyết định mua sắm đọc lại ba lần: cụm 16.384 thẻ H100 chứng kiến 466 lần gián đoạn tác vụ trong 54 ngày — trung bình một lần gián đoạn mỗi 3 giờ, và tỷ lệ lỗi GPU cao hơn CPU 120 lần. Hãy tính: cụm 10.000 thẻ về lý thuyết có ~87,6 triệu giờ-thẻ điện toán mỗi năm; mỗi điểm độ sẵn sàng bị mất nghĩa là khoảng 870.000 giờ-thẻ sức mạnh hiệu quả bị lãng phí; và 10% tổn thất do lỗi nghĩa là hàng triệu đô la điện toán bay hơi vào không khí.

Độ sẵn sàng phụ thuộc vào ba thứ: khả năng chịu lỗi phần cứng RAS (B300 cung cấp động cơ RAS chuyên dụng), độ ổn định nhiệt (thẻ công suất cao cần làm mát bằng chất lỏng, và lỗi làm mát chất lỏng làm dừng cả giá đỡ), và chiến lược điểm kiểm tra (huấn luyện 10.000 thẻ đòi hỏi lưu mỗi 15–30 phút, khiến băng thông ghi lưu trữ trở thành nút thắt mới). Chính chỉ số này là lĩnh vực mà các nhà sản xuất hệ thống tích hợp tạo ra giá trị lớn hơn các nhà sản xuất chip: dự phòng nguồn điện, thiết kế luồng khí, quản lý ngoài băng tần và kiểm tra chạy rà — mỗi yếu tố đều đảm bảo độ sẵn sàng.

Chỉ số 5: Chi phí chuyển đổi phần mềm — phần cứng là chi phí chìm, phần mềm là chi phí thường trực

Hào sâu của CUDA không phải con số +10.000 toán tử tính toán, mà là kinh nghiệm gỡ lỗi, hệ sinh thái mã nguồn mở và những câu trả lời tìm được ngay lập tức mà hàng triệu nhà phát triển đã tích lũy trong một thập kỷ — hào sâu mà không thông số phần cứng nào lấp đầy được. Để so sánh: ROCm có khoảng một nửa toán tử của CUDA, và Ascend CANN có khoảng 2.000 toán tử, đã bao phủ các mô hình phổ biến.

Quy tắc thực tiễn: để huấn luyện và suy luận các mô hình chuẩn (GPT/Llama/Qwen/DeepSeek), cả ba hệ sinh thái đều phù hợp; cho nghiên cứu tiên tiến với thay đổi kiến trúc mô hình thường xuyên, CUDA vẫn là lựa chọn duy nhất; và khi tuân thủ bắt buộc nền tảng nội địa, CANN là lựa chọn duy nhất, nhưng hãy dành trong ngân sách 1–3 người-tháng công việc kỹ thuật cho toán tử tùy chỉnh và tinh chỉnh chuyển đổi, và ghi vào kế hoạch dự án cùng hợp đồng mua sắm.

Chỉ số 6: Token trên mỗi đô la và token trên mỗi watt — bài kiểm tra cuối cùng của thương mại hóa

Ngay khi trung tâm điện toán AI bước vào vận hành thương mại, khách hàng chỉ quan tâm một điều: chi phí mỗi token là bao nhiêu. Các phép đo của bên thứ ba cho thấy chi phí suy luận mỗi triệu token trên B200/B300 tương đương khoảng 1/5 đến 1/10 của H100 — lợi thế không đến từ hiệu năng thẻ đơn, mà từ hiệu quả hệ thống: bộ nhớ lớn hơn hỗ trợ lô lớn hơn, độ chính xác FP4 giảm một nửa tính toán, và NVLink 5 giảm chi phí truyền thông tổng quát. Điều này giải thích tại sao giá thuê H100 «lỗi thời» tiếp tục giảm: nó không chậm hơn — chỉ là phương trình token trên đô la của nó không còn nhất quán.

Về mặt năng lượng, công suất thiết kế nhiệt mỗi thẻ đã tăng từ 700 watt ở H100 lên ~1.400 watt ở B300 — vượt giới hạn làm mát bằng khí; mua B300 thực chất là mua toàn bộ hạ tầng làm mát bằng chất lỏng (làm mát tấm lạnh cho phép PUE dưới 1,15, đầu tư ban đầu cao hơn 30–50% so với làm mát bằng khí). Nhưng điều cần so sánh là «token trên watt» chứ không phải công suất thiết kế: sản lượng token trên watt của B300 cao hơn H100 hơn 3 lần. Trong khi đó, Ascend 910C với công suất thiết kế khoảng 600 watt chạy bằng làm mát khí, ngưỡng hạ tầng thấp hơn rõ rệt — phù hợp với các dự án có ngân sách và điều kiện cơ sở hạn chế.

Ma trận quyết định theo kịch bản

Bảng 2: Ma trận chọn GPU cho năm kịch bản điển hình

Danh sách kiểm tra lỗi: Năm sai lầm phổ biến nhất khi chọn thẻ

• Chỉ nhìn giá một thẻ mà không tính tổng chi phí sở hữu của cụm — NVSwitch, card mạng IB/RoCE và cấu hình bộ nhớ đệm NVMe trong hệ thống tám thẻ có thể nhân đôi tổng chi phí; báo giá phải được đọc ở hai cấp độ: hệ thống và cụm.

• Lập ngân sách theo hiệu năng đỉnh — tỷ lệ MFU trong ngành thường chỉ 30–50%; hãy tính lại bằng hiệu năng hiệu quả trước khi bàn số lượng mua, nếu không cụm sẽ phình to gấp đôi ngay từ đầu.

• Bỏ qua điều kiện tiên quyết của cơ sở — trong các dự án B300, trước tiên kiểm tra công suất điện, khả năng chịu tải sàn và điều kiện làm mát chất lỏng, rồi mới đàm phán giá; nếu cơ sở không phù hợp, giá hợp đồng thấp nhất cũng sẽ thành chi phí chìm.

• Đánh giá thấp công việc chuyển đổi — ghi vào ngân sách chi phí tinh chỉnh chuyển đổi từ CUDA sang CANN (tối thiểu 1–3 người-tháng) và ưu tiên các đối tác hệ thống tích hợp có kinh nghiệm triển khai nền tảng nội địa.

• Dùng một mẫu thẻ duy nhất cho mọi tải — mua huấn luyện và suy luận ở các cấp độ khác nhau và triển khai mô hình lớn và nhỏ riêng biệt, tránh lãng phí kiểu «chạy mô hình 7B trên B300».

Tại sao chọn ChangFan Industrial Computing

Hãy quay lại cấu trúc chi phí trong Hình 1: chip chỉ chiếm 30–40% chi phí trung tâm điện toán AI — điện, làm mát, mạng và vận hành chiếm phần còn lại, và chính ở đó các nhà sản xuất nền tảng hệ thống tạo ra giá trị. ChangFan Industrial Computing cung cấp cho các trung tâm điện toán AI và công ty AI máy chủ GPU tích hợp và tùy chỉnh tầng hạ tầng:

• Nền tảng hệ thống cho mọi kịch bản: từ trạm làm việc suy luận đến máy chủ GPU tám thẻ, với cấu hình theo yêu cầu cho nền tảng NVIDIA và nền tảng điện toán nội địa, và tinh chỉnh toàn diện tỷ lệ CPU/GPU, bộ nhớ đệm NVMe và mạng tốc độ cao.

• Thiết kế nhiệt và điện cho công suất cao: cho mức tiêu thụ trên 1.000 watt mỗi thẻ, chúng tôi cung cấp tối ưu luồng khí vỏ máy, nguồn điện dự phòng và cấu trúc sẵn sàng làm mát chất lỏng, để GPU mạnh mẽ chạy hết công suất trong thời gian dài.

• Gen độ tin cậy công nghiệp: toàn bộ dòng sản phẩm tuân thủ tiêu chuẩn thiết kế 7×24, với mô-đun nguồn dự phòng, quản lý ngoài băng tần (IPMI/BMC) và kiểm tra chạy rà và tải đầy đủ — nhắm trực tiếp vào chi phí ẩn của độ sẵn sàng cụm.

• Năng lực OEM/ODM sâu: cấu trúc vỏ hộp, in lụa, BIOS/BMC, bố trí cổng, trình điều khiển cài sẵn và ảnh môi trường suy luận — tất cả đều có thể tùy chỉnh, giúp các nhà tích hợp nhanh chóng cung cấp hệ thống AI mang thương hiệu riêng.

• Chứng nhận đầy đủ và giao hàng toàn cầu: sản phẩm được chứng nhận theo 3C, CE, FCC, RoHS và các tiêu chuẩn khác, biểu dữ liệu và báo cáo kiểm tra có sẵn bằng tiếng Trung và tiếng Anh, hỗ trợ logistics toàn cầu và giao hàng dự án nước ngoài.

Dù bạn đang lên kế hoạch cụm huấn luyện nghìn thẻ hay xây dựng nền tảng suy luận doanh nghiệp, ChangFan Industrial Computing cung cấp phần cứng hệ thống phù hợp và hỗ trợ chọn lựa chuyên nghiệp. Liên hệ kỹ sư bán hàng ChangFan Industrial Computing để kiểm tra mẫu và nhận báo giá.

Câu hỏi thường gặp (FAQ)

Hỏi: Năm 2026 mua H100 còn đáng không? Đáp: Có. Nhờ chuỗi cung ứng trưởng thành và chi phí chuyển đổi hệ sinh thái bằng không, H100 vẫn là lựa chọn tối ưu về giá cho huấn luyện và suy luận từ 7B đến 70B; nhưng với huấn luyện tiên tiến có ngân sách đủ, B300 là khoản đầu tư dài hạn tốt hơn.

Hỏi: B300 có bắt buộc làm mát bằng chất lỏng không? Đáp: Có. Với công suất thiết kế ~1.400 watt mỗi thẻ, B300 vượt giới hạn làm mát khí, và làm mát chất lỏng tấm lạnh là tiêu chuẩn; triển khai B300 đòi hỏi lập kế hoạch toàn diện về điện, làm mát và khả năng chịu tải của cơ sở.

Hỏi: Ascend 910C có thể thay thế H100 không? Đáp: Trong các kịch bản suy luận (mô hình 7B–13B) nó là giải pháp thay thế gần như hoàn chỉnh, hiệu quả thực tế tương đương khoảng 70–82% H100; trong huấn luyện, khoảng cách hiệu năng hiệu quả khoảng 4,5 lần, nhưng dưới ràng buộc tuân thủ Xinchuang, nó là lựa chọn độc lập và kiểm soát được duy nhất.

Hỏi: Ascend 950PR khi nào ra mắt? Đáp: Theo lộ trình Huawei công bố, 950PR ra mắt quý 1 năm 2026 với tối ưu cho kịch bản prefill trong suy luận, và 950DT vào quý 4 năm 2026; thông số và giao hàng cụ thể xác nhận theo thông báo chính thức của Huawei.

Hỏi: Cấu hình tối thiểu cần thiết cho suy luận mô hình 70B là gì? Đáp: Trọng số FP16 khoảng 140 gigabyte: một thẻ H200 (141 gigabyte) là đủ; cho lô song song lớn chọn B300 (288 gigabyte); và với ngân sách hạn chế, song song tensor nhiều H100 là phù hợp.

Hỏi: Nên xây trung tâm điện toán AI riêng hay thuê sức mạnh điện toán đám mây? Đáp: Tất cả quy về tỷ lệ sử dụng: với tải ổn định và mức sử dụng hàng năm trên 60–70%, cụm hệ thống riêng thường vượt trội thuê đám mây dài hạn về tổng chi phí sở hữu; với tải biến động hoặc giai đoạn xác thực, thận trọng là thuê trước rồi mới xây.

Hỏi: Máy chủ GPU của ChangFan Industrial Computing có hỗ trợ tùy chỉnh làm mát chất lỏng không? Đáp: Có. ChangFan Industrial Computing cung cấp cấu trúc sẵn sàng làm mát chất lỏng, tối ưu luồng khí và nguồn điện dự phòng, cùng chu trình OEM/ODM hoàn chỉnh từ vỏ máy đến BIOS và môi trường cài sẵn.