máy chủ NVIDIA DGX B200

Nền tảng AI Factory mạnh mẽ cho doanh nghiệp trong kỷ nguyên AI Generative và AI Reasoning

NVIDIA DGX B200 là hệ thống AI Supercomputer thế hệ mới được xây dựng trên kiến trúc NVIDIA Blackwell, mang đến bước nhảy vọt về hiệu năng huấn luyện và suy luận AI cho doanh nghiệp, tổ chức nghiên cứu và các trung tâm dữ liệu hiện đại. Được trang bị 8 GPU NVIDIA Blackwell Tensor Core cùng bộ nhớ HBM3e dung lượng cực lớn, DGX B200 được thiết kế để xử lý các mô hình AI thế hệ mới, từ Large Language Models (LLM), AI Agents, Generative AI đến các ứng dụng điện toán hiệu năng cao (HPC).

Là nền tảng cốt lõi của NVIDIA DGX BasePOD và DGX SuperPOD, DGX B200 cung cấp môi trường AI hoàn chỉnh từ phát triển, huấn luyện, tinh chỉnh đến triển khai mô hình AI trong thực tế. Hệ thống tích hợp phần cứng, phần mềm và công cụ quản lý AI tiên tiến giúp doanh nghiệp rút ngắn thời gian triển khai, tăng hiệu quả vận hành và tối ưu chi phí đầu tư hạ tầng AI.

---

Điểm nổi bật của NVIDIA DGX B200

Sức mạnh AI vượt trội từ kiến trúc Blackwell

DGX B200 được trang bị 8 GPU NVIDIA Blackwell thế hệ mới, mang lại hiệu năng huấn luyện cao hơn tới 3 lần và hiệu năng suy luận cao hơn tới 15 lần so với các thế hệ DGX trước. Đây là nền tảng được NVIDIA thiết kế dành riêng cho các mô hình AI quy mô lớn và các tác vụ AI yêu cầu khối lượng tính toán khổng lồ.

Bộ nhớ GPU dung lượng cực lớn

Hệ thống sở hữu tổng cộng 1.440GB bộ nhớ HBM3e với băng thông lên tới 64TB/s, cho phép xử lý các mô hình ngôn ngữ lớn có hàng trăm tỷ tham số mà không cần phân chia mô hình phức tạp. Điều này giúp tăng tốc đáng kể quá trình huấn luyện và suy luận AI.

Kết nối NVLink thế hệ thứ 5

DGX B200 sử dụng kiến trúc NVLink Gen 5 cùng 2 NVSwitch, cung cấp băng thông tổng hợp lên tới 14.4TB/s giữa các GPU. Toàn bộ 8 GPU hoạt động như một hệ thống thống nhất, giảm độ trễ truyền dữ liệu và tối đa hóa hiệu suất xử lý AI.

Hạ tầng mạng AI tốc độ cao

Hệ thống được tích hợp 8 kết nối NVIDIA ConnectX-7 tốc độ lên tới 400Gb/s InfiniBand hoặc Ethernet, kết hợp với 2 NVIDIA BlueField-3 DPU nhằm tối ưu hiệu năng truyền dữ liệu, lưu trữ và mở rộng cụm AI quy mô lớn.

AI Factory hoàn chỉnh

DGX B200 không chỉ là một máy chủ GPU mà còn là một nền tảng AI hoàn chỉnh với NVIDIA AI Enterprise, NVIDIA Mission Control và DGX OS. Doanh nghiệp có thể xây dựng và vận hành AI Factory hiện đại với khả năng quản lý tập trung, điều phối tài nguyên và triển khai AI ở quy mô doanh nghiệp.

Thông số kỹ thuật NVIDIA DGX B200

 

Thành phần	Thông số
Model	NVIDIA DGX B200
Form Factor	10U Rackmount
GPU	8 × NVIDIA Blackwell Tensor Core GPU
Tổng bộ nhớ GPU	1.440 GB HBM3e
Băng thông bộ nhớ GPU	64 TB/s
Hiệu năng FP4 Tensor Core	144 PFLOPS
Hiệu năng FP8 Tensor Core	72 PFLOPS
NVSwitch	2 × NVIDIA NVSwitch
Băng thông NVLink	14.4 TB/s
CPU	2 × Intel Xeon Platinum 8570
Tổng số nhân CPU	112 Cores
Xung nhịp CPU	2.1 GHz Base / 4.0 GHz Turbo
RAM hệ thống	2 TB DDR5
Khả năng mở rộng RAM	Tối đa 4 TB
Ổ đĩa hệ điều hành	2 × 1.9 TB NVMe M.2
Ổ đĩa dữ liệu	8 × 3.84 TB NVMe U.2
Tổng dung lượng lưu trữ	34.5 TB NVMe
Kết nối mạng Cluster	8 × NVIDIA ConnectX-7
Tốc độ mạng	400 Gb/s InfiniBand / Ethernet
DPU	2 × NVIDIA BlueField-3
Kết nối DPU	400 Gb/s
Mạng quản trị	10GbE RJ45 + 100GbE Ethernet
Hệ điều hành	NVIDIA DGX OS / Ubuntu
Phần mềm AI	NVIDIA AI Enterprise
Điều phối AI	NVIDIA Mission Control
Công suất tối đa	Khoảng 14.3 kW
Kích thước	444 × 482.2 × 897.1 mm
Rack Size	10U
Nhiệt độ hoạt động	10°C – 35°C
Bảo hành	3 năm Enterprise Support