Máy chủ VIDIA DGX B300

Nền tảng AI Factory thế hệ mới dành cho AI Reasoning và Generative AI

NVIDIA DGX B300 là hệ thống AI Supercomputer thế hệ mới được NVIDIA phát triển trên kiến trúc Blackwell Ultra, mang đến sức mạnh tính toán vượt trội cho các tác vụ huấn luyện và suy luận AI quy mô lớn. Được trang bị 8 GPU NVIDIA Blackwell Ultra B300 Tensor Core cùng bộ nhớ GPU lên tới 2.3TB HBM3e, DGX B300 được thiết kế để trở thành nền tảng cốt lõi cho các AI Factory hiện đại, hỗ trợ triển khai Generative AI, Large Language Models (LLM), AI Agent, RAG, AI Reasoning và điện toán hiệu năng cao (HPC).

So với thế hệ DGX B200 trước đó, DGX B300 mang lại hiệu năng FP4 cao hơn 1.5 lần và hiệu năng xử lý Attention gấp 2 lần, đáp ứng nhu cầu ngày càng tăng của các mô hình AI thế hệ mới như DeepSeek, Llama, Qwen, GPT và các hệ thống AI Agent doanh nghiệp.

---

Điểm nổi bật của NVIDIA DGX B300

Hiệu năng AI mạnh mẽ cho kỷ nguyên AI Reasoning

DGX B300 cung cấp hiệu năng lên đến 144 PFLOPS FP4 Inference và 72 PFLOPS FP8 Training, giúp rút ngắn đáng kể thời gian huấn luyện mô hình AI cũng như tăng tốc xử lý suy luận thời gian thực. Đây là nền tảng được thiết kế tối ưu cho các tác vụ AI hiện đại yêu cầu lượng tính toán cực lớn.

Bộ nhớ GPU khổng lồ

Hệ thống tích hợp 8 GPU Blackwell Ultra B300 với tổng dung lượng bộ nhớ HBM3e đạt 2.3TB, cho phép xử lý các mô hình ngôn ngữ lớn có hàng trăm tỷ tham số mà không cần chia nhỏ mô hình hoặc phân tán dữ liệu phức tạp.

Hệ thống NVLink thế hệ thứ 5

DGX B300 sử dụng kiến trúc NVLink thế hệ mới với băng thông tổng hợp lên đến 14.4TB/s giữa các GPU, giúp toàn bộ cụm 8 GPU hoạt động như một bộ xử lý thống nhất, giảm độ trễ và tăng hiệu quả truyền dữ liệu.

Hạ tầng mạng AI tốc độ 800Gb/s

Hệ thống được trang bị 8 card mạng NVIDIA ConnectX-8 hỗ trợ InfiniBand hoặc Ethernet tốc độ lên đến 800Gb/s. Đồng thời tích hợp 2 BlueField-3 DPU 400Gb/s cho mạng quản trị và lưu trữ, giúp xây dựng các cụm AI quy mô lớn với khả năng mở rộng linh hoạt.

Thiết kế dành cho Data Center hiện đại

DGX B300 là thế hệ DGX đầu tiên tương thích hoàn toàn với NVIDIA MGX Rack Architecture và các rack tiêu chuẩn EIA truyền thống. Hệ thống hỗ trợ cả nguồn AC và DC Busbar, đáp ứng yêu cầu triển khai trong các trung tâm dữ liệu AI mật độ cao.

Nền tảng phần mềm AI hoàn chỉnh

Đi kèm hệ thống là NVIDIA AI Enterprise, NVIDIA Mission Control và DGX OS, cung cấp đầy đủ công cụ quản lý, điều phối tài nguyên GPU, vận hành AI Factory và triển khai AI trên quy mô doanh nghiệp.

hông số kỹ thuật NVIDIA DGX B300

 

Thành phần	Thông số
Model	NVIDIA DGX B300
Form Factor	10U Rackmount
GPU	8 × NVIDIA Blackwell Ultra B300 Tensor Core
Tổng bộ nhớ GPU	2.3 TB HBM3e
Bộ nhớ mỗi GPU	288 GB HBM3e
Hiệu năng FP4 Inference	144 PFLOPS
Hiệu năng FP8 Training	72 PFLOPS
NVLink Switch System	2 × NVIDIA NVLink Switch Gen 5
Băng thông NVLink	14.4 TB/s
CPU	2 × Intel Xeon 6776P
RAM hệ thống	2 TB DDR5 (mở rộng đến 4 TB)
Ổ đĩa hệ điều hành	2 × 1.92 TB NVMe M.2
Ổ đĩa Cache/Data	8 × 3.84 TB NVMe E1.S
Tổng dung lượng lưu trữ	34.56 TB NVMe
Mạng AI Cluster	8 × NVIDIA ConnectX-8
Tốc độ mạng Cluster	800 Gb/s InfiniBand/Ethernet
DPU	2 × NVIDIA BlueField-3
Tốc độ DPU	400 Gb/s
Cổng quản trị	1GbE RJ45
BMC	Redfish, IPMI, Remote KVM
Hệ điều hành	DGX OS 7 (Ubuntu 24.04 LTS)
Hỗ trợ OS	Ubuntu, Rocky Linux, Red Hat Enterprise Linux
Công suất tiêu thụ	Khoảng 14.5 kW
Nguồn điện	12 × 3.2 kW PSU (N+N Redundant)
Nhiệt độ hoạt động	10°C – 30°C
Kích thước	442 × 482.6 × 904.2 mm
Rack Size	10U
Trọng lượng	123 – 168 kg tùy cấu hình nguồn