Điểm nổi bật về GPU trên NVIDIA DGX™ H200:

• Tích hợp 8 GPU NVIDIA H200 Tensor Core với tổng dung lượng bộ nhớ GPU lên đến 1,128GB

• Kiến trúc NVIDIA NVLink® và NVSwitch™ thế hệ mới, cung cấp băng thông GPU-to-GPU cực cao cho tác vụ AI ở quy mô lớn

• Hệ thống nguồn mạnh mẽ, đảm bảo vận hành ổn định khi huấn luyện và suy luận các mô hình AI nặng

• Tích hợp mạng NVIDIA ConnectX®-7 400Gb/s, sẵn sàng cho hạ tầng siêu máy tính AI và kết nối đa cụm DGX SuperPOD™

• Lý tưởng cho huấn luyện và suy luận các mô hình ngôn ngữ lớn (LLM), phân tích dữ liệu quy mô lớn, HPC và nghiên cứu AI tiên tiến

Với khả năng mở rộng GPU vượt trội và hiệu suất tính toán đột phá, NVIDIA DGX H200 là lựa chọn hàng đầu cho các tổ chức, viện nghiên cứu và doanh nghiệp cần một nền tảng AI mạnh mẽ, ổn định và sẵn sàng cho tương lai.

Cấu hình chi tiết DGX H200:

• GPU: 8 × NVIDIA H200 Tensor Core GPUs

• GPU Memory: 1,128 GB tổng cộng

• Hiệu năng: 32 petaFLOPS (FP8)

• NVIDIA NVSwitch: 4 chiếc

• CPU: Dual Intel® Xeon® Platinum 8480C (tổng 112 nhân, 2,00 GHz cơ bản, boost lên 3,80 GHz)

• System Memory (RAM): 2 TB DDR5 ECC

• Storage (SSD / NVMe):
    – OS: 2 × 1,92 TB NVMe (M.2) 
    – Data / Cache: 8 × 3,84 TB NVMe U.2 (tổng ~30 TB) 

• Networking: 4 × OSFP ports phục vụ 8 × single-port NVIDIA ConnectX-7 VPI, hỗ trợ lên đến 400 Gb/s InfiniBand / Ethernet 

• Nguồn điện & dự phòng: 6 bộ nguồn (PSU) cấu hình 4+2 redundancy để đảm bảo vận hành liên tục ngay cả khi có PSU hỏng 

• Công suất tối đa: ~10,2 kW