Điểm nổi bật về GPU trên Supermicro HGX™ H200 (SYS-821GE-TNHR):

• Tích hợp 8 GPU NVIDIA H200 Tensor Core với tổng dung lượng bộ nhớ GPU 1,128GB, mang lại hiệu năng vượt trội cho các tác vụ AI ở quy mô lớn.

• Ứng dụng kiến trúc NVIDIA NVLink® và NVSwitch™ thế hệ mới, cung cấp băng thông GPU-to-GPU cực cao, tối ưu cho huấn luyện và suy luận mô hình AI/ML.

• Hệ thống được thiết kế dựa trên nền tảng Supermicro HGX H200 tiên tiến, đảm bảo hiệu suất và độ ổn định tối đa cho các trung tâm dữ liệu AI.

• Tích hợp kết nối mạng NVIDIA ConnectX®-7 400Gb/s, sẵn sàng cho hạ tầng siêu máy tính AI và cụm DGX SuperPOD™ tương đương.

• Lý tưởng cho huấn luyện và suy luận mô hình ngôn ngữ lớn (LLM), phân tích dữ liệu quy mô lớn, HPC, và nghiên cứu AI chuyên sâu.

Với khả năng mở rộng GPU mạnh mẽ và hiệu năng tính toán đột phá, Supermicro SYS-821GE-TNHR là nền tảng hàng đầu cho các tổ chức, viện nghiên cứu và doanh nghiệp triển khai hạ tầng AI hiện đại, quy mô lớn và ổn định lâu dài.

Cấu hình chi tiết Supermicro SYS-821GE-TNHR (HGX H200):

• GPU: 8 × NVIDIA H200 Tensor Core GPUs

• GPU Memory: 1,128 GB tổng cộng

• Hiệu năng: 32 petaFLOPS (FP8)

• NVIDIA NVSwitch: 4 module

• CPU: Dual Intel® Xeon® Platinum 8480C (112 nhân, 2.0 GHz base, 3.8 GHz boost)

• System Memory (RAM): 2 TB DDR5 ECC

• Storage (SSD / NVMe):
    – OS: 2 × 1.92 TB NVMe (M.2)
    – Data / Cache: 8 × 3.84 TB NVMe (U.2) – tổng dung lượng ~30 TB

• Networking: 4 × OSFP ports phục vụ 8 × single-port NVIDIA ConnectX-7 VPI, hỗ trợ 400 Gb/s InfiniBand / Ethernet

• Nguồn điện & dự phòng: 6 × PSU (cấu hình 4+2 redundancy) đảm bảo vận hành liên tục

• Công suất tối đa: ~10.2 kW

• Form factor: 8U rackmount – Supermicro SYS-821GE-TNHR, nền tảng HGX H200