GIGABYTE AI TOP ATOM – Personal AI Supercomputer với NVIDIA Grace Blackwell

GIGABYTE AI TOP ATOM – Personal AI Supercomputer với NVIDIA Grace Blackwell

GIGABYTE AI TOP ATOM – Personal AI Supercomputer với NVIDIA Grace Blackwell

Ngày đăng Bởi

Sự phát triển nhanh của Generative AI, Large Language Model (LLM), AI Agent và các ứng dụng RAG đang đặt ra nhu cầu ngày càng lớn về một nền tảng tính toán AI đủ mạnh nhưng vẫn có thể triển khai trực tiếp tại doanh nghiệp, phòng Lab hoặc ngay trên bàn làm việc của Developer.

GIGABYTE AI TOP ATOM được phát triển để đáp ứng nhu cầu đó. Đây là một Personal AI Supercomputer sử dụng NVIDIA® GB10 Grace Blackwell Superchip, cung cấp hiệu năng AI lên tới 1 petaFLOP FP4, đi cùng 128GB bộ nhớ hợp nhất trong một hệ thống có thể tích chỉ khoảng 1 lít.

Thay vì phải phụ thuộc hoàn toàn vào Cloud hoặc triển khai ngay một GPU Server kích thước lớn, AI TOP ATOM cho phép Developer và doanh nghiệp xây dựng một môi trường AI local mạnh mẽ để phát triển, thử nghiệm, inference và fine-tuning các mô hình AI ngay tại chỗ.

NVIDIA GB10 Grace Blackwell – nền tảng xử lý trung tâm

Trái tim của GIGABYTE AI TOP ATOM là NVIDIA GB10 Grace Blackwell Superchip, kết hợp CPU NVIDIA Grace kiến trúc Arm với GPU NVIDIA Blackwell trong cùng một nền tảng tối ưu cho các workload AI.

CPU tích hợp tổng cộng 20 nhân Arm, gồm 10 nhân Cortex-X925 và 10 nhân Cortex-A725. Phía GPU sử dụng kiến trúc NVIDIA Blackwell cùng Tensor Core thế hệ thứ 5, hướng trực tiếp tới các tác vụ Generative AI và tính toán Tensor hiện đại.

Một thành phần quan trọng của kiến trúc này là NVIDIA NVLink™-C2C, cho phép CPU và GPU giao tiếp với băng thông cao trong một kiến trúc bộ nhớ hợp nhất, giảm sự phụ thuộc vào quá trình sao chép dữ liệu qua lại giữa bộ nhớ hệ thống và bộ nhớ GPU như trên nhiều nền tảng PC truyền thống.

Hiệu năng AI lên tới 1 petaFLOP FP4

GIGABYTE AI TOP ATOM cung cấp hiệu năng tính toán AI lên tới 1 petaFLOP ở độ chính xác FP4.

Đây là mức hiệu năng được thiết kế cho các workload AI hiện đại như Generative AI, inference, AI prototyping, xử lý dữ liệu, Computer Vision và các ứng dụng Edge AI.

Thay vì chỉ nhìn vào số lượng CPU core hoặc GPU core theo cách đánh giá workstation truyền thống, điểm đáng chú ý của AI TOP ATOM nằm ở việc toàn bộ kiến trúc phần cứng được tối ưu cho Tensor Processing và AI workload, kết hợp giữa Blackwell GPU, Tensor Core thế hệ mới, CPU Grace và Unified Memory.

128GB Unified Memory – lợi thế lớn khi chạy LLM

Một trong những điểm đáng chú ý nhất của GIGABYTE AI TOP ATOM là 128GB LPDDR5x Unified System Memory.

Bộ nhớ sử dụng giao tiếp 256-bit, đạt băng thông lên tới 273 GB/s. Quan trọng hơn, đây là kiến trúc bộ nhớ hợp nhất, cho phép CPU và GPU cùng truy cập một vùng nhớ chung thay vì phải duy trì RAM hệ thống và VRAM GPU dưới dạng hai vùng bộ nhớ tách biệt.

Điều này đặc biệt có ý nghĩa đối với LLM. Với các GPU workstation thông thường, dung lượng VRAM thường là một trong những giới hạn đầu tiên khi muốn đưa những model lớn vào bộ nhớ. Trong khi đó, 128GB Unified Memory mang lại không gian lớn hơn đáng kể cho việc phát triển và thử nghiệm các mô hình AI ngay trên hệ thống local.

Theo GIGABYTE, một hệ thống AI TOP ATOM có thể hỗ trợ các mô hình AI có quy mô lên tới 200 tỷ tham số, tùy thuộc model, độ chính xác, phương pháp quantization và workload thực tế.

4TB NVMe SSD dành cho model và dataset

Hệ thống được trang bị 4TB M.2 NVMe PCIe SSD, cung cấp dung lượng lưu trữ lớn cho một nền tảng AI desktop nhỏ gọn.

Dung lượng 4TB đặc biệt hữu ích trong môi trường AI local bởi ngoài hệ điều hành và môi trường phát triển, hệ thống còn phải lưu trữ model weights, container, dataset, embeddings, vector database, checkpoint và nhiều phiên bản model khác nhau.

Kết hợp dung lượng lưu trữ lớn với 128GB Unified Memory, AI TOP ATOM có thể hoạt động như một môi trường phát triển AI tương đối hoàn chỉnh ngay trên bàn làm việc của kỹ sư.

NVIDIA ConnectX-7 – kết nối hai hệ thống cho model lớn hơn

Một điểm khác biệt đáng chú ý so với một workstation thông thường là việc GIGABYTE tích hợp NVIDIA® ConnectX®-7 NIC.

ConnectX-7 cung cấp kết nối tốc độ cao và độ trễ thấp giữa các hệ thống. GIGABYTE cho phép kết nối hai AI TOP ATOM với nhau để mở rộng khả năng xử lý những mô hình lớn hơn.

Với một hệ thống, nền tảng hỗ trợ model lên tới 200 tỷ tham số. Khi ghép hai hệ thống thông qua ConnectX-7, GIGABYTE công bố khả năng làm việc với các mô hình có quy mô lên tới 405 tỷ tham số.

Đây là hướng mở rộng đáng chú ý đối với các phòng nghiên cứu hoặc đội ngũ AI muốn bắt đầu từ một node nhỏ gọn và mở rộng năng lực tính toán khi nhu cầu tăng lên.

Kết nối mạng 10GbE, Wi-Fi 7 và hệ thống I/O tốc độ cao

Mặc dù kích thước nhỏ, AI TOP ATOM vẫn được trang bị hệ thống kết nối tương đối đầy đủ.

Máy có 10GbE Ethernet, Wi-Fi 7 và Bluetooth 5.4. Phía sau hệ thống có các cổng USB 3.2 Gen 2x2 Type-C tốc độ lên tới 20Gbps, HDMI 2.1a, kết nối NVIDIA ConnectX-7 và RJ-45 10GbE.

Khả năng kết nối 10GbE đặc biệt hữu ích trong các môi trường sử dụng NAS hoặc hệ thống lưu trữ tập trung, nơi dataset và model có thể được lưu trên storage server thay vì hoàn toàn trên SSD nội bộ.

NVIDIA AI Software Stack và GIGABYTE AI TOP Utility

Phần cứng chỉ là một phần của nền tảng AI. GIGABYTE AI TOP ATOM còn hỗ trợ NVIDIA AI Software Stack, giúp Developer tiếp cận hệ sinh thái phần mềm, framework, library và công cụ phát triển AI của NVIDIA.

Hệ thống cũng được tích hợp GIGABYTE AI TOP Utility, hướng tới việc đơn giản hóa quá trình xây dựng môi trường AI local. Người dùng có thể triển khai các workflow liên quan đến model, inference, RAG, Machine Learning và những workload AI khác mà không phải bắt đầu hoàn toàn từ con số 0.

Hệ điều hành của nền tảng dựa trên NVIDIA DGX OS / Ubuntu Linux, phù hợp với môi trường phát triển AI vốn sử dụng Linux, container và các framework AI phổ biến.

Những workload phù hợp với GIGABYTE AI TOP ATOM

Thay vì định vị như một PC hiệu năng cao thông thường, AI TOP ATOM phù hợp hơn với vai trò một AI Development System chuyên dụng.

Developer có thể sử dụng hệ thống để prototyping các ứng dụng Generative AI trước khi triển khai lên hạ tầng lớn hơn. Data Scientist có thể sử dụng máy cho inference, xử lý dữ liệu và thử nghiệm model. Các phòng R&D và trường đại học có thể xây dựng môi trường nghiên cứu AI ngay tại Lab mà không nhất thiết phải cấp cho từng người dùng một GPU Server riêng.

AI TOP ATOM cũng đặc biệt phù hợp cho các ứng dụng RAG và Private AI. Do model và dữ liệu có thể được xử lý tại local, doanh nghiệp có thể chủ động hơn trong việc xây dựng AI Assistant hoặc hệ thống hỏi đáp sử dụng dữ liệu nội bộ.

Các workload tiêu biểu bao gồm Generative AI, LLM inference, model fine-tuning, RAG, AI Agent, Data Science, Computer Vision, Machine Learning, Robotics và Edge AI.

Một AI Supercomputer trong chassis chỉ khoảng 1 lít

Toàn bộ nền tảng được đặt trong chassis kích thước chỉ 150 × 150 × 50,5 mm, tương đương thể tích khoảng 1 lít, trọng lượng khoảng 1,2 kg.

Nguồn điện sử dụng adapter 240W.

Kích thước này tạo ra khác biệt rất lớn về cách triển khai. Thay vì yêu cầu rack server, nguồn điện công suất lớn và hạ tầng làm mát chuyên dụng, AI TOP ATOM có thể được đặt trực tiếp trên bàn làm việc và sử dụng như một AI development workstation cá nhân.

GIGABYTE AI TOP ATOM phù hợp với ai?

AI TOP ATOM hướng tới nhóm người dùng cần có năng lực xử lý AI nhưng chưa cần hoặc không muốn phát triển hệ thống truyền tải Máy chủ GPU.

Sản phẩm đặc biệt phù hợp cho AI Developer, Data Scientist, AI Engineer, Software Developer, Researcher, phòng R&D, trường đại học, phòng Lab, startup AI và doanh nghiệp đang xây dựng Private AI .

Với kiến ​​trúc Grace Blackwell, Bộ nhớ hợp nhất 128GB và Ngăn xếp phần mềm AI của NVIDIA, hệ thống có thể đảm bảo vai trò phát triển nền tảng tại địa phương trước khi ứng dụng được mở rộng lên sức mạnh của máy trạm, Máy chủ GPU hoặc Trung tâm dữ liệu tầng hạ tầng.

GIGABYTE AI TOP ATOM đã có sẵn hàng – giao ngay trong ngày

Một lợi thế quan trọng đối với các dự án cần phát triển ngay bây giờ là GIGABYTE AI TOP ATOM đã có sẵn hàng , không phải chờ thời gian nhập khẩu kéo dài.

Khách hàng có thể nhận thiết bị ngay trong ngày , đồng thời được hỗ trợ tư vấn giải pháp lựa chọn và phát triển theo nhu cầu thực tế của doanh nghiệp, phòng thí nghiệm hoặc dự án AI.

Với NVIDIA GB10 Grace Blackwell, Bộ nhớ hợp nhất 128GB, SSD NVMe 4TB, ConnectX-7 và hiệu suất AI lên tới 1 petaFLOP , GIGABYTE AI TOP ATOM là một nền tảng đáng chú ý cho xu hướng đưa AI từ Trung tâm dữ liệu sang trực tiếp bàn làm việc của Nhà phát triển.

GIGABYTE AI TOP ATOM – Siêu máy tính AI cá nhân dành cho Generative AI, LLM và Private AI.

Hàng có sẵn – Giao trong ngày – Giá cạnh tranh tốt.

Liên hệ ngay để nhận báo giá, kiểm tra số lượng tồn kho và tư vấn giải pháp phát triển GIGABYTE AI TOP ATOM phù hợp với nhu cầu của bạn.

GIGABYTE AI TOP ATOM – Personal AI Supercomputer với NVIDIA Grace Blackwell

GIGABYTE AI TOP ATOM – Personal AI Supercomputer với NVIDIA Grace Blackwell

Ngày đăng Bởi

Sự phát triển nhanh của Generative AI, Large Language Model (LLM), AI Agent và các ứng dụng RAG đang đặt ra nhu cầu ngày càng lớn về một nền tảng tính toán AI đủ mạnh nhưng vẫn có thể triển khai trực tiếp tại doanh nghiệp, phòng Lab hoặc ngay trên bàn làm việc của Developer.

GIGABYTE AI TOP ATOM được phát triển để đáp ứng nhu cầu đó. Đây là một Personal AI Supercomputer sử dụng NVIDIA® GB10 Grace Blackwell Superchip, cung cấp hiệu năng AI lên tới 1 petaFLOP FP4, đi cùng 128GB bộ nhớ hợp nhất trong một hệ thống có thể tích chỉ khoảng 1 lít.

Thay vì phải phụ thuộc hoàn toàn vào Cloud hoặc triển khai ngay một GPU Server kích thước lớn, AI TOP ATOM cho phép Developer và doanh nghiệp xây dựng một môi trường AI local mạnh mẽ để phát triển, thử nghiệm, inference và fine-tuning các mô hình AI ngay tại chỗ.

NVIDIA GB10 Grace Blackwell – nền tảng xử lý trung tâm

Trái tim của GIGABYTE AI TOP ATOM là NVIDIA GB10 Grace Blackwell Superchip, kết hợp CPU NVIDIA Grace kiến trúc Arm với GPU NVIDIA Blackwell trong cùng một nền tảng tối ưu cho các workload AI.

CPU tích hợp tổng cộng 20 nhân Arm, gồm 10 nhân Cortex-X925 và 10 nhân Cortex-A725. Phía GPU sử dụng kiến trúc NVIDIA Blackwell cùng Tensor Core thế hệ thứ 5, hướng trực tiếp tới các tác vụ Generative AI và tính toán Tensor hiện đại.

Một thành phần quan trọng của kiến trúc này là NVIDIA NVLink™-C2C, cho phép CPU và GPU giao tiếp với băng thông cao trong một kiến trúc bộ nhớ hợp nhất, giảm sự phụ thuộc vào quá trình sao chép dữ liệu qua lại giữa bộ nhớ hệ thống và bộ nhớ GPU như trên nhiều nền tảng PC truyền thống.

Hiệu năng AI lên tới 1 petaFLOP FP4

GIGABYTE AI TOP ATOM cung cấp hiệu năng tính toán AI lên tới 1 petaFLOP ở độ chính xác FP4.

Đây là mức hiệu năng được thiết kế cho các workload AI hiện đại như Generative AI, inference, AI prototyping, xử lý dữ liệu, Computer Vision và các ứng dụng Edge AI.

Thay vì chỉ nhìn vào số lượng CPU core hoặc GPU core theo cách đánh giá workstation truyền thống, điểm đáng chú ý của AI TOP ATOM nằm ở việc toàn bộ kiến trúc phần cứng được tối ưu cho Tensor Processing và AI workload, kết hợp giữa Blackwell GPU, Tensor Core thế hệ mới, CPU Grace và Unified Memory.

128GB Unified Memory – lợi thế lớn khi chạy LLM

Một trong những điểm đáng chú ý nhất của GIGABYTE AI TOP ATOM là 128GB LPDDR5x Unified System Memory.

Bộ nhớ sử dụng giao tiếp 256-bit, đạt băng thông lên tới 273 GB/s. Quan trọng hơn, đây là kiến trúc bộ nhớ hợp nhất, cho phép CPU và GPU cùng truy cập một vùng nhớ chung thay vì phải duy trì RAM hệ thống và VRAM GPU dưới dạng hai vùng bộ nhớ tách biệt.

Điều này đặc biệt có ý nghĩa đối với LLM. Với các GPU workstation thông thường, dung lượng VRAM thường là một trong những giới hạn đầu tiên khi muốn đưa những model lớn vào bộ nhớ. Trong khi đó, 128GB Unified Memory mang lại không gian lớn hơn đáng kể cho việc phát triển và thử nghiệm các mô hình AI ngay trên hệ thống local.

Theo GIGABYTE, một hệ thống AI TOP ATOM có thể hỗ trợ các mô hình AI có quy mô lên tới 200 tỷ tham số, tùy thuộc model, độ chính xác, phương pháp quantization và workload thực tế.

4TB NVMe SSD dành cho model và dataset

Hệ thống được trang bị 4TB M.2 NVMe PCIe SSD, cung cấp dung lượng lưu trữ lớn cho một nền tảng AI desktop nhỏ gọn.

Dung lượng 4TB đặc biệt hữu ích trong môi trường AI local bởi ngoài hệ điều hành và môi trường phát triển, hệ thống còn phải lưu trữ model weights, container, dataset, embeddings, vector database, checkpoint và nhiều phiên bản model khác nhau.

Kết hợp dung lượng lưu trữ lớn với 128GB Unified Memory, AI TOP ATOM có thể hoạt động như một môi trường phát triển AI tương đối hoàn chỉnh ngay trên bàn làm việc của kỹ sư.

NVIDIA ConnectX-7 – kết nối hai hệ thống cho model lớn hơn

Một điểm khác biệt đáng chú ý so với một workstation thông thường là việc GIGABYTE tích hợp NVIDIA® ConnectX®-7 NIC.

ConnectX-7 cung cấp kết nối tốc độ cao và độ trễ thấp giữa các hệ thống. GIGABYTE cho phép kết nối hai AI TOP ATOM với nhau để mở rộng khả năng xử lý những mô hình lớn hơn.

Với một hệ thống, nền tảng hỗ trợ model lên tới 200 tỷ tham số. Khi ghép hai hệ thống thông qua ConnectX-7, GIGABYTE công bố khả năng làm việc với các mô hình có quy mô lên tới 405 tỷ tham số.

Đây là hướng mở rộng đáng chú ý đối với các phòng nghiên cứu hoặc đội ngũ AI muốn bắt đầu từ một node nhỏ gọn và mở rộng năng lực tính toán khi nhu cầu tăng lên.

Kết nối mạng 10GbE, Wi-Fi 7 và hệ thống I/O tốc độ cao

Mặc dù kích thước nhỏ, AI TOP ATOM vẫn được trang bị hệ thống kết nối tương đối đầy đủ.

Máy có 10GbE Ethernet, Wi-Fi 7 và Bluetooth 5.4. Phía sau hệ thống có các cổng USB 3.2 Gen 2x2 Type-C tốc độ lên tới 20Gbps, HDMI 2.1a, kết nối NVIDIA ConnectX-7 và RJ-45 10GbE.

Khả năng kết nối 10GbE đặc biệt hữu ích trong các môi trường sử dụng NAS hoặc hệ thống lưu trữ tập trung, nơi dataset và model có thể được lưu trên storage server thay vì hoàn toàn trên SSD nội bộ.

NVIDIA AI Software Stack và GIGABYTE AI TOP Utility

Phần cứng chỉ là một phần của nền tảng AI. GIGABYTE AI TOP ATOM còn hỗ trợ NVIDIA AI Software Stack, giúp Developer tiếp cận hệ sinh thái phần mềm, framework, library và công cụ phát triển AI của NVIDIA.

Hệ thống cũng được tích hợp GIGABYTE AI TOP Utility, hướng tới việc đơn giản hóa quá trình xây dựng môi trường AI local. Người dùng có thể triển khai các workflow liên quan đến model, inference, RAG, Machine Learning và những workload AI khác mà không phải bắt đầu hoàn toàn từ con số 0.

Hệ điều hành của nền tảng dựa trên NVIDIA DGX OS / Ubuntu Linux, phù hợp với môi trường phát triển AI vốn sử dụng Linux, container và các framework AI phổ biến.

Những workload phù hợp với GIGABYTE AI TOP ATOM

Thay vì định vị như một PC hiệu năng cao thông thường, AI TOP ATOM phù hợp hơn với vai trò một AI Development System chuyên dụng.

Developer có thể sử dụng hệ thống để prototyping các ứng dụng Generative AI trước khi triển khai lên hạ tầng lớn hơn. Data Scientist có thể sử dụng máy cho inference, xử lý dữ liệu và thử nghiệm model. Các phòng R&D và trường đại học có thể xây dựng môi trường nghiên cứu AI ngay tại Lab mà không nhất thiết phải cấp cho từng người dùng một GPU Server riêng.

AI TOP ATOM cũng đặc biệt phù hợp cho các ứng dụng RAG và Private AI. Do model và dữ liệu có thể được xử lý tại local, doanh nghiệp có thể chủ động hơn trong việc xây dựng AI Assistant hoặc hệ thống hỏi đáp sử dụng dữ liệu nội bộ.

Các workload tiêu biểu bao gồm Generative AI, LLM inference, model fine-tuning, RAG, AI Agent, Data Science, Computer Vision, Machine Learning, Robotics và Edge AI.

Một AI Supercomputer trong chassis chỉ khoảng 1 lít

Toàn bộ nền tảng được đặt trong chassis kích thước chỉ 150 × 150 × 50,5 mm, tương đương thể tích khoảng 1 lít, trọng lượng khoảng 1,2 kg.

Nguồn điện sử dụng adapter 240W.

Kích thước này tạo ra khác biệt rất lớn về cách triển khai. Thay vì yêu cầu rack server, nguồn điện công suất lớn và hạ tầng làm mát chuyên dụng, AI TOP ATOM có thể được đặt trực tiếp trên bàn làm việc và sử dụng như một AI development workstation cá nhân.

GIGABYTE AI TOP ATOM phù hợp với ai?

AI TOP ATOM hướng tới nhóm người dùng cần có năng lực xử lý AI nhưng chưa cần hoặc không muốn phát triển hệ thống truyền tải Máy chủ GPU.

Sản phẩm đặc biệt phù hợp cho AI Developer, Data Scientist, AI Engineer, Software Developer, Researcher, phòng R&D, trường đại học, phòng Lab, startup AI và doanh nghiệp đang xây dựng Private AI .

Với kiến ​​trúc Grace Blackwell, Bộ nhớ hợp nhất 128GB và Ngăn xếp phần mềm AI của NVIDIA, hệ thống có thể đảm bảo vai trò phát triển nền tảng tại địa phương trước khi ứng dụng được mở rộng lên sức mạnh của máy trạm, Máy chủ GPU hoặc Trung tâm dữ liệu tầng hạ tầng.

GIGABYTE AI TOP ATOM đã có sẵn hàng – giao ngay trong ngày

Một lợi thế quan trọng đối với các dự án cần phát triển ngay bây giờ là GIGABYTE AI TOP ATOM đã có sẵn hàng , không phải chờ thời gian nhập khẩu kéo dài.

Khách hàng có thể nhận thiết bị ngay trong ngày , đồng thời được hỗ trợ tư vấn giải pháp lựa chọn và phát triển theo nhu cầu thực tế của doanh nghiệp, phòng thí nghiệm hoặc dự án AI.

Với NVIDIA GB10 Grace Blackwell, Bộ nhớ hợp nhất 128GB, SSD NVMe 4TB, ConnectX-7 và hiệu suất AI lên tới 1 petaFLOP , GIGABYTE AI TOP ATOM là một nền tảng đáng chú ý cho xu hướng đưa AI từ Trung tâm dữ liệu sang trực tiếp bàn làm việc của Nhà phát triển.

GIGABYTE AI TOP ATOM – Siêu máy tính AI cá nhân dành cho Generative AI, LLM và Private AI.

Hàng có sẵn – Giao trong ngày – Giá cạnh tranh tốt.

Liên hệ ngay để nhận báo giá, kiểm tra số lượng tồn kho và tư vấn giải pháp phát triển GIGABYTE AI TOP ATOM phù hợp với nhu cầu của bạn.

Trước NVIDIA CÓ THỂ RÓT 10 TỶ USD VÀO IPO ANTHROPIC – THƯƠNG VỤ CÓ THỂ ĐỊNH GIÁ “CHA ĐẺ CLAUDE” TỚI 2.000 TỶ USD
Tiếp theo Cứ đà này, liệu chúng ta sẽ có RTX 5090 giá 6.090 USD trước RTX 6090?
Bình luận
Copyright © 2024 - Fastest, All Rights Reserved.