Máy chủ GPU GIGABYTE G894-SD3-AAX7 2x Intel Xeon 6700/6500, NVIDIA HGX B300 8-GPU

Giới thiệu sản phẩm máy chủ GIGABYTE G894-SD3-AAX7

G894-SD3-AAX7 là máy chủ HPC/AI dạng rackmount 8U do GIGABYTE phát triển. Hệ thống được xây dựng trên nền tảng dual socket LGA 4710 (Socket E2) với bo mạch chủ MSB4-PE2, hỗ trợ các bộ xử lý Intel Xeon 6500-Series và 6700-Series, kết hợp với cụm tính toán NVIDIA HGX B300 tích hợp 8 GPU Blackwell Ultra SXM. 

Điểm đáng chú ý của G894-SD3-AAX7 là kiến trúc bộ nhớ mở rộng với 32 khe DIMM DDR5 cùng khả năng tích hợp NVIDIA BlueField-3 DPU, cho phép offload các tác vụ mạng, bảo mật và lưu trữ khỏi CPU chính. Nhờ kiến trúc này, hệ thống đặc biệt phù hợp để triển khai trong các môi trường AI cloud, neocloud hoặc các cụm tính toán GIGAPOD, nơi yêu cầu mật độ GPU cao, dung lượng bộ nhớ lớn và khả năng mở rộng linh hoạt theo từng node.

Chi tiết cấu hình phần cứng của máy chủ GIGABYTE G894-SD3-AAX7

Nền tảng CPU Intel 6700/6500 series

Bo mạch chủ MSB4-PE2 trên máy chủ G894-SD3-AAX7 sử dụng socket LGA4710 (Socket E2), khác với nền tảng LGA7529 (Socket BR) được triển khai trên dòng máy chủ G894-AD3-AAX7. Kiến trúc này được tối ưu cho các bộ xử lý Intel Xeon 6500-Series và 6700-Series, hỗ trợ mức TDP lên đến 350W mỗi CPU, hướng tới mật độ xử lý đa nhân cao và hiệu quả năng lượng trong các hệ thống AI cluster quy mô lớn.

Nền tảng Xeon thế hệ 6 vẫn cung cấp đầy đủ các công nghệ tăng tốc hiện đại như AVX-512, Intel AMX, PCIe 5.0, CXL 2.0 và bộ nhớ DDR5 tốc độ cao.

Lưu ý: Nếu chỉ lắp 1 CPU, một số khe PCIe và slot RAM sẽ không hoạt động. Khi lên cấu hình đầy đủ với 2 CPU, toàn bộ 32 DIMM và 4 khe PCIe Gen5 x16 mới được kích hoạt.

Hệ thống bộ nhớ 32 DIMM DDR5 8 channel

Về lưu trữ, G894-SD3-AAX7 trang bị 8 khe ổ 2.5 inch NVMe Gen5 hot-swap ở phía trước, cung cấp băng thông lưu trữ rất cao cho các workload AI và HPC yêu cầu truy xuất dữ liệu nhanh. 

Ngoài ra, hệ thống còn tích hợp 2 khe M.2 nội bộ dành cho ổ boot, bao gồm một khe PCIe Gen5 x4 và một khe PCIe Gen5 x2, hỗ trợ module kích thước 2280 hoặc 22110. Kiến trúc dual M.2 này cho phép thiết lập RAID 1 cho hệ điều hành.

NVIDIA HGX B300 và kết nối NVLink/NVSwitch

Cụm NVIDIA HGX B300 trên G894-SD3-AAX7 có tổng bộ nhớ HBM3e 2.1TB và băng thông GPU-to-GPU đạt 1.8TB/s nhờ NVLink và NVSwitch. Đây là kiến trúc kết nối liền mạch giữa các GPU mà không qua PCIe, đảo bảo không có bottleneck băng thông khi huấn luyện các mô hình AI quy mô lớn.

Phần I/O dành cho cụm HGX B300 được đặt phía sau máy chủ. Chúng bao gồm 8 cổng OSFP kết nối qua NVIDIA ConnectX-8 SuperNIC, hỗ trợ Infiniband XDR 800Gb/s hoặc dual 400Gb/s Ethernet. Hạ tầng mạng GPU này được tách riêng khỏi mạng quản lý và mạng LAN hệ thống, cho phép các GPU server trong cụm AI trao đổi dữ liệu trực tiếp với băng thông cực cao mà không ảnh hưởng đến lưu lượng mạng của hệ thống quản trị hoặc ứng dụng.

Triển khai G894-SD3-AAX7 trong cụm GIGAPOD

G894-SD3-AAX7 là một trong các compute node được tối ưu cho hệ sinh thái GIGAPOD – giải pháp cụm AI theo kiến trúc rack-scale do GIGABYTE phát triển. Trong mô hình GIGAPOD, nhiều node G894-SD3-AAX7 được kết nối thông qua fabric InfiniBand XDR hoặc Ethernet 400G tốc độ cao, tạo thành một hạ tầng tính toán AI quy mô lớn với khả năng quản lý tập trung thông qua GIGABYTE POD Manager.

Các cụm GIGAPOD sử dụng node G894-SD3-AAX7 được thiết kế hướng đến các nhà cung cấp dịch vụ AI cloud thế hệ mới như neocloud, đồng thời đáp ứng nhu cầu đổi mới của nhiều ngành công nghiệp khác nhau bao gồm y tế, sản xuất, tài chính và nghiên cứu khoa học.

Một số lưu ý nhỏ khi xây dựng cấu hình cho G894-SD3-AAX7

• Chọn CPU: Xeon 6700-Series phù hợp với các workload cần khả năng xử lý đa nhân mạnh trên CPU đồng thời với GPU, chẳng hạn như data preprocessing hoặc pipeline xử lý dữ liệu. Trong khi đó, Xeon 6500-Series là lựa chọn cân bằng chi phí khi phần lớn khối lượng tính toán được offload sang GPU và DPU.
• Cấu hình 1DPC vs 2DPC: Để đạt tốc độ RDIMM tối đa 6400 MT/s, hệ thống cần cấu hình 1 DIMM trên mỗi kênh bộ nhớ. Nếu lắp 2 DIMM mỗi kênh, tốc độ bộ nhớ sẽ giảm xuống 5200 MT/s nhưng dung lượng RAM tổng thể sẽ tăng đáng kể. Việc lựa chọn cấu hình nên phụ thuộc vào yêu cầu về băng thông hoặc dung lượng bộ nhớ của workload.
• MRDIMM: Loại bộ nhớ này chỉ hoạt động với CPU Xeon 6 sử dụng P-core và phải chạy ở cấu hình 1DPC. Nếu workload yêu cầu băng thông bộ nhớ rất cao, lên tới 8000 MT/s, MRDIMM là lựa chọn phù hợp, tuy nhiên chi phí module cũng cao hơn so với RDIMM.
• PCIe Expansion: Hệ thống cung cấp 4 khe FHHL PCIe Gen5 x16 để lắp thêm các thiết bị mở rộng như DPU BlueField-3, HBA NVMe hoặc card mạng tốc độ cao. Các khe PCIe này chỉ được kích hoạt đầy đủ khi cả hai CPU đều được lắp.
• Nguồn điện: Máy chủ sử dụng 12 bộ nguồn 3000W và yêu cầu dây nguồn chuẩn C19 (không kèm theo máy). Trước khi triển khai, quản trị viên cần đảm bảo hệ thống PDU trong rack có thể đáp ứng mức tải điện tương ứng.

Bảng thông số kỹ thuật của máy chủ GIGABYTE G894-SD3-AAX7

Kết luận

GIGABYTE G894-SD3-AAX7 là máy chủ GPU hiệu năng cao được thiết kế cho các hệ thống AI và HPC trong trung tâm dữ liệu. Máy chủ này sở hữu nền tảng NVIDIA HGX B300 kết hợp cùng CPU Intel Xeon 6700/6500 Series và hạ tầng mạng tốc độ cực cao cho các cụm AI cluster.

CNTTShop là đơn vị cung cấp máy chủ GIGABYTE G894-SD3-AAX7 chính hãng với đầy đủ giấy tờ và chứng nhận liên quan. Ngoài ra, chúng tôi còn hỗ trợ tư vấn cấu hình phù hợp cho từng workload AI hoặc HPC của khách hàng, đồng thời hỗ trợ kỹ thuật trong suốt quá trình sử dụng máy chủ của quý khách. Liên hệ CNTTShop để nhận báo giá về các giải pháp triển khai máy chủ AI tối ưu cho doanh nghiệp.

Đọc thêm