Máy chủ AI/HPC G894-ZD3-AAX7, NVIDIA HGX 8-GPU B300, 2 CPU AMD EPYC 9005/9004

Tổng quan về chiếc máy chủ AI/HPC G894-ZD3-AAX7

G894-ZD3-AAX7 là chiếc máy chủ AI/HPC mạnh mẽ thuộc dòng sản phẩm G-Series của thương hiệu Gigabyte. Chiếc máy chủ rack 8U này được xây dựng trên nền tảng 2 CPU AMD EPYC 9004/9005 với tối đa 384 nhân/768 luồng, kết hợp cùng với cụm bo mạch NVIDIA HGX 8-GPU B300 cung cấp mức dung lượng bộ nhớ HBM3e lên tới 2.3TB. Hệ thống được thiết kế đồng bộ với hạ tầng mạng tốc độ cao 800Gb/s (InfiniBand/Ethernet) và chuẩn PCIe 5.0 thế hệ mới.

Từng loại linh kiện cao cấp trên đã cấu thành một chiếc máy chủ cực kỳ mạnh mẽ, dư sức đáp ứng các khối lượng công việc nặng về trí tuệ nhân tạo, học sâu và các mô hình ngôn ngữ lớn (LLM). 

Cấu tạo phần cứng của siêu máy chủ AI/HPC G894-ZD3-AAX7

Giải quyết mượt mà các workload về AI với cụm NVIDIA HGX 8-GPU B300

Khả năng tính toán của máy chủ G894-ZD3-AAX7 được định hình bởi cụm NVIDIA HGX 8-GPU B300 phát triển trên kiến trúc Blackwell Ultra. Hệ thống cung cấp tổng dung lượng bộ nhớ 2.3TB HBM3e, đảm bảo không gian đủ lớn để nạp trực tiếp các mô hình ngôn ngữ lớn LLM hàng nghìn tỷ tham số và rút ngắn thời gian suy luận. 

Nền tảng này có thể đạt mức hiệu suất 144 PFLOPS ở độ chính xác FP4, mang lại năng lực xử lý AI cao gấp 7 lần so với kiến trúc Hopper tiền nhiệm. Sức mạnh bứt phá này giúp máy chủ dễ dàng xử lý các workload phức tạp nhất hiện nay như huấn luyện AI, Generative AI hay tạo video theo thời gian thực. Để đảm bảo luồng dữ liệu giữa các GPU luôn thông suốt, toàn bộ cụm xử lý được kết nối qua NVLink thế hệ 5 với băng thông 1.8 TB/s cho mỗi GPU. 

Bên cạnh đó, hệ thống còn mở rộng kết nối hạ tầng mạng thông qua 8 cổng OSFP tốc độ 800 Gb/s, sẵn sàng đáp ứng lưu lượng truyền tải tại các trung tâm AI quy mô lớn. 

Hỗ trợ Dual CPU AMD EPYC thế hệ mới nhất

Để có thể cung cấp khối lượng dữ liệu khổng lồ và ổn định cho cụm GPU, G894-ZD3-AAX7 được trang bị nền tảng CPU kép AMD EPYC 9005 Series / AMD EPYC 9004 Series. Cấu hình này hỗ trợ tối đa 192 nhân trên mỗi CPU, đạt tổng 384 nhân xử lý cùng dung lượng bộ nhớ đệm L3 lên tới 512MB, đáp ứng tốt các tác vụ tính toán và tiền xử lý dữ liệu quy mô lớn. 

Hệ thống sử dụng kiến trúc bộ nhớ 12 kênh với 24 khe cắm RAM DDR5 tốc độ truyền tải lên tới 6400 MT/s, cung cấp băng thông tốc độ cao cho các luồng dữ liệu liên tục. Cấu hình CPU kép này cung cấp tổng cộng 160 làn PCIe 5.0 khả dụng cho phép hỗ trợ tới 4 khe cắm mở rộng FHHL PCIe 5.0 x16, tạo điều kiện mở rộng linh hoạt các thiết bị ngoại vi tốc độ cao như card mạng DPU, ổ cứng NVMe. 

Nhờ sự kết hợp giữa năng lực xử lý đa nhân, băng thông bộ nhớ lớn và hệ thống kết nối PCIe dồi dào, máy chủ có thể duy trì luồng dữ liệu ổn định giữa CPU và GPU, hạn chế tình trạng nghẽn cổ chai trong quá trình vận hành các workload về AI và HPC.

Hệ thống nguồn và tản nhiệt trong môi trường vận hành cường độ cao

Việc vận hành cụm 8 GPU Blackwell Ultra cùng hệ thống CPU kép yêu cầu hạ tầng công suất lớn và ổn định. Để đáp ứng nhu cầu này, G894-ZD3-AAX7 được trang bị 12 bộ nguồn công suất 3000W đạt chuẩn 80 PLUS Titanium, đi kèm cơ chế dự phòng linh hoạt nhằm đảm bảo hệ thống luôn hoạt động liên tục.

Máy chủ tích hợp tính năng Cold Redundancy, cho phép tự động đưa một số bộ nguồn vào trạng thái chờ khi tổng mức tải của hệ thống giảm xuống dưới 40%. Cơ chế thông minh này giúp tối ưu hiệu suất sử dụng điện năng và cải thiện tới 10% lượng điện tiêu thụ trong quá trình vận hành.

Về khả năng tản nhiệt, hệ thống sử dụng cơ chế điều khiển tốc độ quạt tự động dựa trên dữ liệu từ các cảm biến nhiệt độ phân bố trong khung máy. Cụm quạt chuyên dụng, bao gồm 15 quạt kích thước 80×80×80mm dành riêng cho khu vực GPU, được điều chỉnh linh hoạt để duy trì luồng khí làm mát ổn định. 

Sự kết hợp giữa hệ thống nguồn hiệu suất cao và cơ chế tản nhiệt chủ động giúp máy chủ duy trì trạng thái vận hành ổn định trong thời gian dài, đồng thời góp phần tối ưu chi phí vận hành tổng thể (TCO) cho trung tâm dữ liệu. 

Cơ chế bảo mật hệ thống cùng nền tảng quản trị từ xa tối tân

Bên cạnh hiệu năng vượt trội dành cho các tác vụ AI và HPC, máy chủ GIGABYTE G894-ZD3-AAX7 còn được trang bị các cơ chế bảo mật hệ thống và quản trị từ xa tối tân cho môi trường trung tâm dữ liệu:

• Module TPM 2.0: Đảm nhận vai trò lưu trữ khóa, mã hóa và xác thực dữ liệu trực tiếp trên bo mạch.
• Smart Ride Through (SmaRT): Khắc phục tình trạng sập nguồn đột ngột, hệ thống tụ điện của máy cung cấp dải thời gian đệm từ 10 đến 20 mili-giây khi mất dòng điện xoay chiều. Điều này đảm bảo máy chủ vẫn duy trì trạng thái hoạt động an toàn trong lúc chuyển đổi sang nguồn điện dự phòng.
• Smart Crises Management and Protection (SCMP): Tự động điều hướng CPU về mức tiêu thụ điện thấp nhất ngay khi phát hiện lỗi nguồn hoặc sự cố quá nhiệt. Cơ chế này giúp ngăn ngừa triệt để các rủi ro hỏng hóc vật lý cho cụm xử lý trung tâm.
• Dual ROM Architecture: Cấu trúc BIOS và BMC dự phòng kép hỗ trợ thiết bị tự động đồng bộ và khôi phục từ bản lưu trữ phụ nếu bản chính phát sinh lỗi.
• GIGABYTE Management Console: Kết hợp cùng với bộ công cụ GIGABYTE Server Management (GSM) được cung cấp hoàn toàn miễn phí, quản trị viên IT có thể dễ dàng giám sát trạng thái thiết bị, cập nhật firmware và điều phối toàn bộ cụm máy chủ trực tiếp qua giao diện web từ xa.

Bảng thông số kỹ thuật của máy chủ G894-ZD3-AAX7

CNTTShop - Nơi cung cấp máy chủ G894-ZD3-AAX7 chính hãng, giá tốt

GIGABYTE G894-ZD3-AAX7 là hệ thống máy chủ chuyên dụng cung cấp khả năng giải quyết các luồng dữ liệu hiệu năng cao thông qua sự kết hợp giữa cụm xử lý đồ họa NVIDIA HGX 8-GPU B300 và 2 CPU AMD EPYC 9005/9004 Series. Quý doanh nghiệp có nhu cầu đánh giá mức độ tương thích hạ tầng, xây dựng cấu hình dự án hoặc lên phương án triển khai mẫu máy chủ này vui lòng liên hệ trực tiếp bộ phận giải pháp tại CNTTShop để nhận tư vấn kỹ thuật chuyên sâu và báo giá thương mại chuẩn xác nhất.

Đọc thêm