Dell PowerEdge XE9712 - Máy chủ AI lý tưởng cho hạ tầng AI Factory

Dell PowerEdge XE9712 có những đặc điểm gì nổi bật?

Nền tảng IR9048 dựa trên kiến trúc NVIDIA GB300 NVL72 mạnh mẽ

Dell PowerEdge XE9712 là sản phẩm máy chủ được xây dựng cho nền tảng rack-scale. Dell đã cùng với NVIDIA thiết kế hệ thống IR9048 kết hợp nhiều máy chủ XE9712 với nhau để giải quyết các khối lượng công việc AI có quy mô khổng lồ.

Tủ Rack IR9048 được thiết kế theo tiêu chuẩn OCP Open Rack Version 3, liên kết các máy chủ XE9712 thành một khối tính toán thống nhất dựa trên kiến trúc NVIDIA GB300 NVL72 tiên tiến nhất. Hệ thống này có thể đạt mật độ tối đa 72 GPU Blackwell Ultra và 36 CPU NVIDIA Grace mang lại hiệu năng FP4 Tensor core cao hơn 1.5 lần và hiệu năng xử lý attention cao gấp đôi so với nền tảng sử dụng GPU Blackwell.

Các GPU trong hệ thống được kết nối với nhau bằng công nghệ NVIDIA NVLink thế hệ thứ năm, cung cấp băng thông GPU-to-GPU rất ấn tượng đến 130TB/s để đảm bảo khả năng giao tiếp tốc độ cao và liền mạch. Đây là yếu tố rất quan trọng để giúp các workload AI quy mô lớn đạt được hiệu suất tối đa.

Hệ thống này sử dụng các thiết bị chuyển mạch NVIDIA Quantum-X800 InfiniBand và network card NVIDIA ConnectX-8 SuperNIC cung cấp kết nối siêu tốc 800Gb/s cho mỗi GPU.

Với tỉ lệ 1:1 NIC-to-GPU kết hợp cùng DPU NVIDIA BlueField-3, hệ thống đạt tốc độ kết nối east-west rất cao, giúp giao tiếp hiệu quả giữa các cụm GPU nằm trên nhiều rack khác nhau. Từ đó, cho phép mở rộng quy mô hệ thống AI một cách hiệu quả.

 Bạn có thể tìm hiểu thêm về NVIDIA GB300 NVL72.

Khả năng triển khai nhanh chóng cho các hạ tầng quy mô lớn

Dell đã trang bị cho máy chủ XE9712 một thiết kế sẵn sàng triển khai vào các hạ tầng lớn. Ở mặt sau của máy chủ là các đầu kết nối nhanh đến hệ thống làm mát bằng chất lỏng, NVLink, Power bus bar có sẵn trên tủ rack IR9048. Các kỹ thuật viên chỉ cần đặt máy chủ lên rack, cầm hai tay nắm và ấn trượt vào là đã lắp đặt xong.

Thiết kế lắp đặt này được Dell gọi là Blind mating, giúp cho quá trình triển khai các hệ thống lớn đơn giản và nhanh hơn rất nhiều. Các kỹ thuật viên sẽ không còn phải ra phía sau tủ rack để đi dây nguồn và đi ống dẫn cooling liquid nữa.

Để tối ưu cho quá trình quản trị, bảo trì và xử lý sự cố, các cổng I/O cũng như ổ cứng NVMe EDSSF E1.S đều được đặt ở phía mặt trước của máy chủ.

Hoạt động bền bỉ với hệ thống làm mát kết hợp và nguồn điện chung

Các datacenter, AI factory lớn có yêu cầu rất khắt khe về khả năng hoạt động bền bỉ liên tục của máy chủ. Để đảm bảo cho cả hệ thống rack hoạt động hiệu quả liên tục, Dell không trang bị nguồn điện và DLC trên từng máy chủ mà trang bị một hệ thống dùng chung cho cả rack để có thể quản lý và giám sát tập trung dễ dàng hơn. Kết hợp với DLC sẽ là 8 quạt làm mát bên trong máy chủ để tăng tối đa hiệu quả tản nhiệt.

Tất cả các máy chủ Dell XE9712 trong rack sẽ được cấp nguồn điện từ các bộ PowerShelf 33kW. Chất lỏng làm mát sẽ được điều phối bởi các CDU bên trong rack và đặt giữa các rack.

Các công cụ quản trị tiên tiến được tích hợp trực tiếp

Hệ thống sử dụng kiến trúc quản lý nhúng dựa trên BMC Aspeed AST2600, tương thích chuẩn DC-SCI và vận hành trên nền tảng OpenBMC. BMC đảm nhiệm giám sát và điều khiển toàn bộ hạ tầng hệ thống như nguồn, làm mát và cảm biến, đồng thời giao tiếp trực tiếp với NVIDIA HMC để quản lý các High-Power Module bao gồm CPU Grace và GPU Blackwell Ultra. Cách tiếp cận quản lý hai tầng này cho phép tách biệt việc vận hành khung hệ thống và khối compute AI, đáp ứng yêu cầu giám sát, tối ưu điện năng và độ ổn định cho các triển khai AI rack-scale và hyperscale.

Các kịch bản ứng dụng của Dell PowerEdge XE9712 trong hạ tầng AI hiện đại

Dell PowerEdge XE9712 được thiết kế cho các workload AI có quy mô lớn và yêu cầu hiệu năng cao. Với kiến trúc rack-scale dựa trên nền tảng NVIDIA B300 NVL72, hệ thống đặc biệt phù hợp cho huấn luyện các mô hình AI và LLM lớn, nơi cần khả năng liên kết GPU mật độ cao và băng thông giao tiếp GPU-to-GPU cực lớn để tối ưu hiệu suất training.

Bên cạnh đó, các rack IR9048 XE9712 đáp ứng hiệu quả các bài toán GenAI, AI reasoning và inference mở rộng, trong đó hệ thống phải xử lý đồng thời nhiều truy vấn với chuỗi ngữ cảnh dài và độ phức tạp cao. Kiến trúc GPU Blackwell Ultra cùng khả năng tối ưu xử lý attention giúp duy trì thông lượng và độ ổn định ở quy mô AI factory.

Dell PowerEdge XE9712 còn phù hợp cho các ứng dụng mô phỏng khoa học và HPC mật độ cao như mô phỏng vật lý, khí hậu, y học và khoa học tính toán….. Khi được triển khai trong hệ thống rack tích hợp IR9048 ORv3, XE9712 trở thành nền tảng lý tưởng để xây dựng AI factory và hyperscale superpods, cho phép mở rộng hạ tầng AI một cách linh hoạt và bền vững.

Thông số kỹ thuật của Dell PowerEdge XE9712

Bạn có thể xem thêm các thông số kỹ thuật chính hãng của Dell PowerEdge XE9712.

Đặt hàng máy chủ Dell PowerEdge XE9712 chính hãng tại CNTTShop

Dell PowerEdge XE9712 là nền tảng máy chủ AI rack-scale cao cấp, phù hợp cho các hạ tầng AI Factory và hyperscale superpod với yêu cầu hiệu năng và độ ổn định cực cao. Sản phẩm đáp ứng tốt các workload huấn luyện và suy luận AI lớn, GenAI và HPC hiện đại.

Đặt hàng Dell PowerEdge XE9712 tại CNTTShop, khách hàng được cam kết sản phẩm chính hãng, tư vấn cấu hình phù hợp nhu cầu triển khai và hỗ trợ kỹ thuật chuyên sâu trong suốt quá trình vận hành hệ thống. Liên hệ CNTTShop để nhận tư vấn và báo giá chi tiết cho giải pháp AI của doanh nghiệp.