Máy chủ Server Cisco UCS C880A M8 RACK 10U

Những đặc điểm nổi bật của Server Cisco UCS C880A M8

Cisco UCS C880A M8 là một máy chủ AI toàn diện có được sự cân bằng tối ưu nhất về hiệu năng tính toán, băng thông truyền dữ liệu và khả năng mở rộng. Những đặc điểm nổi bật sau đây chính là cốt lõi giúp nó đáp ứng được các yêu cầu của hệ thống AI ở quy mô trung tâm dữ liệu.

Cụm tính toán hiệu năng cao NVIDIA HGX B300

UCS C880A M8 sử dụng cụm siêu tính toán NVIDIA HGX B300 bao gồm 8 GPU Blackwell Ultra SXM mạnh mẽ được kết nối toàn phần thông qua NVLink Gen5 và NVLink 5 Switch. 

HGX B300 có hiệu năng inference trong các mô hình lớn như Llama 3.1 405B rất cao. Nhờ các nhân Tensor và kiến trúc Blackwell cùng các tối ưu chuyên sâu cho Tranformer Engine, thông lượng tính toán của nó cao hơn tới 11 lần so với thế hệ Hopper trước đó.

Nhờ sự cải tiến độ chính xác FP8, kết nối NVLink 5 với băng thông GPU to GPU tới 1.8TB/s, hạ tầng InfiniBand và bộ phần mềm tăng tốc Magnum IO mà hiệu suất training các mô hình ngôn ngữ lớn như Llama 3.1 405B của hệ thống có thể nhanh hơn tới 4 lần. 

Form factor SXM cho phép các GPU trong cụm kết nối trực tiếp với nhau bằng NVLink mà không cần cáp rời, đảm bảo cấp nguồn ổn định ở mức công suất lớn. Điều này giúp giảm thiểu nghẽn cổ chai và dễ dàng mở rộng hệ thống.

Bộ vi xử lý Intel Xeon 6 siêu nhanh 

Máy chủ có thiết kế 2 socket, hỗ trợ các CPU Intel Xeon 6 thế hệ mới nhất như 6700P/6500P mang đến năng lực xử lý vượt trội với tối đa 86 core trên mỗi socket, băng thông bộ nhớ cao hơn và tích hợp hàng loạt bộ tăng tốc AI trong CPU như TDX, AMX, DSA, QAT, IAA.

Các CPU này hỗ trợ bộ nhớ RAM DDR5 MRDIMM 6400MT/s với băng thông truyền dữ liệu lớn hơn 25% so với RDIMM giúp nâng cao đáng kể thông lượng bộ nhớ để phục vụ cho các tác vụ nặng.

Nhờ vậy, máy chủ có thể đảm nhận tốt các workload AI hybrid như các pipeline inference cho đến những node huấn luyện AI quy mô lớn.

Tích hợp kết nối siêu tốc cho môi trường AI

Về khả năng kết nối mạng, máy chủ UCS C880A M8 được thiết kế tối ưu cho môi trường vận hành workload AI với các module NVIDIA ConnectX-8 được tích hợp trực tiếp trên GPU board, hỗ trợ kết nối East-West băng thông lên tới 800G và độ trễ cực thấp. Bên cạnh đó, các tuỳ chọn network card 200G hoặc 400G để phục vụ cho kết nối North-South giúp hệ thống giao tiếp hiệu quả với các hạ tầng mạng bên ngoài. 

Lưu trữ các dữ liệu AI nhanh hơn với NVMe thế hệ mới

Máy chủ hỗ trợ tới 8 ổ cứng PCIe5 Gen5 x4 E1.S NVMe SSDs hiệu năng cao, đáp ứng tốt nhu cầu truy xuất dữ liệu nhanh, caching và lưu checkpoint khi huấn luyện mô hình. Với hệ thống lưu trữ dữ liệu cục bộ độ trễ thấp này, hệ thống có thể cải thiện đáng kể hiệu suất của các workload AI và phân tích dữ liệu lớn.

Khả năng vận hành 24/7 nhờ hệ thống nguồn dự phòng

UCS C880A M8 sử dụng tới 12 bộ nguồn 80PLUS 54V công suất 3200W dạng hot-swappable, cấu hình chạy dự phòng N+N để đảm bảo khả năng cấp nguồn ổn định và liên tục cho các linh kiện hiệu năng cao hoạt động liên tục 24/7.

Quản lý toàn diện, dễ dàng tích hợp vào hạ tầng AI hiện đại

Không chỉ sở hữu sức mạnh tính toán mạnh mẽ, Cisco UCS C880A M8 còn được tích hợp liền mạch với Cisco Intersight, nền tảng quản lý dạng SaaS của Cisco. Nền tảng này cho phép quản lý tập trung, giám sát toàn diện và áp dụng chính sách đồng nhất trên toàn bộ hạ tầng AI phân tán.

Máy chủ này cũng phù hợp để lắp đặt trong các Cisco AI POD, đây là giải pháp hạ tầng AI dạng modular được Cisco thiết kế sẵn cho việc triển khai nhanh ở quy mô lớn. Các khối trung tâm dữ liệu đã được kiểm chứng này giúp đơn giản hoá quy trình xây dựng AI Factory, đảm bảo khả năng tương thích giữa các lớp tính toán, mạng và bảo mật trong toàn hệ thống.

Bảng thông số kỹ thuật chi tiết của máy chủ Cisco UCS C880A M8

Server Cisco UCS C880A M8 có thể triển khai những workload AI nào?

Nhờ cấu hình mạnh mẽ, khả năng hoạt động ổn định liên tục và nền tảng quản trị tiên tiến, Cisco UCS C880A M8 có thể được sử dụng để triển khai nhiều workload AI khác nhau ở quy mô lớn như:

Suy luận LLMs thời gian thực

Máy chủ có thể vận hành các mô hình cực lớn như Llama 3.1 405B với độ trễ rất thấp và thông lượng cao phù hợp làm chatbot, AI Agent và các hệ thống suy luận thời gian thực.

Huấn luyện và tinh chỉnh mô hình AI lớn

USC C880A M8 sử dụng tốc độ huấn luyện nhanh hơn 4 lần cùng băng thông liên GPU rất lớn để huấn luyện hoặc fine-tune các mô hình hàng trăm tỷ tham số.

Pipeline AI hiệu năng cao

Tận dụng khả năng offload CPU trong các tác vụ chuẩn bị dữ liệu và điều phối, kết hợp với GPU tăng tốc để xây dựng các pipeline ETL, xử lý đa phương thức và suy luận.

Xây dựng hạ tầng AI Native Datacenters và AI Factories

Xây dựng các khối cơ sở hạ tầng AI có thể dễ dàng kết hợp, bảo mật và mở rộng với Cisco AI POD, sẵn sàng tích hợp vào trung tâm dữ liệu hoặc triển khai tại edge.

HPC và mô phỏng khoa học

Bộ nhớ tốc độ cao và hệ thống đa GPU với kết nối NVLink phục vụ tốt các bài toán mô phỏng cần độ chính xác cao và các phân tích khoa học chuyên sâu.

CNTTShop phân phối chính hãng máy chủ Cisco UCS C880A M8 với mức giá ưu đãi

Cisco UCS C880A M8 là siêu máy chủ AI cao cấp, tối ưu cho các hệ thống AI và HPC quy mô trung tâm dữ liệu với nền tảng NVIDIA HGX B300 8 GPU Blackwell Ultra SXM và CPU Intel Xeon 6 thế hệ mới. Đây là lựa chọn phù hợp cho các bài toán huấn luyện mô hình lớn, suy luận hiệu năng cao và AI factory.

CNTTShop là đơn vị phân phối Cisco UCS C880A M8 tại Việt Nam, cam kết  cung cấp sản phẩm chính hãng, cấu hình đúng chuẩn, tư vấn chuyên sâu và hỗ trợ kỹ thuật chuyên nghiệp. Liên hệ CNTTShop để nhận báo giá ưu đãi và giải pháp phù hợp cho hạ tầng AI của doanh nghiệp bạn.