NVIDIA HGX B300 là một hệ thống tích hợp 8 GPU NVIDIA Blackwell Ultra SXM và các công nghệ kết nối hiện đại. HGX B300 được thiết kế làm nền tảng tính toán hiệu năng cao cho các máy chủ AI HGX, đáp ứng các công việc đòi hỏi hiệu suất xử lý cực cao như huấn luyện mô hình AI, phân tích dữ liệu lớn và các công việc HPC phức tạp trong trum tâm dữ liệu.

Thông số kỹ thuật của NVIDIA HGX B300
Specification |
NVIDIA HGX B300 |
Form Factor |
8x NVIDIA Blackwell Ultra SXM |
FP4 Tensor Core** |
144 PFLOPS | 105 PFLOPS |
FP8/FP6 Tensor Core* |
72 PFLOPS |
INT8 Tensor Core* |
2 POPS |
FP16/BF16 Tensor Core* |
36 PFLOPS |
TF32 Tensor Core* |
18 PFLOPS |
FP32 |
600 TFLOPS |
FP64 / FP64 Tensor Core |
10 TFLOPS |
Total Memory |
Up to 2.3 TB |
NVLink |
5th Generation |
NVIDIA NVSwitch™ |
NVLink 5 Switch |
GPU-to-GPU Bandwidth via NVSwitch |
1.8 TB/s |
Total NVLink Bandwidth |
14.4 TB/s |
Networking Bandwidth |
1.6 TB/s |
Attention Performance |
2X |
Các đặc điểm nổi bật của HGX B300
HGX B300 được thiết kế thành một bo mạch gồm 8 GPU NVIDIA Blackwell Ultra SXM thế hệ mới với bộ nhớ HBM3e 2.3TB, được trang bị các công nghệ hiện đại bậc nhất như: kết nối NVlink 5.0 băng thông 1,8 TB/s. NVSwitch băng thông 14,4 TB/s, và kết nối mạng 800 Gb/giây.
NVLink thế hệ thứ 5 trên HGX B300 cung cấp băng thông 1,8 TB/s cho mỗi kết nối GPU-to-GPU, tổng băng thông lên đến 14,4 TB/s nhờ NVSwitch.
NVIDIA HGX B300 còn được trang bị Card ConnectX-8 SuperNIC cung cấp tốc độ 800Gb/giây cho cả giao tiếp GPU-to-NIC và NIC-to-network, cải thiện đáng kể hiệu suất truyền tải dữ liệu của các cụm GPU HGX trong hệ thống tính toán AI. Với nền tảng này trung tâm dữ liệu của bạn phù hợp triển khai hỗ trợ mạng NVIDIA Quantum-X800 InfiniBand và Spectrum-X Ethernet, đồng thời tích hợp NVIDIA BlueField-3 DPU giúp tăng cường bảo mật, dễ dàng quản lý mạng và khả năng mở rộng hạ tầng.
Hỗ trợ bộ nhớ HBM3e lên đến 2,3 TB, giúp xử lý các mô hình và tập dữ liệu rất lớn một cách hiệu quả.
Nền tảng này mang tới hiệu suất suy luận AI tăng gấp 11 lần so với thế hệ GPU Hopper trước đó trên các mô hình ngôn ngữ lớn như Llama 3.1 405 tỷ tham số. Đồng thời hiệu suất training AI tăng gấp 4 lần nhờ công nghệ Transformer Engine thế hệ thứ hai và Tensor Core tùy chỉnh của Kiến trúc GPU Blackwell.
HGX B300 có thiết kế hỗ trợ cả làm mát bằng không khí và làm mát bằng chất lỏng, phù hợp với các trung tâm dữ liệu quy mô lớn.
NVIDIA HGX B300 dùng để làm gì?
Cụm bo mạch GPU HGX B300 được thiết kế để tích hợp vào trong các máy chủ AI HGX của các thương hiệu DELL, HPE, Lenovo, SuperMicro. Những máy chủ này sẽ có hiệu suất cực cao để xây dựng một trung tâm dữ liệu chuyên huấn luyện mô hình AI khổng lồ, suy luận AI quy mô lớn, điện toán hiệu năng cao hay làm máy chủ trong hệ thống hạ tầng AI cloud như AWS, Azure, GCP, Oracle Cloud, v.v.
Mua máy chủ AI tích hợp HGX B300 chính hãng, giá tốt, tại CNTTShop
Đây là một lựa chọn tuyệt vời để xây dựng máy chủ AI đẳng cấp cao, hiệu suất mạnh nhất. Máy chủ tích hợp HGX B300 có thể đáp ứng mọi yêu cầu công việc và ứng dụng phức tạp nhất hiện nay, nếu bạn đang quan tâm tới các giải pháp máy chủ AI HGX hãy liên hệ tới CNTTShop để được hỗ trợ tốt nhất.
Chúng tôi tự hào là đơn vị uy tín cung cấp máy chủ AI và các giải pháp về cơ sở hạ tầng CNTT hiệu năng cao hàng đầu Việt Nam, đồng hành cùng hàng trăm doanh nghiệp, viện nghiên cứu, trung tâm dữ liệu và tổ chức trong việc triển khai các hệ thống AI hiện đại, quy mô lớn.
Công Ty TNHH Công Nghệ Việt Thái Dương - CNTTShop
Địa chỉ: NTT03, Thống Nhất Complex, 82 Nguyễn Tuân, Thanh Xuân, Hà Nội.
Địa chỉ: Số 13, đường 7C, khu phố 4, phường An Phú, TP Thủ Đức, Hồ Chí Minh
Điện Thoại: 0906 051 599
Email: kd@cnttshop.vn
website: cnttshop.vn
Bạn đang cần tư vấn về sản phẩm: #HGX-B300 ?