Tổng Hợp Các Sản Phẩm Và Công Nghệ Của NVIDIA cho AI, Học Sâu, Đồ Họa và Tính Toán Hiệu Năng Cao.

Sự phát triển của trí tuệ nhân tạo (AI), học sâu, đồ họa và tính toán hiệu năng cao đang định hình lại cách chúng ta tạo ra, phân tích và tương tác với dữ liệu. Để đáp ứng nhu cầu ngày càng tăng về hiệu suất tính toán, NVIDIA đã tiếp tục đổi mới và dẫn đầu thị trường với một loạt các sản phẩm và công nghệ tiên tiến. Trong số đó, NVIDIA Blackwell GPU, NVIDIA Tensor Cores, NVIDIA Grace CPU, NVIDIA GB200 Grace Blackwell Superchip, NVIDIA GB200 NVL72, và NVLink đã thiết lập nên những tiêu chuẩn mới cho hiệu suất, khả năng mở rộng và hiệu quả năng lượng. Hãy cùng CNTTShop tìm hiểu tổng quan về những sản phẩm và công nghệ này tại bài viết dưới dây.

1. NVIDIA Blackwell GPU

Blackwell là thế hệ GPU mới nhất của NVIDIA được thiết kế dùng cho mục đích tăng tốc tính toán hiệu năng cao với hàng nghìn tỷ tham số, nó mở ra một trang mới cho các thế hệ AI Tạo Sinh (generative AI). GPU Backwell chứa 208 tỷ bóng bán dẫn và được sản xuất bằng quy trình tùy biến đặc biệt TSMC 4NP dành riêng cho dòng GPU này. Tất cả các Blackwell GPU đều có hai khuôn giới hạn mặt kẻ ô được kết nối bằng kết nối chip-chip 10 terabyte mỗi giây (TB/s) trong một GPU thống nhất.

2. NVIDIA Tensor Cores

NVIDIA Tensor Cores cho phép tính toán có độ chính xác hỗn hợp trong môi trường điện toán với rất nhiều tham số đầu vào, điều chỉnh linh hoạt các phép tính để tăng tốc thông lượng trong khi vẫn duy trì độ chính xác và nâng cao tính bảo mật. Thế hệ Tensor Cores mới nhất nhanh hơn bao giờ hết với các mô hình AI và các hệ thống điện toán hiệu năng cao (HPC). Nó giúp tăng tốc gấp 4 lần trong việc đào tạo các mô hình AI Tạo Sinh với hàng nghìn tỷ tham số, và cho hiệu suất suy luận tăng gấp 30 lần, NVIDIA Tensor Cores đã tăng tốc mọi khối lượng công việc cho các nhà máy hiện đại dùng AI.

3. NVIDIA Grace CPU

Để tăng tốc độ xử lý của các CPU, NVIDIA đưa ra công nghệ thiết kế VIDIA Grace™CPU chuyên biệt cho môi trường Data Center CPU NVIDIA Grace mang lại hiệu suất trên mỗi watt gấp đôi so với các kiến trúc CPU x86-64 thông thường. NVIDIA sử dụng các dòng CPU Datacenter của ARM kết hợp với công nghệ NVLink Chip-To-Chip (VLink-C2C) để kết nối 2 CPU ARM lại với nhau tạo ra một Siêu CPU với số Core lên đến 144 Cores, bộ nhớ đệm L2, L3 lớn hơn, tốc độ BUS giữa CPU và RAM lên đến 1 TB/s. Việc này giúp đáp ứng được các yêu cầu cao nhất cho việc tính toán và xử lý của các mô mình AI hiện đại cũng như các trung tâm dữ liệu với hàng nghìn tỷ tham số động.

4. NVIDIA GB200 Grace Blackwell Superchip

Một siêu Chíp NVIDIA GB200 Grace Blackwell Superchip được tạo ra từ sự kết hơp giữa 01 NVIDIA Grace CPU và 02 NVIDIA 2 Blackwell GPU thông qua các kết nối NVLINK chip-to-chip với tốc độ siêu cao 900GB/s với năng lượng tiêu thụ cực thấp ultra-low-power. Siêu Chíp GB200 Grace Blackwell Superchip là thành phần chính để xây dựng nên Siêu máy tính NVIDIA GB200 NVL72 chuyên dụng cho AI Tạo Sinh thế hệ kế tiếp và các Datacenter với các ứng dụng tính toán hàng nghìn tỷ tham số động.

5. NVIDIA GB200 NVL72

GB200 NVL72 là hệ thống siêu máy chủ này bao gồm 32 GB200 Grace Blackwell Superchip (bao gồm 36 NVIDIA Grace CPU kết hợp với 72 NVIDIA Blackwell GPU) tất cả được tích hợp trong một tủ RACK và cả hệ thống được làm mát bằng chất lỏng (liquid-cooled). NVIDIA đã sử dụng NVLink để kết nối các GB200 Grace Blackwell Superchip lại với nhau tạo ra một 72-GPU NVLink domain và do vậy cả RACK này được xem như một Siêu Chip nó cho phép tăng tốc độ lên 30 lần của các suy luận đối với các mô hình siêu ngôn ngữ LLM với hàng nghìn tỷ tham số (trillion-parameter) trong thời gian thực.

6. NVLink

NVLink được NVidia phát triển (từ năm 2014) công nghệ này giúp cho tốc độ truyền dữ liệu giữa CPU - GPU và giữa các GPU với nhau nhanh hơn từ 5-12 lần so với PCIe. Không giống như PCIe, một GPU hoặc một Chip có thể có nhiều NVLink, và các GPU / Chip có thể sử dụng các kết nối dạng Mesh Networking để truyền dữ liệu với nhau thay vì kiến trúc HUB tập trung như của PCIe.

7. Tổng kết

Trên đây là khái niệm cơ bản về các sản phẩm và công nghệ tiên tiến của NVIDIA, bao gồm NVIDIA Blackwell GPU, NVIDIA Tensor Cores, NVIDIA Grace CPU, NVIDIA GB200 Grace Blackwell Superchip, NVIDIA GB200 NVL72, và NVLink. Đây đều là những thành tựu to lớn của NVIDIA, một thương hiệu nổi tiếng toàn cầu trong lĩnh vực công nghệ. Với những đóng góp này, NVIDIA không chỉ khẳng định vị thế hàng đầu của mình trong ngành công nghệ đồ họa và tính toán hiệu năng cao mà còn tiếp tục ảnh hưởng sâu rộng tới các lĩnh vực trí tuệ nhân tạo AI và học sâu.

Hi vọng trên đây là những thông tin bổ ích tới bạn đọc, nếu cần tư vấn các giải pháp hạ tầng CNTT và Điện toán Hiệu năng cao (HPC) cho AI vui lòng liên hệ tới chúng tôi để được các chuyên gia hỗ trợ. Và đừng quên theo dõi chúng tôi trên Website, Youtube, Facebook, Tiktok để nắm được những thông tin kiến thức công nghệ hữu ích.