DPU server là gì? chức năng và cách thức hoạt động

Trong máy chủ, CPU (Central Processing Unit) là 1 thành phần không thể thiếu, nó đóng vai trò là bộ não của máy chủ đó, nhưng lại là thành phần bị động và không thể lập trình. Về sau, GPU đã được phát triển để chuyên xử lý đồ họa và dần chiếm vai trò quan trọng trong một số ứng dụng máy tính đặc thù.

Tuy nhiên, quy mô của các trung tâm dữ liệu đang phát triển vượt ra khỏi giới hạn bộ xử lý của máy chủ, và cấp thiết cần một bộ xử lý mới mạnh mẽ hơn, giúp cho việc xử lý dữ liệu nhanh hơn. Và DPU đã được ra đời và phát triển và trở thành 1 thành phần quan trọng của máy chủ. Nó giúp tăng tốc khả năng truyền nhận và lưu trữ dữ liệu trên máy chủ trong các trung tâm dữ liệu. DPU mở ra 1 kỷ nguyên mới cho mô hình data center và điện toán đám mây.

Khái niệm về DPU server

DPU được viết từ (Data Processing Unit) là một bộ xử lý hiệu suất cao có thể lập trình, dùng để tăng tốc các chức năng mạng và lưu trữ cho các máy chủ trung tâm dữ liệu.

Các thành phần của DPU:

• CPU đa lõi, hiệu năng cao, có thể lập trình được bằng phần mềm, thường dựa trên kiến trúc ARM.
• Giao diện mạng hiệu suất cao có khả năng phân tích, xử lý và truyền dữ liệu hiệu quả ở tốc độ cao, hoặc tốc độ chung của phần còn lại trên network.
• Một bộ máy tăng tốc linh hoạt và có thể lập trình đa dạng, giúp giảm tải và cải thiện hiệu suất ứng dụng cho AI và Machine Learning, bảo mật, viễn thông và lưu trữ.

Các tính năng của DPU

DPU bao gồm những tính năng chính sau đây: 

• Kết nối tốc độ cao qua một hoặc nhiều giao diện có tốc độ 100 Gigabit đến 200 Gigabit 

•  Xử lý các gói với tốc độ cao 

• Xử lý đa lõi thông qua CPU dựa trên ARM hoặc MIPS (lõi ARM CPU 8x 64-bit)

• Bộ điều khiển bộ nhớ cung cấp hỗ trợ cho RAM DDR4 và DDR5 

• Accelerators

• Hỗ trợ chuẩn PCI Express Gen 4

• Các tính năng bảo mật

• Hệ điều hành tùy chỉnh được tách biệt khỏi hệ điều hành của hệ thống máy chủ

DPU giúp server xử lý và tối ưu luồng dữ liệu vào ra

Trong triển khai hệ thống, DPU đóng vai trò là bộ điều khiển lưu lượng dữ liệu, nó sẽ thực hiện phân phối để gửi và nhận các gói trong mạng. Ngoài ra, nó cũng chịu trách nghiệm tính toán và phân phối tài nguyên lưu trữ.

DPU được cắm vào khe PCIe của máy chủ giống như GPU và chúng cho phép máy chủ tải các chức năng mạng và lưu trữ từ CPU sang DPU, để cho phép CPU chỉ tập trung vào việc chạy hệ điều hành và các ứng dụng hệ thống. Điều này giúp giảm tải cho CPU và giúp cho hệ thống chạy nhanh hơn với hiệu suất cao hơn rất nhiều.

DPU thường sử dụng FPGA có thể lập trình và được tích hợp trong các card mạng để tăng tốc lưu lượng mạng. Điều này giống như cách mà GPU được sử dụng để chuyên xử lý đồ họa, giúp giảm tải các hoạt động tính toán xử lý từ CPU sang GPU.

DPU sẽ trở thành thành phần thứ ba trong các máy chủ trung tâm dữ liệu cùng với CPU (bộ vi xử lý trung tâm) và GPU (xử lý đồ họa) vì khả năng tăng tốc và thực hiện các chức năng mạng và lưu trữ của chúng
Cả 3 thành phần CPU, GPU và DPU sẽ đảm nhận những vai trò riêng của mình:

• CPU sẽ được sử dụng cho mục đích xử lý tính toán chung.
• GPU sẽ được chuyên để xử lý đồ họa.
• DPU sẽ được sử dụng để xử lý dữ liệu và đảm bảo việc truyền dữ liệu tốc độ cao trong các trung tâm dữ liệu.

Một số giải pháp DPU phổ biến

DPU có thể được sử dụng như một bộ xử lý nhúng độc lập, nhưng nó thường được tích hợp vào SmartNIC, bộ điều khiển giao tiếp mạng được sử dụng làm thành phần chính trong máy chủ.

Nvidia đã phát hành một DPU là Nvidia Mellanox BlueField 2 DPU và BlueField 2X DPU. Chúng kết hợp với một GPU Ampere bổ sung, cho phép chức năng trí tuệ nhân tạo trên DPU. Nvidia tích hợp một GPU trên DPU của mình để xử lý bảo mật, mạng và quản lý lưu trữ.

Ví dụ: Machine Learning hoặc Deep Learning có thể chạy trên chính DPU và được sử dụng để xác định và ngăn chặn hành vi tấn công mạng.
 

Các công ty như Intel và Xilinx đang giới thiệu một số sản phẩm DPU. Một số sản phẩm từ Xilinx và Intel là các SmartNIC. SmartNIC của Xilinx và Intel sử dụng kiến trúc FPGA để tăng tốc các chức năng mạng và lưu trữ. FPGA mang lại khả năng tùy chỉnh cho đường dẫn dữ liệu vì bản chất có thể lập trình của FPGA.

Xilinx cung cấp loại SmartNIC ALVEO với nhiều sản phẩm khác nhau. Trong khi đó, Intel cung cấp giải pháp SmartNIC mới được gọi là Silicom FPGA SmartNIC N5010, kết hợp Intel Stratix 10 FPGA với bộ điều hợp Intel Ethernet 800 Series, cung cấp 4 cổng Ethernet 100 Gigabit, giúp cung cấp nhiều băng thông cho các trung tâm dữ liệu. Intel tuyên bố rằng các SmartNIC của họ “tăng cường mức hiệu suất của trung tâm dữ liệu bằng cách giảm tải chức năng chuyển đổi, lưu trữ và bảo mật vào một nền tảng duy nhất kết hợp cả Intel FPGA và Intel Xeon Processors”.

Kết Luận

Tại thời điểm này, DPU đang dần trở nên phổ biến trong các máy chủ trung tâm dữ liệu hiệu suất cao do khả năng giảm tải quá trình xử lý dữ liệu, các chức năng mạng và chức năng lưu trữ từ CPU sang cho DPU, cho phép CPU chỉ tập trung vào việc vận hành hệ thống. Vì vậy, nếu bạn quan tâm đến việc nâng cấp hệ thống máy chủ, hãy vui lòng liên hệ với chúng tôi để có được một giải pháp đáp ứng các yêu cầu cụ thể của bạn.