Logo CNTTShop.vn

Hotline:

Hà Nội: NTT03, Line 1, Thống Nhất Complex, 82 Nguyễn Tuân, Thanh Xuân, Hà Nội. ● HCM: Số 31B, Đường 1, Phường An Phú, Quận 2 (Thủ Đức), TP HCM. ===> Đơn Vị Hàng Đầu Trong Lĩnh Vực Cung Cấp Thiết Bị Security - Network - Wifi - CCTV - Conference - Máy chủ Server - Lưu trữ Storge.
Thiết bị mạng: 0862 158 859 Máy chủ Server: 0866 176 188 - 0968 498 887 Nvidia GPU-AI: 0906 051 599
Danh mục sản phẩm

RDMA là gì? Công nghệ truyền dữ liệu trực tiếp từ xa hiệu suất cao

Yêu cầu về băng thông, hiệu suất kết nối dữ liệu và lưu trữ ngày càng tăng đã thúc đẩy qua trình tiến hóa và tinh chỉnh liên tục mọi thành phần của cơ sở hạ tầng CNTT. Trước đây việc truyền dữ liệu giữa hai thiết bị trong mạng sẽ phụ thuộc vào hiệu suất xử lý của CPU và băng thông của ngăn xếp TCP/IP, chính vì vậy khi cần tốc độ cao hơn và độ trễ thấp thì phương pháp này không còn phù hợp nữa.

Tuy nhiên, việc cải thiện các thành phần hay công nghệ cũ hiện có giới hạn và điều cần thiết là cần áp dụng một cách tiếp cận mới. Chính vì vậy công nghệ RDMA (Remote Direct Memory Access) đã được ra đời là một giải pháp đột phá mở khóa tốc độ truyền dữ liệu cao hơn bằng cách truyền dữ liệu trực tiếp giữa hai vùng nhớ thông qua Card NIC của thiết bị mà không cần CPU hay hệ điều hành xử lý quá trình truyền dữ liệu.

Giới thiệu công nghệ RDMA (Remote Direct Memory Access)

Tài bài viết này CNTTShop sẽ giới thiệu về RDMA với các ưu điểm, cách thức hoạt động và tầm quan trọng của RDMA trong việc truyền tải dữ liệu trong các hệ thống máy chủ, đặc biệt là trong các môi trường yêu cầu hiệu suất cao như AI, HCI, HPC, và trung tâm dữ liệu lưu trữ hiệu suất cao. Ngoài ra, Chúng tôi sẽ cung cấp thông tin về các dòng Card Mạng hỗ trợ RDMA từ các thương hiệu lớn như Mellanox, Intel, và Broadcom, giúp bạn dễ dàng lựa chọn giải pháp tối ưu nhất cho hệ thống của mình.

Mục Lục

RDMA là gì?

RDMA (Remote Direct Memory Access) là một công nghệ cho phép truyền dữ liệu trực tiếp giữa bộ nhớ của hai thiết bị, mà không cần sự can thiệp của CPU, bộ nhớ đệm hay hệ hệ điều hành. Công nghệ này được phát triển từ năm 1990 bởi tập hợp nhiều công ty lớn trong ngành công nghệ như Broadcom, Intel, Mellanox, Dell EMC, Hewlett-Packard, IBM, và Cisco Systems, nhằm mục đích giải quyết tình trạng kém hiệu quả trong truyền dữ liệu truyền thống, cho phép truy cập trực tiếp vào bộ nhớ trên nhiều nút trong mạng với thông lượng cao hơn và độ trẽ thấp hơn.

RDMA sử dụng kỹ thuật zero-copy networking và các giao thức như RoCE, iWARP, InfiniBand để truyền dữ liệu tốc độ cao trực tiếp qua mạng mà không cần sao chép qua các lớp mạng. Điều này giúp giảm độ trễ, tăng thông lượng, giải phóng tài nguyên CPU, đặc biệt hiệu quả trong HPC, trung tâm dữ liệu và lưu trữ tốc độ cao.

Cơ chế hoạt động của RDMA

Để RDMA hoạt động, thì trên Card mạng NIC cần tích hợp giao thức truyển tải RoCE, iWARP hoặc InfiniBand. Thông qua quy trình gọi là Zero-Copy networking, Card mạng này có thể đọc và ghi dữ liệu vào bộ nhớ của máy từ xa mà không cần quá trình ghi dữ liệu vào vùng đệm trong hệ điều hành, cho phép dữ liệu được truyền trực tiếp giữa bộ nhớ ứng dụng và bộ điều hợp mạng (Card NIC).

Cơ chế hoạt động của RDMA

Trong mô hình mạng truyền thống, dữ liệu phải đi qua ngăn xếp mạng của hệ điều hành trên cả máy gửi và máy nhận, bao gồm các lớp giao thức như TCP và IPv4/6, trước khi đến trình điều khiển thiết bị. Ngược lại, RDMA loại bỏ sự tham gia của nhân hệ điều hành (Kernel Bypass), cho phép hệ thống máy khách sao chép dữ liệu trực tiếp từ bộ nhớ của máy chủ vào bộ nhớ của chính nó.

Bằng cách thực hiện quá trình đọc hoặc ghi dữ liệu trực tiếp giữa bộ điều hợp mạng và bộ nhớ ứng dụng, RDMA giúp loại bỏ việc sao chép dữ liệu không cần thiết, giảm tải cho CPU, tăng thông lượng và giảm độ trễ. Điều này giúp lưu trữ từ xa có hiệu suất tương tự như lưu trữ khối nội bộ, đồng thời giải phóng tài nguyên CPU cho các công việc khác.

Những giao thức mạng nào hỗ trợ RDMA

Để các thiết bị như máy chủ, thiết bị lưu trữ,.. thực hiện các giao tiếp RDMA, mỗi thiết bị cần phải cài đặt một Card NIC hỗ trợ RDMA. Các NIC hỗ trợ RDMA ngày nay thường hỗ trợ một hoặc nhiều giao thức mạng sau:

  • RDMA over Converged Ethernet (RoCE): RoCE là một giao thức mạng cho phép giao tiếp RDMA qua Ethernet. Phiên bản mới nhất của giao thức này là RoCEv2, hoạt động trên User Datagram Protocol (UDP) và Internet Protocol (IP), phiên bản 4 và 6. So với RoCEv1, RoCEv2 có khả năng định tuyến (routable), giúp nó có thể mở rộng quy mô tốt hơn. RoCEv2 hiện là giao thức phổ biến nhất để triển khai RDMA và đã được áp dụng rộng rãi.
  • Internet Wide Area RDMA Protocol (iWARP): iWARP sử dụng Transmission Control Protocol (TCP) hoặc Stream Control Transmission Protocol (SCTP) để truyền tải dữ liệu. Giao thức này được phát triển bởi Internet Engineering Task Force (IETF) để các ứng dụng trên máy chủ có thể đọc hoặc ghi trực tiếp vào các ứng dụng chạy trên máy chủ khác mà không cần sự hỗ trợ từ hệ điều hành của cả hai máy chủ.
  • InfiniBand: InfiniBand được thiết kế để hỗ trợ trực tiếp việc truyền tải dữ liệu RDMA, là giao thức tiêu chuẩn cho các kết nối mạng tốc độ cao. InfiniBand RDMA thường được sử dụng trong giao tiếp giữa các hệ thống và được sử dụng rộng rãi trong các môi trường HPC và trung tâm AI. Nhờ khả năng kết nối các cụm máy chủ lớn nhanh chóng, InfiniBand đã được áp dụng trong nhiều trường hợp khác như môi trường dữ liệu AI, cơ sở dữ liệu giao dịch lớn, các hệ thống ảo hóa cao và các ứng dụng web yêu cầu tài nguyên cao.

Giao thức hỗ trợ công nghệ RDMA

Ưu điểm của Remote Direct Memory Access (RDMA)

RDMA có nhiều ưu điểm mang lại nhiều lợi ích quan trọng, khiến nó trở thành công nghệ được ưa chuộng cho truyền dữ liệu hiệu suất cao trong môi trường mạng. Dưới đây là những lợi ích chính:

Độ trễ thấp

RDMA cho phép giao tiếp trực tiếp giữa bộ nhớ mà không cần đi qua ngăn xếp giao thức mạng truyền thống, giảm thiểu sự can thiệp của CPU. Điều này giúp giảm đáng kể độ trễ, khiến RDMA trở thành lựa chọn lý tưởng cho các ứng dụng yêu cầu xử lý dữ liệu theo thời gian thực, chẳng hạn như giao dịch tài chính và điện toán hiệu năng cao.

Băng thông cao

Bằng cách truyền dữ liệu trực tiếp giữa các vùng nhớ, RDMA đạt được băng thông cao hơn nhiều so với các phương pháp truyền dữ liệu thông thường. Điều này đặc biệt hữu ích trong các môi trường cần di chuyển lượng lớn dữ liệu nhanh chóng, chẳng hạn như trung tâm dữ liệu và điện toán đám mây.

Công nghệ RDMA hỗ trợ các giao thức mạng hiện đại như InfiniBand, RoCE và iWARP, giúp RDMA có thể tận dụng tối đa băng thông của mạng, đặc biệt là trong các kết nối tốc độ cao như 25GbE, 40GbE, 100GbE hoặc InfiniBand.

Giảm tải cho CPU

RDMA chuyển giao nhiệm vụ truyền dữ liệu sang các card mạng hỗ trợ RDMA, giảm thiểu sự tham gia của CPU vào quá trình này. Nhờ đó, tài nguyên CPU được giải phóng cho các tác vụ quan trọng khác, giúp cải thiện hiệu suất và hiệu quả tổng thể của hệ thống, đặc biệt trong các khối lượng công việc phụ thuộc nhiều vào truyền dữ liệu.

Khả năng mở rộng

RDMA hỗ trợ giao tiếp hiệu quả giữa nhiều nút mà không làm tăng đáng kể độ trễ hoặc tải CPU. Điều này giúp RDMA có khả năng mở rộng cao, phù hợp với các trung tâm dữ liệu đang phát triển và môi trường điện toán phân tán quy mô lớn.

Cải thiện hiệu suất ứng dụng

Các ứng dụng yêu cầu trao đổi dữ liệu thường xuyên giữa các máy chủ, chẳng hạn như cơ sở dữ liệu, giải pháp lưu trữ và nền tảng ảo hóa, được hưởng lợi từ khả năng của RDMA trong việc giảm thời gian và tài nguyên cần thiết cho truyền dữ liệu, giúp cải thiện hiệu suất và khả năng phản hồi.

Tiết kiệm năng lượng

Bằng cách giảm tải công việc cho CPU và tối ưu hóa quy trình truyền dữ liệu, RDMA có thể giúp giảm mức tiêu thụ điện năng trong trung tâm dữ liệu, khiến nó trở thành một lựa chọn tiết kiệm năng lượng hơn cho các hệ thống mạng hiệu suất cao.

Hoạt động song song

Quá trình truyền dữ liệu được diễn ra đồng thời với các hoạt động khác trên cùng hệ thống, nâng cao hiệu quả tổng thể của hệ thống.

Tính bảo mật

RDMA yêu cầu khóa bảo mật và mã định danh để kiểm soát quyền truy cập bộ nhớ từ xa, giúp tăng tính bảo mật trong việc truyền dữ liệu trực tiếp.

Các sản phẩm và nhà cung cấp hỗ trợ RDMA

Một số sản phẩm và nhà cung cấp hỗ trợ RDMA, trong số đó có:

  • Máy chủ Nvidia DGX.
  • Nvidia ConnectX network adapters và Switch InfiniBand.
  • Máy chủ Dell PowerEdge.
  • Intel Xeon Scalable processors.
  • Card mạng Mellanox NVIDIA: ConnectX-4, ConnectX-5, ConnectX-6, ConnectX-7
  • Card mạng intel: Intel® Ethernet X722-DA2, Intel® Ethernet X722-DA4, Intel® Ethernet E810.
  • Card mạng Broadcom: Broadcom NIC 400G, Broadcom 57800, Broadcom BCM.

Các trường hợp sử dụng RDMA hiệu quả nhất?

Khả năng của RDMA trong việc cung cấp độ trễ thấp, băng thông cao và giảm tải cho CPU khiến nó đặc biệt hữu ích trong nhiều trường hợp sử dụng yêu cầu hiệu suất cao. Dưới đây là một số trường hợp sử dụng tiêu biểu mà RDMA phát huy thế mạnh:

Điện toán hiệu năng cao (HPC)

Trong môi trường HPC, RDMA được sử dụng rộng rãi để tăng cường hiệu suất của các cụm máy tính bằng cách cho phép truyền dữ liệu giữa các nút một cách nhanh chóng và hiệu quả. Điều này đặc biệt quan trọng trong các ứng dụng như mô phỏng khoa học, mô hình dự báo thời tiết và động lực học chất lỏng tính toán (CFD), nơi các tập dữ liệu lớn cần được xử lý và trao đổi nhanh chóng.

Dịch vụ tài chính

RDMA có giá trị cao trong lĩnh vực dịch vụ tài chính, đặc biệt là trong các ứng dụng yêu cầu độ trễ cực thấp như giao dịch tần suất cao. Trong những môi trường này, mỗi mili-giây đều có thể ảnh hưởng đáng kể đến kết quả giao dịch.

Trung tâm dữ liệu

Trong trung tâm dữ liệu, RDMA cải thiện hiệu suất của các mạng lưu trữ, hạ tầng siêu hội tụ (HCI) và nền tảng điện toán đám mây. Bằng cách tích hợp RDMA trên Converged Ethernet (RoCE) hoặc InfiniBand, các trung tâm dữ liệu có thể đạt tốc độ truyền dữ liệu nhanh hơn và giảm tải cho CPU, đặc biệt có lợi trong các môi trường có nhu cầu truyền tải dữ liệu lớn.

Các khối lượng công việc Machine Learning và AI

RDMA ngày càng được sử dụng trong lĩnh vực máy học và trí tuệ nhân tạo, nơi các mô hình đào tạo dữ liệu quy mô lớn đòi hỏi truy cập nhanh vào các tập dữ liệu phân tán. RDMA giúp giảm thời gian truyền dữ liệu giữa các node đào tạo, tăng tốc kết quả và rút ngắn chu kỳ lặp lại của mô hình.

Ảo hóa và dịch vụ đám mây

RDMA đóng vai trò quan trọng trong môi trường ảo hóa và dịch vụ đám mây bằng cách cải thiện hiệu suất di chuyển máy ảo (VM) và tăng tốc độ truy cập lưu trữ. Điều này giúp giảm thời gian ngừng hoạt động và nâng cao chất lượng dịch vụ, khiến RDMA trở thành công nghệ quan trọng đối với các nhà cung cấp dịch vụ đám mây muốn cung cấp các dịch vụ hiệu suất cao cho khách hàng.

Giải pháp lưu trữ

RDMA được ứng dụng trong các giải pháp lưu trữ để tăng tốc độ truy cập vào các thiết bị lưu trữ từ xa, chẳng hạn như NVMe over Fabrics (NVMe-oF). Bằng cách sử dụng RDMA, các mạng lưu trữ này có thể giảm đáng kể độ trễ và cải thiện tốc độ truy xuất dữ liệu, điều này đặc biệt quan trọng đối với các ứng dụng yêu cầu truy xuất dữ liệu nhanh, chẳng hạn như phân tích thời gian thực và quản lý cơ sở dữ liệu quy mô lớn.

So sánh RDMA với truyền dữ liệu truyền thống

RDMA nổi bật so với các phương thức giao tiếp mạng truyền thống nhờ những cải tiến đáng kể về hiệu suất, độ trễ thấp hơn và hiệu quả cao hơn. Dưới đây là bảng so sánh chi tiết những điểm khác biệt chính:

  • Hiệu suất: Truyền dữ liệu truyền thống phụ thuộc nhiều vào CPU và hệ điều hành để xử lý việc truyền dữ liệu. Quá trình này bao gồm nhiều bước như xử lý giao thức, lắp ráp/giải mã gói tin và kiểm tra lỗi, gây ra độ trễ và tiêu tốn đáng kể tài nguyên CPU. Trong khi đó, RDMA chuyển các tác vụ này sang các card mạng hỗ trợ RDMA, cho phép dữ liệu di chuyển trực tiếp giữa bộ nhớ của các máy khác nhau mà không cần thông qua CPU và hệ điều hành. Điều này giúp giảm tải hệ thống, tăng băng thông và cải thiện hiệu suất tổng thể.
  • Giảm độ trễ: Một trong những lợi ích quan trọng nhất của RDMA là khả năng giảm đáng kể độ trễ. Các phương pháp truyền thống như TCP/IP yêu cầu nhiều lần chuyển đổi ngữ cảnh giữa không gian người dùng và không gian kernel, đồng thời thực hiện nhiều bước xử lý giao thức, làm tăng độ trễ trong mỗi lần truyền dữ liệu. RDMA loại bỏ những bước này bằng cách cung cấp quyền truy cập bộ nhớ trực tiếp, giúp giao tiếp gần như không có độ trễ. Điều này đặc biệt phù hợp với các ứng dụng yêu cầu độ trễ thấp như giao dịch tần số cao (HFT), phân tích thời gian thực và HPC.
  • Tối ưu hóa hiệu suất CPU: Trong mạng truyền thống, CPU phải quản lý quá trình truyền dữ liệu, bao gồm cả việc sao chép dữ liệu giữa bộ nhớ ứng dụng và bộ đệm mạng. Điều này không chỉ tiêu tốn tài nguyên CPU mà còn giới hạn lượng dữ liệu có thể xử lý đồng thời. RDMA giảm thiểu sự tham gia của CPU bằng cách cho phép card mạng (NIC) trực tiếp quản lý quá trình truyền dữ liệu, giải phóng CPU để thực hiện các tác vụ quan trọng khác. Sự tối ưu này đặc biệt hữu ích trong các trung tâm dữ liệu và môi trường đám mây, nơi mà việc tối đa hóa hiệu suất CPU là điều cần thiết để xử lý khối lượng công việc lớn một cách hiệu quả.
  • Giảm chi phí xử lý giao thức: Giao tiếp mạng truyền thống liên quan đến nhiều chi phí xử lý giao thức, bao gồm sửa lỗi, kiểm soát tắc nghẽn và sắp xếp gói tin. RDMA giúp giảm bớt những chi phí này bằng cách trực tiếp quản lý vị trí dữ liệu ở cấp độ phần cứng, đảm bảo truyền dữ liệu đáng tin cậy với mức xử lý tối thiểu.
  • Khả năng mở rộng và linh hoạt: Mô hình giao tiếp tinh gọn của RDMA cho phép nó mở rộng tốt hơn so với các phương thức truyền thống, vốn dễ bị giới hạn bởi chi phí xử lý giao thức và sự phụ thuộc vào CPU khi số lượng nút trong hệ thống tăng lên. RDMA hỗ trợ các môi trường phân tán quy mô lớn mà không làm tăng đáng kể độ trễ hoặc tải CPU, khiến nó trở thành lựa chọn lý tưởng cho các trung tâm dữ liệu mở rộng và kiến trúc đám mây linh hoạt.

Bảng so sánh:

Tiêu chí Truyền dữ liệu truyền thống (TCP/IP) Truyền dữ liệu qua RDMA
Cơ chế hoạt động Dữ liệu đi qua ngăn xếp mạng TCP/IP, cần sao chép giữa bộ nhớ người dùng (userspace) và kernel. Dữ liệu được truyền trực tiếp từ bộ nhớ ứng dụng đến card mạng (NIC), bỏ qua kernel.
Sao chép dữ liệu Cần sao chép dữ liệu nhiều lần giữa các lớp của hệ thống. Zero-copy, không cần sao chép dữ liệu giữa các lớp.
Sử dụng CPU CPU phải xử lý dữ liệu, thực hiện chuyển đổi ngữ cảnh (context switch) giữa userspace và kernel. Không tiêu tốn tài nguyên CPU trên máy chủ đích, giúp CPU tập trung vào tác vụ chính.
Độ trễ (Latency) Cao hơn do phải xử lý qua nhiều lớp của hệ điều hành. Thấp hơn đáng kể, vì dữ liệu truyền trực tiếp qua NIC.
Hiệu suất xử lý Bị giới hạn bởi hiệu suất CPU và băng thông của ngăn xếp TCP/IP. Tối ưu hiệu suất, vì dữ liệu truyền trực tiếp qua phần cứng mạng.
Mô hình truyền dữ liệu Truyền dữ liệu dưới dạng luồng (stream-based). Quản lý dữ liệu theo thông điệp (message-based) hoặc truy cập bộ nhớ từ xa.
Ứng dụng phổ biến Hệ thống mạng thông thường, truyền file qua TCP/IP, dịch vụ web. HPC, Big Data, AI/ML, lưu trữ hiệu suất cao (NVMe-oF), tài chính thời gian thực.

Phần kết luận

Remote Direct Memory Access (RDMA) cải thiện đáng kể mạng lưới kết nối hiện đại bằng cách cho phép giao tiếp trực tiếp giữa bộ nhớ với bộ nhớ, bỏ qua CPU và hệ điều hành để giảm độ trễ, tăng thông lượng và giảm mức sử dụng CPU. Các giao thức của nó, bao gồm InfiniBand, RoCE và iWARP, cung cấp các giải pháp linh hoạt cho nhiều môi trường khác nhau, từ trí tuệ nhân tạo, HPC đến các mạng Ethernet tiêu chuẩn.

CNTTShop hiểu rõ lợi ích và tầm quan trọng của RDMA, chúng tôi đang cung cấp các giải pháp và thiết bị hỗ trợ công nghệ RDMA để mang lại hiệu suất và hiệu quả vượt trội trong lưu trữ và kết nối mạng. Đặc biệt trên các máy chủ AI hay các thiết bị mạng do chúng tôi cung cấp có hỗ trợ các Card mạng và công nghệ kết nối với các giao thức InfiniBand, RoCE và iWARP đang là những lựa chọn hàng đầu trong các hệ thống mạng hiệu suất cao.

Nếu bạn đang tim kiếm giải pháp HPC, Big Data, AI/ML, lưu trữ hiệu suất cao (NVMe-oF), giao dịch tài chính thời gian thực. Hãy liên hệ tới CNTTShop để được hỗ trợ tốt nhất.

Lê Văn Tuấn

Là chuyên gia trong lĩnh vực Network System, Security, Server.. Có kinh nghiệm nhiều năm tư vấn giải pháp mạng, triển khai các giải pháp CNTT và phân phối thiết bị mạng Switch, Wifi, Router, Máy chủ Server, Lưu trữ Storage, Tường lửa Firewall, Video Conferencing, Module quang, Load Balancing. Hiện tại tôi là Founder và Managing Director công ty TNHH Công Nghệ Việt Thái Dương (CNTTShop.vn).

Bình luận bài viết!

Có 0 bình luận:
Chuyên mục chính
Bài viết cùng danh mục