NVIDIA Jetson Orin Series

NVIDIA Jetson Orin Series là gì?

NVIDIA Jetson Orin là một dòng nền tảng máy tính AI nhúng được NVIDIA thiết kế dành riêng cho những hệ thống tương tác với thế giới thực. Khác với workstation hoặc server chủ yếu xử lý dữ liệu trong môi trường cố định, Jetson Orin thường được lắp trực tiếp vào robot, camera, máy móc công nghiệp, drone hoặc các thiết bị edge hoạt động gần nơi dữ liệu được tạo ra.

Dòng sản phẩm này gồm hai nhóm có vai trò khác nhau:

• Jetson Orin Developer Kits dành cho phát triển phần mềm, kết nối cảm biến, kiểm thử ứng dụng và xây dựng nguyên mẫu.
• Jetson Orin Production Modules dành cho OEM tích hợp vào carrier board và thiết bị thương mại.

NVIDIA hiện cung cấp hai Developer Kit thuộc dòng Orin gồm Jetson AGX Orin Developer Kit và Jetson Orin Nano Super Developer Kit. Nhóm Production Module có bảy phiên bản, được chia thành ba nhánh Jetson AGX Orin, Jetson Orin NX và Jetson Orin Nano.

Tại sao cần Jetson thay vì sử dụng GPU thông thường?

GPU rời có khả năng xử lý AI mạnh, nhưng bản thân card đồ họa chưa phải là một hệ thống nhúng hoàn chỉnh. Nó vẫn cần CPU, bộ nhớ hệ thống, bo mạch chủ, nguồn điện và hệ điều hành để hoạt động.

Jetson Orin cung cấp toàn bộ nền tảng tính toán trên một module nhỏ gọn. Bên cạnh CPU và GPU, hệ thống còn hỗ trợ các giao tiếp thường gặp trong robotics và thiết bị nhúng như MIPI CSI-2, PCIe, USB, Ethernet, UART, SPI, I2C, CAN và GPIO. Các phiên bản Jetson AGX Orin còn có NVDLA và PVA để tăng tốc một số tác vụ deep learning và xử lý thị giác máy tính.

Jetson cũng được thiết kế để hoạt động theo nhiều chế độ nguồn. Nhà phát triển có thể cân bằng giữa hiệu năng, nhiệt độ và điện năng thay vì luôn vận hành hệ thống ở mức công suất cao nhất. Đây là yếu tố quan trọng đối với robot chạy pin, drone, camera ngoài trời hoặc thiết bị được lắp trong không gian kín.

NVIDIA Jetson Orin Series gồm những sản phẩm nào?

Jetson Orin Developer Kits

Developer Kit là bộ máy tính phát triển hoàn chỉnh, gồm module Jetson, reference carrier board, giải pháp tản nhiệt, nguồn điện và các cổng kết nối cần thiết. Người dùng có thể cài JetPack, kết nối camera, màn hình, SSD và cảm biến để bắt đầu phát triển ứng dụng mà chưa phải tự thiết kế phần cứng.

Jetson AGX Orin Developer Kit là bộ kit cao cấp nhất trong dòng Orin. Thiết bị đạt tới 275 TOPS, có bộ nhớ LPDDR5 64GB và nhiều giao tiếp để kết nối camera, mạng, bộ nhớ hoặc card mở rộng. Do sử dụng chung kiến trúc SoC với toàn bộ module Orin, bộ kit có thể được cấu hình để mô phỏng mức hiệu năng và điện năng của AGX Orin, Orin NX hoặc Orin Nano.

Khả năng này đặc biệt hữu ích ở giai đoạn đầu của dự án. Đội ngũ phát triển có thể xây dựng và đo hiệu năng ứng dụng trên AGX Orin Developer Kit, sau đó lựa chọn Production Module phù hợp mà chưa cần mua riêng từng cấu hình để thử nghiệm.

Jetson Orin Nano Super Developer Kit là lựa chọn dễ tiếp cận hơn, hướng đến developer, sinh viên, phòng nghiên cứu và các dự án AI nhúng quy mô nhỏ. Bộ kit đạt tối đa 67 TOPS, sử dụng CPU Arm Cortex-A78AE 6 nhân, GPU Ampere 1.024 CUDA Core, bộ nhớ LPDDR5 8GB và hỗ trợ lưu trữ qua thẻ microSD hoặc SSD NVMe.

Carrier board của Orin Nano Developer Kit còn có thể sử dụng với Production Module Jetson Orin Nano và Jetson Orin NX. Tuy nhiên, khi thay module, người dùng cần chuẩn bị giải pháp tản nhiệt, nguồn điện và cấu hình phần mềm phù hợp với mức công suất của module mới.

Developer Kit được thiết kế cho quá trình phát triển và tạo nguyên mẫu. NVIDIA không định vị module và carrier board đi kèm Developer Kit là cấu hình cuối để sản xuất hàng loạt. Khi đưa sản phẩm ra thị trường, OEM nên chuyển sang Production Module và carrier board được thiết kế hoặc lựa chọn theo yêu cầu thực tế.

Jetson Orin Production Modules

Jetson Orin Production Modules là các module tính toán dành cho nhà sản xuất thiết bị OEM tích hợp vào robot, camera, máy móc công nghiệp và các hệ thống edge AI thương mại. Module cần được lắp trên carrier board riêng để kết nối camera, cảm biến, mạng, lưu trữ và các thiết bị ngoại vi. Dòng sản phẩm được chia thành ba nhóm gồm Jetson AGX Orin, Jetson Orin NX và Jetson Orin Nano.

Jetson AGX Orin là dòng cao cấp nhất, đạt tối đa 275 TOPS với bộ nhớ LPDDR5 lên đến 64GB và công suất cấu hình từ 15W đến 60W. Phiên bản Industrial hỗ trợ bộ nhớ ECC và công suất lên đến 75W. Dòng module này phù hợp với robot tự hành nhiều cảm biến, hệ thống thị giác máy nhiều camera và các pipeline AI cần xử lý đồng thời nhiều tác vụ.

Jetson Orin NX cân bằng giữa hiệu năng, kích thước và điện năng. Phiên bản 16GB đạt tối đa 157 TOPS, trong khi bản 8GB đạt 117 TOPS, với mức công suất từ 10W đến 40W. Kích thước 69,6 x 45mm giúp Orin NX phù hợp với AMR, robot dịch vụ, drone, camera AI và thiết bị công nghiệp nhỏ gọn.

Jetson Orin Nano là dòng dễ tiếp cận nhất, gồm phiên bản 8GB đạt tối đa 67 TOPS và bản 4GB đạt 34 TOPS. Với mức công suất từ 7W đến 25W và cùng kích thước 69,6 x 45mm như Orin NX, dòng module này phù hợp với camera thông minh, robot giáo dục, kiosk, thiết bị IoT và các ứng dụng edge AI có workload vừa phải.

Bảng so sánh thông số kỹ thuật của dòng Jetson Orin Series