Jetson Orin Nano

Jetson Orin Nano是英偉達（NVIDIA）推出的入門級邊緣人工智慧（AI）計算平台與開發者套件，屬於Jetson Orin系列。該平台搭載基於NVIDIA Ampere架構的GPU，提供高達67 TOPS的AI算力，支持運行視覺變換器、大語言模型等生成式AI模型。其硬體配置包括多核Arm CPU、高速LPDDR5記憶體及豐富I/O接口，功耗介於7至25瓦，專為機器人、智慧型無人機、視覺AI等邊緣設備設計。開發者可通過軟體更新將原有套件性能提升至“Super”版本。該平台定位入門級，採用緊湊尺寸，適用於邊緣AI套用的開發。

基本介紹

• 產品類型：邊緣AI計算平台和開發者套件
• 上市時間：2022年9月

產品定義

Jetson Orin Nano是NVIDIA推出的邊緣AI計算平台和開發者套件。其核心產品Jetson Orin Nano Super開發者套件是一款尺寸緊湊的計算設備，面向小型邊緣設備上的生成式AI套用。

該平台為開發者、學生和創客提供開發平台。

產品沿革

2022年9月，NVIDIA推出Jetson Orin Nano系統級模組，其AI性能較上一代產品提升了80倍，成為入門級邊緣AI和機器人技術的新基準。

最初發布的Jetson Orin Nano模組分為兩個版本：Orin Nano 8GB提供最高40TOPS性能，功率為7W至15W；Orin Nano 4GB提供最高20 TOPS性能，功率為5W至10W。

2024年12月，NVIDIA通過軟體更新對Jetson Orin Nano開發者套件進行了升級，將其AI性能從40 TOPS提升至67 TOPS（提升至1.7倍），記憶體頻寬從68 GB/s提升至102 GB/s，CPU時鐘頻率也從1.5 GHz提升至1.7 GHz。鑒於此次性能升級，該套件被更名為“NVIDIA Jetson Orin Nano Super開發者套件”。現有Jetson Orin Nano開發者套件用戶可通過升級JetPack SDK軟體獲得此性能提升。

技術規格

Jetson Orin Nano系列包含提供4GB和8GB兩個版本的標準版，以及通過軟體升級獲得性能提升的Super版。

Super版提供67 INT8 TOPS的AI性能，標準版（8GB和4GB）提供34 INT8 TOPS的AI性能，Super版的性能提升通過軟體更新實現。Super版採用NVIDIA Ampere架構GPU，擁有1024個CUDA核心和32個Tensor Core，標準版同樣採用NVIDIA Ampere架構GPU，擁有512個CUDA核心和16個Tensor Core，GPU最大頻率為1020MHz。Super版搭載6核Arm Cortex-A78AE v8.2 64位處理器，配備1.5MB L2和4MB L3快取。

Super版配備8GB 128位LPDDR5記憶體，頻寬為102 GB/s。Super版功耗範圍為7W至25W，標準版功耗範圍為7W至15W。支持SD卡插槽和外部NVMe存儲。接口包括PCIe Gen3通道、USB 3.2連線埠、MIPI CSI-2攝像頭連線埠、乙太網等。

產品特點

NVIDIA通過軟體升級對Jetson Orin Nano開發者套件進行了性能提升，使其AI性能從40 TOPS提升至67 TOPS，記憶體頻寬從68 GB/s提升至102 GB/s，CPU頻率也從1.5 GHz提升至1.7 GHz，整體性能提升至1.7倍，此次升級後，該產品線更名為Jetson Orin Nano Super。

該平台搭載基於NVIDIA Ampere架構的GPU，採用6核Arm Cortex-A78AECPU，並配備8GB 128位LPDDR5記憶體，支持SD卡插槽和外部NVMe存儲。

Jetson Orin Nano Super開發者套件可提供生成式AI性能，其尺寸為70mm x 45mm，適用於開發者、學生、創客等群體，可套用於機器人、智慧型無人機及邊緣視覺AI等領域，其功耗範圍為7W至25W。

該平台能夠運行各類生成式AI模型，如視覺變換器、大型語言模型、視覺語言模型等，為邊緣設備帶來智慧型推理能力。

套用領域

Jetson Orin Nano系列是入門級邊緣AI和機器人技術的新基準，其高達40-67 TOPS的AI性能、低功耗及小巧外形，使其廣泛套用於機器人、無人機、智慧型視覺、邊緣生成式AI等多個領域。

在機器人領域，Jetson Orin Nano可用於服務機器人、智慧型無人機等設備的感知、定位、實時3D重建和路徑規劃。例如，在歐卡智舶的無人船系統中，搭載了Jetson Orin Nano和Orin NX模組進行邊緣計算，實時處理感測器數據，實現水面環境感知、自主導航和路徑規劃。

在智慧型相機與視覺AI領域，該平台適用於工業質檢、智慧型監控等需要設備上低延遲處理多模態感測器數據的套用。森雲智慧型基於NVIDIA Jetson Orin Nano開發了事件相機開發套件，該套件可用於自動駕駛、智慧醫療監護、物聯網監控及工業視覺套用，藉助其高達40 TOPS的AI性能提升細節運動捕捉和解決方案的精度。

在邊緣生成式AI領域，Jetson Orin Nano Super開發者套件經過軟體升級後，其AI性能提升至67 TOPS，記憶體頻寬達102 GB/s，能夠高效支持基於Transformer架構的生成式AI模型，如大型語言模型、視覺語言模型和視覺變換器的快速推理。

此外，其高度集成和豐富的I/O接口（如多路MIPI CSI-2攝像頭接口、PCIe、USB等）也使其適用於智慧型無人機、服務機器人、智慧型零售分析、手持設備、智慧型儀表等多種嵌入式AI設備與場景。

軟體與生態

NVIDIA為Jetson Orin Nano提供了廣泛的AI軟體生態系統支持。

Jetson Orin Nano完全兼容並支持NVIDIA JetPack SDK，該SDK包含了完整的開發工具、庫和API。例如，JetPack 6.2及後續版本為平台提供了最佳化的驅動程式和開發環境。

平台兼容NVIDIA完整的AI軟體棧，包括用於機器人技術的Isaac、用於視覺AI的DeepStream、用於會話AI的Riva，以及面向視覺AI的Metropolis和感測器數據處理的Holoscan等。

Jetson Orin Nano支持廣泛的AI框架與最佳化推理工具，例如Hugging Face Transformers、Ollama、llama.cpp、vLLM、MLC以及NVIDIA自家的TensorRT-LLM等。

為降低開發者入門門檻，NVIDIA提供了Jetson AI Lab，其中包含近50個簡單易學的教程和預構建容器，覆蓋大型語言模型（LLM）、小型語言模型（SLM）、視覺語言模型（VLM）等多種模型。

其活躍的生態吸引了眾多合作夥伴基於該平台開發解決方案。例如，工業嵌入式解決方案供應商研華科技推出了搭載Jetson Orin Nano的EPC-R7300邊緣AI系統；NVIDIAElite合作夥伴森雲智慧型則基於該平台開發了事件相機開發套件。

市場反響

Jetson Orin Nano系列被行業媒體和開發者社區認為是入門級邊緣AI和機器人技術的新基準。該產品榮獲至頂網2022年度AI計算平台創新獎和CSDN2022年度創新產品與解決方案等獎項。

其通過軟體升級推出的“Super”版本，因將AI性能提升至1.7倍而受到廣泛關注。