伺服器世界

NVIDIA發表Jetson Xavier NX世界最小超級電腦,僅399美元,主打邊緣運算AI應用

文.圖/Johan 2019-11-07 02:00:00
NVIDIA不僅在顯示卡市場擁有超高市場占有率,在AI與深度學習等領域也有各種不同的解決方案,並以絕佳效能稱霸其應用市場,成為AI運算領頭羊。為加速AI智慧機器的應用,NVIDIA推出了Jetson超小型AI應用電腦家族,讓開發者能夠透過NVIDIA Jetson平台解決方案,來開發出具有AI能力的機器人(Robot)、無人機(Drone)、智慧型影片分析(IVA)等相關應用程式,以及其他具有自行思考的智慧機器(Intelligent Machine)。

在MLPerf的邊緣裝置效能測試中,NVIDIA的Xavier家族慘電Intel與Qualcomm的AI平台 (圖合成.設計對白/PCDIY!)


NVIDIA的Jetson家族,目前有最小的Nano、TX2系列,以及AGX Xavier系列。分別擁有不同的效能等級,價位依序是從129、249、599美元。然而在後兩者中間,似乎沒有一個的產品可以補足這350美元的價差鴻溝,因此江湖的老黃刀法再現,切出了一個全新的Jetson Xavier NX,主打399美元的產品,同樣是Nano的體積,但效能卻是Nano的6倍!並於11/7正式推出!

NVIDIA推出的Jetson Xavier NX模組,同樣是Jetson Nano腳位,但效能突飛猛進! 建議399美元


Jetson Xavier NX小小一片,AI應用無限!

由於當今AI運算的場域,可以遍及到雲端(數據中心)、裝置端(消費者所拿的裝置),以及新的邊緣(Edge)端(也就是邊緣電腦),當雲端部份NVIDIA已經有DGX、HGX、NGC與Tesla等伺服器專用的AI級電腦與GPU加速卡等產品布局,而邊緣端方面,也有EGX相關的布局,至於裝置端,NVIDIA則是推出Jetson家族的AI級單板電腦,讓開發者來透過其AI平台,開發出各種嵌入式智慧裝置與應用。

不過以Jetson家族來說,入門級的Jetson Nano是Maxwell架構GPU,進階級的Jetson TX2也只採用Pascal架構GPU,跟當今以Volta GPU為主的Jetson AGX Xavier世代相比,還是有一些效能差距。此外,當今的機器學習應用也需要更高的效能,但又要有Jetson Nano那樣70mm x 45mm維持纖細身材的裝置,因此為弭平這樣的狀況,NVIDIA推出了新的Jetson Xavier NX (NX其實是Nano版本的Xavier之意),同樣是Jetson Nano的體積,但這次採用Volta GPU架構設計,效能可達到Xavier那樣的等級!使其在MLPerf (機器學習效能測試)的各項測試分數上都贏過其他競爭對手,且僅售399美元,成為當今最強悍的邊緣運算專用AI級電腦!

Jetson Xavier NX模組的規格如下:

•GPU: NVIDIA Volta架構 含384條NVIDIA CUDA核心與48組Tensor核心,外加2個NVDLA (NVIDIA深度學習加速器)
• CPU: 6核心Carmel Arm 64-bit CPU,含6MB L2 + 4MB L3快取
• 視訊: 2組4K30編碼器與2組4K60解碼器
• 相機: 支援高達6組CSI介面之相機 (36來自虛擬通道); 12條通道 (3x4 或 6x2)的MIPI CSI-2介面
• 記憶體: 8GB 128-bit LPDDR4x; 頻寬51.2 GB/second
• 網路連接: Gigabit乙太網路
• 支援作業系統: Ubuntu相容之Linux
• 模組大小: 70x45mm
• 開發軟體: NVIDIA JetPack SDK (軟體開發工具)

Jetson Xavier NX介紹簡報

以下就透過簡報來看看這台強悍的Jetson Xavier NX超小AI單板電腦吧!

說到AI喔!這就是AI一天內所做的事!從左邊創建AI開始,餵入一堆演算法與資料之後,就在裝置端與伺服器端進行深度學習「訓練」並產生出各種「推論」,至於右邊推論也就是AI應用端,其應用程式必須能在數據中心的伺服器,或是邊緣裝置端的電腦上來執行


以MLPerf推論v0.5為例,其擁有各種應用程式與測試基準,可以在資料中心的伺服器,或是邊緣電腦/行動裝置上來執行,並依據不同的使用場景(線下/線上,或是單/多線)來達到不同的應用需求


NVIDIA在MLPerf數據中心類之測試項目中,每種測試項目都領先群雄,無論是線下(Offline)使用情境,或是線上(Server)使用情境,都輕輕鬆鬆幹掉對手


至於在邊緣裝置的MLPerf測試項目中,同樣也是擊敗其他對手,無論是單線(Single-Stream)使用情境,或是多線(Multi-Stream)使用情境,都絲毫不留情面痛宰對手好幾倍!


由於新一代AI推論應用難度變高,需要在各種面相提供具備可程式化與卓越設計。包括產生多樣又複雜的類神經網路、可延伸的預處理與後處理能力,並能在多樣的推論運算平台上執行


如今NVIDIA的GPU推論端已經廣泛部署於各行各業的伺服器、雲端服務平台、邊緣平台,可執行各種多樣化的推論執行需求,包括語音辨識、自然語言處理、文字轉語音、推薦系統、物件偵測、翻譯等應用需求


老黃隆重向您介紹:Jetson Xavier NX! 擁有Xavier等級效能,卻只有Nano的身材!是世界上最小的AI超級電腦。擁有21 TOPS效能,功耗僅10~15W,可執行所有CUDA-X的AI模型,399美元起!


Jetson Xavier NX的效能比自家小弟Nano和TX2快超級多,但只比其大哥Xavier慢一些些而已,399美元,剛好補足這個市場區隔的需求


Jetson Xavier NX可應用在最關鍵的機器人與嵌入式應用領域,像是無人機、高解析度感測器、視訊分析、嵌入式裝置等等,使其成為智慧裝置


這就是全新Jetson家族,總共4款:Jetson Nano、Jetson TX2系列、Jetson Xavier NX與Jetson AGX Xavier系列


Jetson Xavier NX的詳細規格


Jetson家族的詳細規格比較


目前,Jetson家族產品已擁有3000個客戶,並有40萬個開發者,以Jetson平台來開發出各種AI應用產品或服務


完整的端點至端點系統。從訓練、模擬到推論,NVIDIA全部搞定


總結:NVIDIA在伺服器端或是邊緣單晶片端的全新AI推論效能評測都獲得領先、新一代AI推論應用難度變高,而NVIDIA GPU推論應用早就廣泛部署完成、新的NVIDIA Jetson Xavier NX產品組合,讓邊緣AI應用更加豐富


以上就是本次NVIDIA最新Jetson Xavier NX邊緣AI單板電腦的簡介說明,謝謝收看!



發表您的看法

請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。

請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。

請勿侵犯個人隱私權,將他人資料公開張貼在留言版內。

請勿重複留言(包括跨版重複留言)或發表與各文章主題無關的文章。

請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。

您在留言版發表的內容需自負言論之法律責任,所有言論不代表PCDIY!雜誌立場,違反上述規定之留言,PCDIY!雜誌有權逕行刪除您的留言。