英偉達近日正式推出專為物理AI及人形機器人研發(fā)的全新計算平臺NVIDIA Jetson Thor。這款被CEO黃仁勛譽為"終極超級計算機"的產(chǎn)品,標志著物理AI與通用機器人技術邁入新紀元。
Jetson Thor采用Blackwell架構GPU,配備14核Arm Neoverse中央處理器,擁有128GB顯存和273GB/s的顯存帶寬。在FP4和FP8精度下,其AI算力分別達到驚人的2070 TFLOPS和1035 TFLOPS,能夠高效支持邊緣側的生成式AI及大型Transformer模型推理。
性能方面,該平臺相較前代Jetson Orin實現(xiàn)顯著提升:AI計算性能增長7.5倍,能效提高3.5倍,CPU性能提升3.1倍,I/O吞吐量更是大幅躍升10倍。與十年前產(chǎn)品相比,其AI總體性能增幅高達7000倍。
Jetson Thor具備出色的兼容性,全面支持英偉達從云到邊緣的軟件棧,可與包括字節(jié)跳動、DeepSeek、阿里巴巴Qwen、谷歌Gemini等在內的多家企業(yè)大模型配合使用。同時,該平臺還能與Isaac機器人平臺、GR00T人形機器人基礎模型等英偉達生態(tài)系統(tǒng)無縫集成。
在實時控制性能上,Jetson Thor可并行處理16路傳感器輸入,運行Llama 3B和Qwen 2.5 VL 3B模型時,首個token生成時間控制在200毫秒內,后續(xù)每token僅需50毫秒,每秒可輸出超過25個token,響應速度較前代顯著提升。