NVIDIA Llama Nemotron Super 1.5是NVIDIA於2025年8月發布的推理模型產品。在保持高吞吐量和計算效率的情況下,顯著提升了在數學、科學、編碼、函式調用、指令跟隨、對話等核心邏輯推理與代理任務中的性能。
功能,關鍵創新,優勢,套用,
功能
NVIDIA Llama Nemotron Super 1.5 在同類產品中實現了領先性能和極高的推理準確性,有助於 AI 智慧型體更高效地進行推理,做出更明智決策並獨立處理複雜任務。
關鍵創新
● 採用與原 NVIDIA Llama Nemotron Ultra v1 相同的方法構建而成,但使用了更多高質量的邏輯推理數據來進一步進行最佳化和訓練後微調。
● 使用能夠提高吞吐量性能 (Neural Architecture Search, 神經架構搜尋) 的後訓練方法,大幅提升了吞吐量。
優勢
● 現以 NVFP4(即 4 位浮點)格式提供,與 NVIDIA H100 GPU 相比,在 NVIDIA B200 GPU 上可將吞吐量提高 6 倍。
● 根據第三方在一系列行業標準邏輯推理及指令和函式調用任務基準測試中的評估,NVIDIA Llama Nemotron Super 1.5 在高等數學、編碼、邏輯推理和對話指標上的表現優於其他開放模型,使其穩居 700 億參數級模型榜首。
套用
NVIDIA Llama Nemotron Super 1.5 很快將作為 NVIDIA NIM 提供,以便快速、可靠地將其部署到首選的 NVIDIA 加速基礎設施上。用戶只需使用幾行簡單命令就能完成部署,並且能夠直接集成兼容 OpenAI API 的私有端點,以提升 AI 智慧型體和邏輯推理套用的性能。此外,Llama Nemotron Super 的強大推理性能可根據需求自動擴展。
