NVIDIA AI 數據平台是NVIDIA於2025年3月18日在GTC大會上聯合DDN、Dell Technologies等存儲廠商推出的企業級AI基礎設施解決方案，通過整合Blackwell GPU、BlueField DPU、Spectrum-X網路及AI Enterprise軟體構建智慧型數據平台。該平台採用可定製參考設計，集成檢索增強生成（RAG）技術，支持結構化與非結構化數據的實時分析，並通過AI查詢智慧型體最佳化複雜查詢的回響速度與推理準確性。
平台基於BlueField-3 DPU將存儲性能較CPU方案提升1.6倍，功耗降低50%；Spectrum-X網路藉助動態路由技術使AI存儲流量提速48%。AI-Q Blueprint結合NeMo Retriever微服務可提升GPU數據檢索速度15倍，適用於分散式推理與代理式AI場景。NVIDIA認證合作夥伴開發的存儲系統涵蓋Blackwell架構加速硬體，支持文檔索引、視頻分類等企業級套用，並通過NIM微服務最佳化模型部署。
核心結構,功能,優勢,套用領域,
核心結構
NVIDIA AI 數據平台將企業存儲與NVIDIA GPU、DPU、網路、企業軟體和 AI Blueprint 集成在一起，在加速數據提取和檢索的同時，將 AI 智慧型體與業務數據無縫連線，作為智慧型 AI 路由器，通過高速、低延遲的網路實現負載均衡並交換提示和鍵值 (KV) 快取，從而提高推理速度和準確性。
功能
NVIDIA AI 數據平台是針對新型 AI 基礎設施的可定製參考設計指南，可將企業存儲與 NVIDIA 加速計算技術相集成，為 AI 智慧型體提供近乎實時的業務洞察力。該平台可將加速計算的能力套用到 AI 數據處理和網路連線之中，使 AI 智慧型體在降低延遲的同時更高效地分析業務知識並據此採取行動，該平台基於 NVIDIA NIM™ 和 NeMo™ 微服務，採用性能最佳化的模型運行時技術，為企業級用例最佳化 AI 推理性能。藉助該平台，企業可處理結構化或非結構化數據，從而從所有可用數據源（文本、PDF、圖像和視頻）中獲取有價值的見解；並可將專有的企業知識（包括內部文檔、客戶記錄以及特定領域的知識）無縫集成到 AI 工作流中，從而提高 AI 智慧型體回響的準確性。
優勢
NVIDIA Blackwell GPU、BlueField DPU 和 Spectrum-X 網路組合加速，加快 AI 查詢智慧型體訪問存儲在企業系統中的數據，基於BlueField DPU 加速的存儲性能比基於 CPU 的存儲性能提升最高可達 1.6 倍，功耗降低可達 50%，每瓦性能提高 3 倍以上；與傳統乙太網相比，Spectrum-X 通過採用動態路由和最佳化的擁塞控制，可將 AI 存儲流量提速最高達 48%。
利用 NVIDIA AI-Q Blueprint 開發可以進行推理並連線企業數據的代理式系統，從企業數據中獲取知識，為企業構建數字勞動力提供了強大的基礎，這些勞動力可以打破代理式孤島，並能夠準確和快速地處理複雜的任務。如AI-Q 利用 NVIDIA NeMo™ Retriever 微服務，可將 NVIDIA GPU 上的數據提取和檢索速度加快高達 15 倍。
套用領域
代理式AI，分散式推理
