簡介
企業可以使用 AI Foundry 自定義 NVIDIA 模型和開放社區模型,包括Llama 系列以及 NVIDIA Nemotron、Google DeepMind 的 CodeGemma、CodeLlama、Google DeepMind 的 Gemma、Mistral、Mixtral、Phi-3 和 StarCoder2 等。
關鍵支柱
NVIDIA AI Foundry 的關鍵支柱包括基礎模型、企業軟體、加速計算、專家支持和龐大的合作夥伴生態系統。這項服務的軟體包括來自 NVIDIA 和 AI 社區的 AI 基礎模型,以及能夠加速模型開發的完整 NVIDIA NeMo 軟體平台。
NVIDIA AI Foundry 的計算核心是 NVIDIA DGX Cloud,該加速計算資源網路由 NVIDIA 與公有雲企業亞馬遜雲科技、谷歌雲和 Oracle Cloud Infrastructure 共同設計。通過 DGX Cloud,AI Foundry 客戶能夠以前所未有的便捷和效率開發和微調自定義生成式 AI 套用,並根據需要擴展他們的 AI 項目,而無需在前期進行大量硬體方面的投入。
NVIDIA AI Enterprise 專家會在 AI Foundry 客戶需要時提供幫助。NVIDIA 專家可以指導客戶完成使用專有數據構建、微調和部署模型所需的各個步驟,確保模型貼合客戶的業務需求。
套用案例
NVIDIA AI Foundry 客戶可以進入到一個全球合作夥伴生態系統,以獲得全方位的支持。埃森哲、德勤、Infosys、Wipro 等 NVIDIA 合作夥伴將為他們提供 AI Foundry 諮詢服務,涵蓋設計、實施和管理 AI 驅動的數位化轉型項目。埃森哲推出了基於 AI Foundry 的自定義模型開發產品——Accenture AI Refinery 框架。
另外,Data Monsters、Quantiphi、Slalom 和 SoftServe 等服務交付合作夥伴幫助企業解決將 AI 集成到現有 IT 環境中所遇到的複雜問題,確保 AI 套用的可擴展性、安全性和與業務目標的吻合性。
Cleanlab、DataDog、Dataiku、Dataloop、DataRobot、Domino Data Lab、Fiddler AI、New Relic、Scale、Weights & Biases 等 NVIDIA 合作夥伴還為客戶提供用於開發生產級 NVIDIA AI Foundry 模型的 AIOps 和 MLOps 平台。客戶可以將其 AI Foundry 模型導出為 NVIDIA NIM 推理微服務(包括自定義模型、最佳化引擎和標準 API),以便在其選擇的加速基礎設施上運行。
發展歷史
2024年7月24日,NVIDIA宣布推出新的NVIDIA AI Foundry服務。