元腦產品
元腦G8算力平台
2024年10月24日,浪潮信息重磅發布元腦®伺服器第八代算力平台,基於開放架構設計,在業界率先實現“一機多芯”,同一架構支持英特爾®至強®6處理器及AMD EPYC™ 9005系列處理器,在促進多元生態共進的同時。
元腦伺服器第八代算力平台擁有23款新品,基於先進的計算、存儲架構創新,在CPU匯流排互聯頻寬、記憶體頻寬及容量上全面最佳化,單機核心數最多到576C,主頻高達5.0GHz,記憶體頻寬提升高達136%。元腦伺服器第八代算力平台一經發布。
一機多芯,開放標準促進多元算力生態進化
元腦伺服器第八代算力平台成為算力生態的載體,源於浪潮信息的諸多創新系統架構設計,將通過共建開放標準的方式聚集更多生態力量,使能通用算力與AI算力共同支撐日益多樣的AI工作負載,加速多元算力生態進化,推動開放多元算力標準落地。
在通用算力領域,浪潮信息積極參與的開放計算模組規範(OCM),正在推動建立基於處理器的標準化算力模組單元,構建CPU的統一算力底座,解決多元CPU生態挑戰問題,推動算力產業快速發展。會上發布首款基於伺服器計算模組設計規範OCM的NF3290G8,整機全面解耦,以CPU、記憶體為核心構建最小算力單元,標準化高速/低速互聯接口,實現處理器算力模組部件化,靈活支持多類型CPU,讓不同算力共享統一平台,降低算力產業創新試錯成本和推廣適配成本,也讓多元化的套用場景能夠快速找到貼合的方案。
在AI算力領域,浪潮信息推動開放加速規範OAM的生態繁榮,大幅縮減國內外加速晶片和伺服器的適配周期,加速先進算力上線部署,支撐大模型及AI套用疊代成熟。目前,90%高端AI晶片基於OAM規範設計。會上發布基於UBB2.0規範開發的元腦伺服器NF5898G8,可以兼容符合OCP開放加速規範的多款OAM 2.0模組,通過全模組化的設計及極致的系統能效,滿足算力的快速疊代需求,進一步加速算力融合創新。
智慧型增強,全面加速大模型開發與AI套用創新
元腦伺服器第八代算力平台實現了全面的智慧型增強,通過搭載自研伺服器作業系統KOS、AIOps智慧型運維管理平台以及AI軟體堆疊,從伺服器智慧型,到快速構建AI開發環境,到作業調度和資源統一納管,乃至智算中心智慧型運維,提供全面的平台軟體與工具軟體支持。
新平台在預警、散熱、管理等方面進行了全新的智慧型化升級。其中,在智慧型預警方面,全新升級記憶體故障智慧型預警修復技術MUPR,基於對上萬台伺服器故障數據的建模分析和AI模型算法的訓練,實現記憶體故障提前預警、記憶體錯誤實時隔離、記憶體故障智慧型修復,降低記憶體導致宕機故障率80%。在智慧型管理方面,通過RTOS實時作業系統,實現開機3秒內智慧型管理調控風扇轉速,降低30%的噪音,確保散熱安全。
面向大模型部署難題,新平台與伺服器作業系統KOS實現軟硬協同最佳化,自研KOS AI定製版簡單2步即可實現大模型訓練環境搭建,200節點訓練集群開發環境,採用AI定製版20分鐘即可完成部署上線可用,極大提升了大模型開發部署效率。
創新液冷設計,讓AI更綠色更節能
最新發布的兩相液冷130kW液冷整機櫃,基於兩相冷板和負壓液冷的創新,實現液冷整機櫃安全、解耦、高密和標準化,提供更高效的解熱能力、更靈活的節點支持、更安全的漏液防護以及標準化液冷部件,解熱能力高達每平方厘米200w以上,以先進原生液冷技術支撐超大規模智算中心建設。
浪潮信息提供液冷數據中心全生命周期整體解決方案,具有從室外一次側冷源到室內二次側CDU、液冷連線系統、液冷伺服器等全線布局,為用戶全方位打造綠色節能數據中心交鑰匙工程。
EPAI元腦企智
大模型的技術潛力與市場空間巨大,2023年的“百模大戰”已逐漸演化成2024年的套用“搶灘落地”,然而技術門檻高、開發複雜、成本不菲,與產業場景的深度融合更需要平台工具支撐,讓大模型落地成為難題。
為更好地加速大模型落地,浪潮信息發布了企業大模型開發平台EPAI(Enterprise Platform of AI) “元腦企智”,為企業AI大模型落地套用提供高效、易用、安全的端到端開發平台,提供數據準備、模型訓練、知識檢索、套用框架等系列工具,支持調度多元算力和多模算法,幫助企業高效開發部署生成式AI套用、打造智慧型生產力。
EPAI提供上億條基礎知識數據,同時提供自動化的數據處理工具,幫助行業夥伴和企業客戶整理行業數據和專業數據,生成高質量的微調數據和行業/企業知識庫。EPAI提供高效的微調工具,可支持千億參數模型面向產業知識的快速再學習,並讓模型具備百萬Token的長文檔處理能力。API支持將大模型快速接入現有系統,對話UI提供了開箱即用的互動方式,智慧型體則面向企業複雜任務流提供了基礎模組支撐。EPAI還支持檢索增強生成(RAG)技術和主流開源與閉源大模型的套用快速開發,並通過許可權管理、數據加密、內容審查等方式,保護企業數據、模型的安全。
EPAI種子計畫
IPF2024上浪潮信息推出“EPAI種子計畫”,旨在打造AI業務變革的生態引擎,為夥伴開展多元多模創新、業務場景開發、商業價值變現提供開放的、統一的技術平台和業務平台,從而有效降低大模型門檻,幫助夥伴提升模型開發效能,實現智慧型業務轉型。該計畫首批遴選20家生態夥伴,並計畫在3年內將數量擴充至1000家。
元腦企智EPAI一體機
在2024中國算力大會期間,浪潮信息重磅發布元腦企智EPAI一體機,通過軟硬體高度協同的一體化設計,為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型開發平台。
元腦企智EPAI一體機具備多元算力和多模管理能力,一台機器就可以幫助企業穩定基礎底座的構建。
元腦生態
為應對產業AI化的挑戰、加速產業AI化的發展進程,浪潮信息提出了元腦生態計畫,由左右手夥伴與浪潮共同構建,聚焦當前階段產業AI化的落地套用需求,將持續投入面向AI時代的計算力輸出、服務能力最佳化及人才培養。
元腦生態的生態夥伴分為兩類——左手夥伴(技術型夥伴)和右手夥伴(戰略型夥伴、能力型夥伴)。左右手合作夥伴的定義由AI技術套用鏈而來,從左至右代表著最先進、最最佳化的AI開發能力,和最實際、最可操作的AI落地部署能力。
左手夥伴核心代表:具備AI功能開發核心能力的科技公司——在推動AI產業化的進程中,提供領先的AI算法、模型、功能、解決方案等。 右手夥伴核心代表:具備實施AI整體方案互動能力的系統集成商、軟體開發商等。
在生態中,浪潮信息將共享自身的計算平台、資源平台、算法平台三大平台技術能力,生態夥伴以最高效的方式提取自己所需要的能力,同時也可以最大化的發揮出自己的價值,實現最先進的AI核心能力和最實際、最可操作的落地部署能力的強強聯合,共同給行業最終用戶交付符合AI時代所需的產品、能力及解決方案。在行業實踐的沃土之上,通過元腦生態交付的解決方案,將助力行業最終用戶開發並部署屬於自己的“行業大腦”。
元腦生態2.0
“元腦生態2.0”是浪潮信息繼元腦生態1.0後於2021年4月份正式發布的升級版計畫。可概括為一個生態,即元腦生態;兩個夥伴,即左、右手合作夥伴;三大核心功能,即領先技術、高效支付與智算信創服務。
“元腦生態2.0”旨在高效聚合產業力量,秉持生態合伙人的理念,與夥伴共創、共享、共建智算平台,促進智算場景套用與交付服務的融合落地,為創新者提供成長的平台,為合作夥伴提供開發和套用的商業發展平台,為客戶創造更大的價值。
元腦生態成果
2023年,浪潮信息的元腦生態夥伴達到3萬家,同比增長33%;元腦認證夥伴突破1萬家,這其中包括了很多的算力、算法和數據領域的夥伴。元腦生態的多樣性、夥伴數量和發展質量都得到大幅提升。
2023年,元腦生態實現了對行業及細分市場的全面覆蓋,分銷以及經銷商的數量達到28,000家,覆蓋了200多個地市,服務對象的包括90%以上的中國企業500強,服務了超過30多萬家中小企業、2.000家行業ISV夥伴。
2023年,浪潮信息堅持“創新驅動,以智賦能”打造創新AI方案超過350個,AISTORE平台的活躍用戶數量同比增加50%。