ERNIELite

ERNIELite是百度智慧型雲於2024年3月21日發布的輕量級大模型，其參數量顯著小於千億級參數規模的大模型，能夠幫助客戶針對特定場景進行便捷精調，在實現預期效果的同時顯著降低使用成本。該模型支持低算力AI加速卡推理，兼顧模型效果與推理性能，滿足低成本和低延遲的套用需求。

2024年5月21日，百度智慧型雲宣布ERNIELite正式免費開放，成為國內首批支持8K及128k上下文長度的輕量級大模型。該開放策略旨在吸引開發者生態資源，推動人工智慧技術在不同垂直領域的創新套用。

基本介紹

• 開發商：百度智慧型雲
• 參數級別：輕量級架構
• 長文本支持：128k上下文
• 推理硬體：低算力AI加速卡
• 場景適配：垂直領域精調
• 商業策略：免費開放模式

技術特性

• 採用輕量級架構設計，模型參數量較千億級大模型縮減超過90%
• 支持通過低算力AI加速卡進行推理運算，在嵌入式設備和邊緣計算場景中保持穩定性能
• 具備128k超長上下文處理能力，可處理複雜對話場景和多輪互動任務

免費開放策略

2024年5月21日起，百度智慧型雲宣布ERNIELite與ERNIESpeed共同實施免費開放政策。該政策包含：

• 全面開放API接口調用許可權
• 提供配套的模型精調工具鏈
• 允許商業場景的二次開發套用
• 支持私有化部署方案

套用場景適配

ERNIELite針對垂直領域套用進行最佳化，典型場景包括：

• 智慧型客服系統的會話邏輯最佳化
• 工業生產設備的故障診斷輔助
• 金融業務的風險評估模型疊代
• 教育領域的個性化學習方案生成

模型支持開發者通過精調工具對預訓練模型進行領域適配，具有更小的參數量，使得客戶能夠更便捷地針對特定使用場景進行模型精調，從而更容易實現預期的使用效果，同時還能大幅降低成本開銷。

開發者支持體系

百度智慧型云為ERNIELite構建了完整的開發者生態：

• 提供線上模型精調工作檯
• 開源典型場景的預訓練參數集
• 舉辦季度性開發者創新大賽
• 建立技術社區知識共享平台

該體系已吸引超過300家企業參與技術測試，涵蓋智慧型製造、智慧醫療等12個行業領域。