ERNIE Lite

ERNIE Lite是百度智慧型雲於2024年3月21日在千帆產品發布會上推出的輕量級大模型,與ERNIE Speed、ERNIE Tiny共同構成參數規模梯度體系。該模型通過減小參數量實現高效推理性能,支持搭載低算力AI加速卡部署,適用於對成本和延遲要求嚴苛的場景。2024年5月21日,百度智慧型雲宣布ERNIE Lite全面免費,依託AI異構算力管理平台和"一雲多芯"技術支撐免費策略實施。截至2024年第三季度,該模型已疊代推出增強版ERNIE Lite Pro,推理效率較6月提升48%。

基本介紹

  • 發布時間:2024年3月21日
  • 所屬系列:文心大模型
  • 模型定位:輕量級基座模型 
  • 免費時間:2024年5月21日
  • 核心技術:AI異構算力平台 
  • 疊代版本:ERNIE Lite Pro 
發布與疊代,技術特性,套用場景,免費策略與影響,產品矩陣協同,

發布與疊代

2024年3月21日,百度智慧型雲在千帆產品發布會上首發ERNIE Lite,與ERNIE Speed、ERNIE Tiny共同組成輕量化解決方案矩陣。這三款模型按參數規模由大到小排列,形成覆蓋不同性能需求的梯度體系,其中ERNIE Lite定位為特定場景基座模型。至2024年第三季度,百度推出升級版本ERNIE Lite Pro,該版本在原有基礎上提升推理效率48%。

技術特性

ERNIE Lite通過降低模型參數量實現三方面突破:一是保持基礎模型效果的同時最佳化推理速度,二是支持低算力AI加速卡部署,三是適配微調定製特定場景需求。其核心技術依託百度智慧型雲的AI異構算力管理平台,該平台具備業界最高效的算力調度能力,結合"一雲多芯"架構實現多晶片兼容。相比千億參數大模型,該模型通過壓縮參數規模降低30%存儲成本,提升邊緣設備部署可行性。

套用場景

該模型主要面向兩類套用場景:一是需要快速回響且計算資源受限的實時互動場景,如智慧型客服和移動端套用;二是對部署成本敏感的中小企業場景,可通過精調實現業務適配。典型套用案例包括搭載於工業質檢設備的視覺識別系統,以及嵌入智慧型家居終端的自然語言處理模組。其低延遲特性使50毫秒級回響成為可能,較傳統模型提速3倍。

免費策略與影響

2024年5月21日起,ERNIE Lite實施全面免費政策,成為首個實現商業化免費的主流輕量級大模型。該策略通過降低企業試錯成本加速AI套用落地。免費化背後依靠兩項核心技術支撐:業界最高效的AI異構算力管理平台和"一雲多芯"兩項硬實力。策略實施後三個月內,日均API調用量增長150%,推動金融、零售等行業的輕量化AI解決方案普及。

產品矩陣協同

在百度智慧型雲AI產品體系中,ERNIE Lite與ERNIE Character(角色扮演模型)、ERNIE Functions(工具調用模型)形成功能互補。其中ERNIE Lite負責通用任務處理基礎能力,垂直場景模型則專注特定領域最佳化,這種架構設計使企業可組合使用不同模型構建完整AI解決方案。截至2024年11月,該協同模式已支持超過200個行業解決方案開發,覆蓋智慧型製造、智慧城市等六大領域。

相關詞條

熱門詞條

聯絡我們