Speed是百度文心大模型系列中的輕量級人工智慧模型，由百度智慧型雲於2024年3月21日首次發布。作為ERNIE系列的重要成員，該模型兼具推理性能與效果最佳化，適用於特定場景作為基座模型進行精調。截至2024年5月21日，ERNIE Speed已作為百度智慧型雲的主力模型之一，全面免費開放使用，其8K至128k的上下文長度支持顯著提升了知識問答任務的連貫性。
基本介紹
- 類型：輕量級大模型
- 發布日期：2024年3月21日
- 適用場景：特定場景基座精調
- 上下文長度：8k/128k
- 免費時間：2024年5月21日
- 參數量：較小（對比千億級）
開發背景,性能特點,套用場景,免費發布,
開發背景
2024年4月16日，百度創始人李彥宏在Create AI開發者大會提及Speed隸屬於文心大模型輕量版系列（ERNIE Speed、Lite、Tiny）。該模型旨在降低AI套用門檻，通過參數配置最佳化實現高效訓練，推動產業落地。
性能特點
- 上下文適配：截至2024年3月，ERNIE Speed在推理場景最高支持128k上下文長度，顯著提升知識問答連貫性；同年5月免費版本支持8k上下文。
- 精調效果：作為基座模型精調後，效果可追平或超越旗艦模型，效價比提升顯著。
套用場景
- 低成本部署：適配低算力AI加速卡，滿足極致低成本與低延遲需求。
- 角色扮演與工具調用：與ERNIE Character、Functions兩款垂直場景模型協同，拓展角色扮演類套用及工具調用場景。
免費發布
2024年5月21日，百度智慧型雲宣布ERNIE Speed與ERNIE Lite全面免費，成為開發者適配特定場景的主力模型。此舉推動百度智慧型雲當季度生成式AI貢獻營收達6.9%。
