EXAONE 3.5是由LG AI Research於2024年12月發布的開源雙語（英語和韓語）人工智慧模型。該模型集合包含24億、78億和320億參數三個版本，支持長達32K tokens的上下文處理，並採用檢索增強生成技術與多步推理能力以降低模型幻覺問題。該模型是EXAONE 3.0版本的疊代升級，在多項基準測試中，特別是在實際可用性、長文本處理、編碼和數學方面表現優異。LG AI Research計畫在2025年上半年將其上下文視窗擴展至128K tokens，並計畫於同年發布大型動作模型。
基本介紹
- 上下文長度：32K tokens
- 參數版本：24億參數
78億參數
320億參數 - 發布年份：2024年12月
- 開發公司：LG AI Research
- 技術特點：檢索增強生成
多步推理能力 - 模型類型：開源雙語生成模型
模型簡介,版本參數,功能特點,技術原理,性能評估,套用與生態,發展計畫,影響與評價,
模型簡介
EXAONE 3.5是LG AI Research於2024年12月發布的一系列開源、指令微調的雙語（英語和韓語）生成模型。此次發布距離上一代EXAONE 3.0僅四個月。該系列模型定位為擅長長文本處理，並旨在通過採用檢索增強生成技術和多步推理能力來有效降低模型的“幻覺”問題，提高答案的準確性。EXAONE 3.5提供了三種不同參數規模的版本以適應不同場景，包括24億、78億和320億參數的模型。
版本參數
EXAONE 3.5提供了三個不同參數規模的版本：24億參數（2.4B）、78億參數（7.8B）和320億參數（32B）。其中，24億參數版本為超輕量級設備端模型，適用於資源受限環境；78億參數版本為輕量級通用模型，平衡性能與適用性；320億參數版本為高性能專用模型，用於處理複雜任務。所有模型均已開源，可供研究使用，商業使用需聯繫LG AI Research。
功能特點
EXAONE 3.5是由LG AI Research開發的開源雙語（英語和韓語）生成模型集合，提供2.4B、7.8B和32B三種參數版本。該系列模型在實際可用性、長文本處理、指令遵循等方面進行了最佳化。
EXAONE 3.5在實際場景中的指令遵循能力較強，在多個基準測試中得分較高。該模型支持長達32K tokens的上下文處理，約100頁文本，在長文本理解基準測試中表現較好。
該模型在韓語和英語的基準測試中表現較好，在長文本理解方面性能較優。此外，EXAONE 3.5採用檢索增強生成技術，可基於參考文檔或網路搜尋結果生成答案，有助於提升在複雜場景中回答的準確性。
EXAONE 3.5具備多步推理能力，能夠逐步解構複雜問題，有助於降低模型的幻覺現象，提高答案的可靠性。在數學、編程等領域的基準測試中表現較好，達到較高水平。
此外，EXAONE 3.5在訓練效率、數據去污染處理方面進行了最佳化，並遵循負責任的AI原則，在開發過程中進行了AI倫理影響評估。
技術原理
EXAONE 3.5基於最新的僅解碼器（decoder-only）Transformer架構，用於處理序列數據。其訓練採用兩階段方法，第一階段使用大型訓練語料庫進行預訓練，例如EXAONE 3.5 32B模型使用了6.5萬億tokens進行預訓練，第二階段針對需要加強的領域進行數據收集和預訓練，特別是增強長上下文理解能力。後訓練階段包括監督式微調（SFT）和偏好最佳化，以加強模型的指令遵循能力和與人類偏好的一致性。
在訓練技術細節上，模型採用長上下文微調技術，將最大上下文長度從EXAONE 3.0的4,096 tokens擴展到32,768 tokens。通過改進數據集去重和信息脫敏，提高了模型訓練的性能和效率。通過細緻的去污染處理，提高了對模型性能評估結果的信心。
在數據收集、模型訓練和信息提供過程中，LG AI Research進行了AI合規性審查，以最小化法律風險，並致力於負責任的AI實踐，包括進行AI倫理影響評估。
性能評估
EXAONE 3.5在總計20項基準測試中表現較好，在實際可用性、長文本處理、編碼和數學等特定領域的測試中表現突出。該模型在七個實際可用性基準測試中取得較高分數，在四個長文本理解基準測試中表現良好，同時在九個通用基準測試中取得具有競爭力的結果。
套用與生態
EXAONE 3.5模型的發布旨在支持研究人員推動生成式AI的邊界，並激發創新套用的開發，以改善人類生活。其目標客群包括研究人員、開發者和企業用戶。
在企業套用方面，LG AI Research與韓國公司Polaris Office和Hancom合作，探討如何利用基於EXAONE 3.5的AI服務提升其軟體服務，例如通過PoC項目將模型集成到Hancom Office中以提高公共機構的工作效能。
LG同步推出了面向企業內部員工的企業級AI智慧型體服務ChatEXAONE，該服務不僅具備複雜的查詢分析和用戶自定義搜尋等標準功能，還特彆強調了加密和隱私保護技術的套用。
為方便開發者集成和使用，EXAONE 3.5提供了多種部署框架支持，例如TensorRT-LLM、vLLM、SGLang等，並提供了AWQ、GGUF等量化版本。
發展計畫
LG AI Research在發布EXAONE 3.5時公布了其技術發展路線圖。計畫於2025年上半年將EXAONE 3.5的上下文視窗從32K tokens擴展到128K tokens，以提升模型處理複雜任務的能力。同時，還計畫於2025年發布大型動作模型(LAM)。
影響與評價
EXAONE 3.5發布後，其在模型訓練效率、去污染處理、長文本理解和指令遵循能力方面受到關注。該模型在多項基準測試中取得較好成績。
其檢索增強生成技術和多步推理能力，有助於降低模型幻覺，提升答案準確性。根據LG AI Research發布的技術報告，EXAONE 3.5模型系列為開源模型，可用於研究目的；商業用途需聯繫官方。該模型在實際套用和長上下文理解方面展示了較好的性能。
LG在發布EXAONE Deep系列時曾提及，EXAONE 3.5具有較高的參數效率。EXAONE 3.5模型的開發遵循了LG的AI倫理原則，並進行了相關評估。模型的發布對AI研究領域產生了影響。
