研發背景
Gemini Live API源於谷歌為提升AI對話體驗而推出的實時語音功能,旨在提供與ChatGPT高級實時語音模式類似的互動體驗。該功能最初作為Android設備上的付費訂閱服務推出。後逐步演變為面向開發者的API。並拓展至Android與iOS等多平台免費使用。
發展歷程
Gemini Live功能最早於2024年8月作為Gemini Advanced高級版的付費功能推出,初期僅支持Android設備和英語。
2025年4月,谷歌AI Studio發布了“Gemini-2.0-flash-live-001”模型,作為Gemini Live API的公開預覽版並開始收費。
在2025年至2026年間,API持續疊代,推出了支持更多模態的模型,例如“gemini-2.5-flash-native-audio-preview-12-2025”,增強了實時互動能力。
2026年3月,
谷歌發布了詳細的開發者指南,指導開發者如何使用Firebase AI Logic開始集成Gemini Live API。
2026年,開發者可通過Firebase AI Logic SDK更便捷地集成Gemini Live API,並且其套用場景已拓展至XR設備,如
AI眼鏡。
核心技術
Gemini Live API是一種有狀態的API,通過
WebSocket建立客戶端與Gemini伺服器之間的持久連線,實現低延遲的雙向流式傳輸,支持音頻、文本和視頻的實時輸入與輸出。該API需使用特定的支持Live API功能的模型,例如gemini-2.5-flash-native-audio-preview-12-2025、gemini-2.0-flash-live-001、Gemini 3.1 Flash Live等,而標準版的gemini-2.0-flash和gemini-2.5-flash模型不支持此功能。
其核心技術之一是將音頻、視頻、文本等多種輸入模態映射至同一潛在空間進行處理,以實現對連續流式輸入的統一理解與回響。
針對跨國訪問等高延遲網路環境,可通過技術最佳化的國內鏡像站進行網路層、協定層、數據層的深度最佳化,例如採用專線接入、HTTP/3(QUIC)協定、智慧型快取等技術,以降低實際訪問延遲。
模型會自動對連續的音頻輸入流執行語音活動檢測(VAD),以識別用戶語音的開始與結束,該功能默認處於啟用狀態。
運營模式
Gemini Live API 目前處於開發者預覽版或預發布階段,通過Firebase AI Logic SDK使用該API是預覽版功能,因此不受任何
服務等級協定(SLA)或棄用政策的約束,其功能可能會發生不向後兼容的變更。當前,該API主要支持通過Firebase AI Logic庫集成到
Android、
Flutter和
Unity套用中,無需進行後端開發,谷歌計畫未來將支持擴展到Apple平台(
iOS)和Web套用。使用Gemini Live API會產生費用,具體價格取決於所使用的模型和功能,開發者需要參考其選擇的Gemini API供應商(Gemini Developer API 或
Vertex AI)的官方文檔來獲取詳細的定價信息。
API的使用受到多種限制,包括並發會話數限制、速率限制、會話時長限制、模型上下文大小限制以及需要持續的網路連線。例如,每個
Firebase項目可能限制為10個並發會話,使用Vertex AI Gemini API時限制可能不同。速率限制存在每分鐘令牌數(TPM)等限制,例如每分鐘400萬個令牌。會話有默認時長限制,可能為10分鐘或30分鐘,具體取決於配置或時期,當會話逾時時連線會被終止。模型上下文大小限制意味著傳送大量輸入可能導致會話提前終止。此外,API需要持續的網路連線,且可能不適合處理關鍵的錯誤狀況通信,如在無螢幕的AI眼鏡上。
通過Firebase AI Logic使用Live API時,尚不支持以下功能:處理用戶中斷、跨多個連線管理或延長會話、禁用或配置語音活動檢測(
VAD)、在回響中接收使用量元數據(UsageMetadata)以及使用CountTokens API估算令牌消耗。
核心團隊
谷歌Gemini套用負責人為Sissie Hsiao,其將卸任該職務。
根據負責人Jaana Dogan的公開言論,該團隊目前正全力推進模型和基礎設施建設,並對行業競爭持開放態度。
重要事件
2026年1月,谷歌演示了將Gemini Live API整合至Android XR平台,用於打造
AI眼鏡的對話界面,展示了其在擴展現實(XR)設備上的套用潛力。
2026年1月,
谷歌宣布Gemini Live API的原生音頻模型(如
Gemini 3 Pro& Flash)現已可通過Firebase AI Logic在所有平台上使用,標誌著API支持的進一步拓展。
2026年3月,
谷歌發布了詳細的開發者指南,指導開發者如何使用Firebase AI Logic開始集成Gemini Live API,並明確了模型配置、許可權設定等具體步驟。
2026年3月27日,谷歌正式發布專為實時音視頻套用打造的Gemini 3.1 Flash Live模型,該模型速度更快、對話上下文記憶時長延長,並已集成至包括Gemini Live API在內的多款谷歌產品生態中。