Gemini Live API

Gemini Live API是谷歌開發的實時低延遲API,旨在為需要實時語音支持的套用提供與Gemini模型進行雙向流式互動的能力。該API通過WebSocket建立有狀態的持久連線,實現低延遲的雙向流式傳輸,支持音頻、文本和視頻的實時輸入與輸出。其需使用特定的支持Live API功能的模型(如gemini-2.0-flash-live-001),目前處於開發者預覽版階段,主要通過Firebase AI Logic SDK集成到Android、Flutter和Unity等套用中。

該API源於谷歌推出的Gemini Live實時對話功能,該功能最初於2024年8月作為Gemini Advanced的付費功能推出。2025年,谷歌發布了支持Live API的模型公開預覽版,並宣布Gemini Live語音助手在Android和iOS平台免費開放。其套用場景已拓展至XR設備,如AI眼鏡。

研發背景,發展歷程,核心技術,運營模式,核心團隊,重要事件,

研發背景

Gemini Live API源於谷歌為提升AI對話體驗而推出的實時語音功能,旨在提供與ChatGPT高級實時語音模式類似的互動體驗。該功能最初作為Android設備上的付費訂閱服務推出。後逐步演變為面向開發者的API。並拓展至Android與iOS等多平台免費使用。

發展歷程

Gemini Live功能最早於2024年8月作為Gemini Advanced高級版的付費功能推出,初期僅支持Android設備和英語。
2025年4月,谷歌AI Studio發布了“Gemini-2.0-flash-live-001”模型,作為Gemini Live API的公開預覽版並開始收費。
2025年5月,在Google I/O 2025大會上,谷歌宣布Gemini Live語音助手在Android和iOS平台免費開放,並支持45種以上的語言。
在2025年至2026年間,API持續疊代,推出了支持更多模態的模型,例如“gemini-2.5-flash-native-audio-preview-12-2025”,增強了實時互動能力。
2026年3月,谷歌發布了詳細的開發者指南,指導開發者如何使用Firebase AI Logic開始集成Gemini Live API。
2026年,開發者可通過Firebase AI Logic SDK更便捷地集成Gemini Live API,並且其套用場景已拓展至XR設備,如AI眼鏡。

核心技術

Gemini Live API是一種有狀態的API,通過WebSocket建立客戶端與Gemini伺服器之間的持久連線,實現低延遲的雙向流式傳輸,支持音頻、文本和視頻的實時輸入與輸出。該API需使用特定的支持Live API功能的模型,例如gemini-2.5-flash-native-audio-preview-12-2025、gemini-2.0-flash-live-001、Gemini 3.1 Flash Live等,而標準版的gemini-2.0-flash和gemini-2.5-flash模型不支持此功能。
其核心技術之一是將音頻、視頻、文本等多種輸入模態映射至同一潛在空間進行處理,以實現對連續流式輸入的統一理解與回響。
針對跨國訪問等高延遲網路環境,可通過技術最佳化的國內鏡像站進行網路層、協定層、數據層的深度最佳化,例如採用專線接入、HTTP/3(QUIC)協定、智慧型快取等技術,以降低實際訪問延遲。
模型會自動對連續的音頻輸入流執行語音活動檢測(VAD),以識別用戶語音的開始與結束,該功能默認處於啟用狀態。

運營模式

Gemini Live API 目前處於開發者預覽版或預發布階段,通過Firebase AI Logic SDK使用該API是預覽版功能,因此不受任何服務等級協定(SLA)或棄用政策的約束,其功能可能會發生不向後兼容的變更。當前,該API主要支持通過Firebase AI Logic庫集成到Android、Flutter和Unity套用中,無需進行後端開發,谷歌計畫未來將支持擴展到Apple平台(iOS)和Web套用。使用Gemini Live API會產生費用,具體價格取決於所使用的模型和功能,開發者需要參考其選擇的Gemini API供應商(Gemini Developer API 或Vertex AI)的官方文檔來獲取詳細的定價信息。
API的使用受到多種限制,包括並發會話數限制、速率限制、會話時長限制、模型上下文大小限制以及需要持續的網路連線。例如,每個Firebase項目可能限制為10個並發會話,使用Vertex AI Gemini API時限制可能不同。速率限制存在每分鐘令牌數(TPM)等限制,例如每分鐘400萬個令牌。會話有默認時長限制,可能為10分鐘或30分鐘,具體取決於配置或時期,當會話逾時時連線會被終止。模型上下文大小限制意味著傳送大量輸入可能導致會話提前終止。此外,API需要持續的網路連線,且可能不適合處理關鍵的錯誤狀況通信,如在無螢幕的AI眼鏡上。
通過Firebase AI Logic使用Live API時,尚不支持以下功能:處理用戶中斷、跨多個連線管理或延長會話、禁用或配置語音活動檢測(VAD)、在回響中接收使用量元數據(UsageMetadata)以及使用CountTokens API估算令牌消耗。

核心團隊

谷歌Gemini套用負責人為Sissie Hsiao,其將卸任該職務。
Gemini API的負責人為首席工程師Jaana Dogan。
根據負責人Jaana Dogan的公開言論,該團隊目前正全力推進模型和基礎設施建設,並對行業競爭持開放態度。

重要事件

2026年1月,谷歌演示了將Gemini Live API整合至Android XR平台,用於打造AI眼鏡的對話界面,展示了其在擴展現實(XR)設備上的套用潛力。
2026年1月,谷歌宣布Gemini Live API的原生音頻模型(如Gemini 3 Pro& Flash)現已可通過Firebase AI Logic在所有平台上使用,標誌著API支持的進一步拓展。
2026年3月,谷歌發布了詳細的開發者指南,指導開發者如何使用Firebase AI Logic開始集成Gemini Live API,並明確了模型配置、許可權設定等具體步驟。
2026年3月27日,谷歌正式發布專為實時音視頻套用打造的Gemini 3.1 Flash Live模型,該模型速度更快、對話上下文記憶時長延長,並已集成至包括Gemini Live API在內的多款谷歌產品生態中。

相關詞條

熱門詞條

聯絡我們