發展歷程
2025年1月,OpenAI計畫發布一款代號為“Operator”的全新AI助理產品。
當地時間2025年1月23日周四,OpenAI宣布上線名為Operator的首款AI智慧型體,它能通過網頁執行各種任務。
2025年1月24日,OpenAI突然舉行直播活動,OpenAI發布首個L3級智慧型體Operator,能夠代理用戶執行基於網頁的操作。2月21日,Operator目前已面向澳大利亞、巴西、加拿大、印度、日本、新加坡、韓國、英國及ChatGPT已覆蓋的大部分地區的Pro用戶推出。5月24日,科技媒體 bleepingcomputer發布博文,報導稱 OpenAI 升級 Operator 智慧型體,所使用的 AI 模型從 4o 升級到 o3 模型,大幅提升推理能力。
主要功能
Operator可以像人類一樣使用網際網路執行各種任務,可以打開一個瀏覽器,點擊頁面的按鈕並打字輸入內容。人類用戶上網會做的那些事,比如預訂機票、酒店訂房、規劃購物訂單並完成網購,都可以由Operator代勞。
核心技術
支撐Operator的核心技術Computer-Using Agent(CUA),被訓練用於與圖形用戶界面GUI(在螢幕上看到的按鈕、選單和文本框)進行互動,就像人類一樣。這就讓它具有了很高的靈活性,無需依賴作業系統或特定網頁API,從而能夠完成各種數位化任務。
新模型CUA
Operator背後的驅動力是OpenAI的新模型“計算機使用智慧型體”(Computer-Using Agent,簡稱CUA)。該模型融合了GPT-4o的視覺能力與通過強化學習實現的高級推理能力。CUA經過訓練,能夠像人類一樣與圖形用戶界面(GUI)互動,包括螢幕上的按鈕、選單和文本框。這種能力使其能夠靈活地執行數字任務,無需依賴特定作業系統或網頁的API。
CUA的開發基於多年在多模態理解和推理領域的基礎研究。它結合了高級的圖形用戶界面感知能力與結構化的問題解決能力,能夠將任務分解為多步驟計畫,並在遇到挑戰時自我調整和糾正。
這一能力標誌著人工智慧發展的新階段,使模型能夠使用人類日常依賴的工具,並為一系列新套用打開了大門。
儘管CUA仍處於早期階段且存在局限性,但它已經在多個基準測試中取得了新的最高水平:在OSWorld的完整計算機使用任務中成功率為38.1%,在WebArena中為58.1%,在WebVoyager的網頁任務中為87%。
這些結果表明,CUA能夠在多樣化的環境中使用單一通用動作空間(a single general action space)進行操作。
CUA的工作原理
CUA通過處理原始像素數據來理解螢幕上的動態,並藉助虛擬滑鼠和鍵盤完成操作。它能夠導航多步驟任務、處理錯誤並適應意外變化,從而在各種數字環境中執行任務,例如填寫表單和瀏覽網站,無需依賴特定的API。
在用戶指令的引導下,CUA通過一個疊代循環來整合感知、推理和行動:
感知:計算機的螢幕截圖被納入模型的上下文中,為模型提供計算機當前狀態的視覺快照。
推理:CUA通過思維鏈來推導下一步操作,綜合考慮當前和過去的螢幕截圖及已執行的動作。這種“內心獨白”(inner monologue)機制通過評估觀察結果、跟蹤中間步驟和動態調整,提升了任務執行的效率。
行動:CUA執行點擊、滾動或輸入等操作,直至任務完成或需要用戶干預。儘管它能自動處理大多數步驟,但在涉及敏感操作(如輸入登錄信息或回響驗證碼)時,會尋求用戶確認。
操作實例
購票
提示:幫我找兩張Jamie XX在洛杉磯舉行的下一場演出的門票。
結果:
- 調用指定合作夥伴Stubhub,成功獲取相關門票。
- 未選定合作夥伴時,因無法瀏覽被阻止的網站,未成功。
提示:找出Jamie xx的演出安排以及每場演出的門票價格。
結果:
- 調用指定合作夥伴Stubhub,失敗。過程中出現虛假信息,在多次提示後,最終取得成功。
AI新聞
提示:AI領域的最新訊息是什麼?
結果:
- 調用指定合作夥伴Axios,表現尚可,返回了一篇簡短的新聞摘要。
局限性與風險
儘管AI智慧型體潛力巨大,但其易用性仍面臨挑戰。已發布的各款智慧型體均承諾通過為用戶執行任務來節省時間和提高效率,但大多數人尚未在日常生活中廣泛使用此類工具。
例如,蘋果於去年秋季在其iPhone作業系統中推出了人工智慧助手Apple Intelligence,但目前該工具尚未廣泛套用於日常事務。即使是企業,大多數AI智慧型體也僅處於測試階段或以有限的方式使用,以避免暴露公司機密數據或引發網路安全風險。
萊特卡普表示,OpenAI可能會為企業客戶增加特定的控制措施或安全護欄,但目前公司仍專注於首批用戶。他指出,OpenAI已經開發了隱私、安全和控制功能,以確保智慧型體不會偏離其編程設定,最重要的是,保持用戶對人工智慧的控制權。
OpenAI指出,Operator可能面臨的風險或濫用情況包括:惡意網站試圖欺騙用戶、用戶試圖欺騙代理,以及“提示注入”(prompt injections)攻擊,後者可能導致用戶將敏感信息或資金髮送到惡意網站。
為應對這些風險,Operator推出一項名為“接管模式”(takeover mode)的功能,要求用戶手動輸入支付詳情或登錄信息。此外,Operator在執行高風險任務(如傳送郵件)之前會徵求用戶批准,並且不會處理涉及銀行交易或決定求職申請的任務。
同時,Operator不會使用用戶之前與ChatGPT共享的數據來執行操作。萊特卡普表示,儘管目前存在局限性,但OpenAI在經過“充分準備和謹慎評估”後,認為Operator已具備有限發布的條件。