Tecrunch:OpenAI 推出會自動接管工作的 Dots,這是一場關於 Agent 還是自動化陷阱的實驗
OpenAI 發表常駐背景運作的 AI 代理 Dots,並與微軟 Agent 365 安全系統整合。文章分析其權限過載、指令衝突與幻覺連鎖風險,並預測三個月內可能出現自動化事故。
OpenAI 在週二的開發者大會上,正式發表了名為 Dots 的新產品。這是一個被設計為「永遠在線」的代理人,由 GPT-6 Astra 提供驅動。你現在可以在 ChatGPT 裡直接啟用它,如果你的帳號等級是 Pro 或 Business Premium,這個功能已經躺在介面上等你開啟。
這東西長得就像它的名字一樣,是一個浮動的、卡通化的小圓點。比起過去為了輸入指令而存在的 Codex 或傳統聊天機器人,OpenAI 對 Dots 的定位明確得多:它是一個能夠在背景持續運作的代理人,負責追蹤你給定的目標,且不需要你時時刻刻盯著進度看。
OpenAI 給出的應用場景非常務實。例如,一位軟體工程師可以指派一個 Dots 去盯著客戶回饋,一旦有報錯或是功能請求,Dots 就會自動排程修復;或者是一名科學家,將數據丟給另一個 Dots,讓它在背景不斷跑分析,一旦有異常的實驗數據出現,它會自動進行二次調查。
為了讓這些 Dots 能運作,OpenAI 甚至已經與微軟展開合作,將其整合進 Agent 365 的安全控制系統中。這意味著你的這些 Dots,可以被授權使用特定的身份、憑證,以及存取企業內部的現有工具。這聽起來像是一個更積極、更具侵入性的自動化助理,它不再只是被動地回話,而是主動去接觸你的 Slack 或 Teams 帳號。
有趣的是,Dots 的外觀設計走的是「泡泡糖」風格,那種圓潤、卡通、帶有親和力的視覺呈現,跟 Meta 最近釋出的 Muse 代理人簡直是一個模子刻出來的。這顯然不是巧合,兩家科技巨頭都在試圖用這種「可愛」的視覺包裝,去稀釋掉這類代理人軟體背後那種隨時隨地都在「側錄」或「代為決策」的技術冷漠感。
這場發布會上有些細節值得玩味。TechCrunch 的報導提到,OpenAI 在發布當天,還在為 10 月 2 日的科技領袖展會進行徵件,甚至還推銷著 Disrupt 大會的門票折抵方案。這兩條資訊流在同一頁面上並列:一邊是重塑工作流的 AI 代理,另一邊是急於讓一萬名科技領袖聚在一起談論未來的展會商務。
許多人關心的隱私與安全問題,在這次發布會上並沒有被詳細說明。Dots 的運作依賴的是更深度的權限存取,當這些數位代理人被賦予執行 Bug 修復或跨平台溝通的權利時,它們如何處理潛在的權限過載,或者是當兩個不同的 Dots 在背景中產生指令衝突時該由誰來仲裁,目前沒有明確的作業規範。
你可以發現一個矛盾點。一方面,OpenAI 強調 Dots 可以在極少人工干預的情況下,持續且獨立地追蹤目標;但另一方面,他們又選擇將這些權限與微軟的 Agent 365 安全架構掛鉤。這意味著,真正決定這些 Dots 能走多遠的,是企業內控系統願意放行多少資料給這些「小圓點」。
這是一項改良後的技術。其實在過去幾年,透過 Codex 或其他類似的自動化框架,開發者們已經能做到類似的代理操作,但 OpenAI 這次的做法是將散落的拼圖打包成一個產品,並給了它一個具備「持續性」的 Persona。這讓這項服務看起來更像是一個虛擬職員,而不僅僅是一段自動運行的 Script。
這種轉變帶來了很直接的風險。當你讓 AI 持續在背景工作,且具備了在 Slack 或 Teams 裡發送訊息、修改程式碼的能力時,一旦這套機制出現「幻覺」或錯誤的邏輯判斷,其連鎖反應將會比過去的聊天機器人失誤更難以追溯。因為它不是在對話,它是在執行任務。
我猜在未來三個月內,我們會看到第一起因為 Dots 自動處理業務,導致企業內部資料庫被「意外清理」或「自動發送了錯誤指令」的災難性事件。這是因為當我們賦予 AI 代理人「主動執行」權限,同時又將其外觀包裝得毫無防備時,人類使用者本能地會降低對自動化流程的警戒心。
科技財經世界觀察自我成長,歡迎訂閱我Max呂元鐘