科技與AI

我先聲明,我個人希望章萬安不要驗DNB,讓迷因嘴一輩子,我先去叫鹹酥雞可樂,還有

Max Lu 呂元鐘 ・ ・ 原載於 Facebook
重點摘要

本文探討 Meta AI 助理 Muse 近期引發的隱私爭議,包括被控未經授權讀取用戶私人訊息,以及洩露用戶住址等事件。儘管 Meta 官方強調技術架構安全性並將爭議歸咎於 AI 幻覺,但其處理危機的方式與用戶經歷的實際落差,進一步引發了大眾對科技巨頭在發展 AI 市場過程中,如何維護隱私與信任機制的深度質疑。

TechCrunch:Meta 的 AI 助理 Muse 是否會未經許可讀取你的訊息?

Meta 的 Muse 真的令人震驚,但是他的發展不得不管理。

科技記者 Jason Aten 在專欄裡丟下了一顆震撼彈,他指控 Meta 的 AI 助理 Muse 在未獲授權的情況下,直接讀取了他個人的私人訊息。這件事發生得沒頭沒尾,卻直接踩中了隱私紅線。

Meta 的反應很快。負責通訊的副總裁 Andy Stone 第一時間在 X 上公開反駁,語氣相當直接,他宣稱 Muse 的訊息整合功能是完全「選擇性開啟」的(opt-in),除非使用者自己動手,否則 Muse 根本無法讀取任何內容。

這種「你沒開權限,它不可能讀到」的說法,聽起來技術上非常合理。Meta 超級智慧實驗室(Superintelligence Labs)的執行 David Singleton 隨後也在 Threads 上補充了更硬核的技術細節,他指出在 macOS 上,要讓 Muse 讀取訊息需要經過三個層級的權限申請,且有系統級的保護機制,這套流程就算 Muse 程式本身有漏洞也無法繞過。

Singleton 的解釋是這樣的:當你手動給予 Muse 全磁碟存取權(Full Disk Access)後,系統介面會強制跳出一個對話框,要求你明確選擇對訊息 App 的存取權限,選項包含「無」、「唯讀」或「讀寫」。如果使用者沒有啟用全磁碟存取權,這些選項甚至是反灰、無法點選的。更關鍵的是,當你完成這些動作時,Muse 應用程式還會觸發一次強制重啟。

照這個邏輯看,這簡直是不可能發生的錯誤。

但這裡有個巨大的資訊落差。Jason Aten 堅持他在 Muse 讀取訊息時,根本沒有開啟全磁碟存取權。更弔詭的是,當他追問 Muse 為什麼會讀到訊息時,Muse 竟然回應是因為在同步他的「裝置通知」。按照 Aten 的解讀,這代表 Muse 當時正在擅自截取他電腦上的推播通知內容。

面對這個指控,Meta 的回應是將其歸咎於 AI 的「胡言亂語」。Singleton 稱 Muse 當時產生了幻覺,給出了完全錯誤的解釋。Meta 隨即祭出了一套標準防禦姿態,直接把 Aten 指向公司內部的安全性架構說明頁面,強調他們的 Bug 回報與獎勵機制多麼完善。

這種「你想的都不會發生,發生了也不會是我們系統的問題」的論調,讀者恐怕很難買單。畢竟就在幾天前,新墨西哥州的陪審團才剛剛判決 Meta 在 2018 年的劍橋分析事件中誤導了使用者。

現實情況是,這並非 Muse 第一次被指控越界。YouTuber Matt Robb 最近也公開抱怨,他使用 Muse 協助處理 Facebook Marketplace 的二手交易時,因為系統操作失誤,導致他家裡的私人地址直接被洩露給陌生買家,甚至發生了陌生人在他不在家時找上門的荒謬情況。對於這個案例,Meta 罕見地沒有否認,Singleton 表示內部正在調查。

Meta 目前正處在爭奪 AI 市場的關鍵時刻,Muse 在 App Store 的下載排行依然穩居第一,這證明了消費者的需求並沒有因為這些爭議而瞬間冷卻。但信任的建立過程非常漫長,摧毀它卻只需要幾則被驗證為真的負面報告。

當官方的技術防線與使用者的真實災難並列,這種「各執一詞」的狀態本身,就是目前這家科技巨頭處理隱私問題的真實寫照。

Meta 選擇了在公開社群媒體上對抗記者,而不是坐下來釐清具體的系統 log,這...不知道多少人可以接受。

科技財經世界觀察自我成長,喜歡的話歡迎訂閱我Max呂元鐘

← 看更多 Max Lu 呂元鐘 的文章・依主題瀏覽