世界上第一個被 AI 通報、抓去判刑的人出現了——你跟 AI 講的話不是樹洞

你威脅別人AI會報警，你想傷害自己的話AI會保密XD

你以為跟 AI 講話是私密的。更精確的真相是——你威脅「別人」，AI 公司會把你交給警察；你想傷害「自己」，它基於隱私不會通報。這條線是 AI 公司自己畫的，而且正被兩邊同時告。

先講這個人

Darren Zhou25 歲，前高盛（Goldman Sachs）分析師，住在佛州。今年 3 月，他跟交往六個月的女友分手，然後開始拿 ChatGPT 規劃報復。

不是抱怨兩句的那種。他把女生的地址、每天的行蹤、身邊的朋友一筆一筆記錄下來，還存了拉鍊束帶跟乳膠手套的照片。對話裡有這樣的句子：「這個月底我要殺了她。我得不到她，誰也別想。」到最後他的目標從女生本人，擴大到女生的家人。

這不是聊天是預演。

AI 是怎麼把他抓出來的

這裡是多數人沒搞懂的機制。OpenAI 在 2025 年 8 月就公開講過它的做法：系統的自動過濾會標記「意圖傷害他人」的對話，這些對話被轉進一條專門管線，交給一個受過訓練的小型人工小組複審。如果審查員判定屬於「對他人有立即、嚴重人身傷害的威脅」，就會轉報執法機關。

Zhou 就是這樣被撈出來的。OpenAI 的安全小組看了他的對話、判定是真威脅，5 月通報 FBI；FBI 把資料交給棕櫚灘郡警長辦公室，警方先去對那名女生做安全查訪，然後在 5 月 29 日逮捕他。高盛在 6 月初把他開除。

FBI 拿到的是他大約兩個月的 ChatGPT 對話，而且只有他打的那半邊。但光是這半邊，就足以看出一整套反覆推演的計劃，不是情緒發洩。

判得比你以為的輕

8 月 13 日，Zhou 認罪，三項罪名全認：加重跟蹤、書面死亡威脅、非法使用通訊裝置。理論上最高可以關到 25 年。

實際判決：法官保留了定罪認定（等於不留前科），給他緩刑 8 年、兩年 GPS 電子監控、禁止持槍、強制上加害人矯正課程跟精神評估。他一天牢都沒坐。

你原本以為「AI 通報＝重罰」，結果是通報很硬、判決很軟。這本身就值得記一筆。

真正的重點：那條界線是公司畫的

現在把鏡頭拉遠。OpenAI 的同一份政策裡還有另一半，很少人一起講：它明講「自傷」的對話不會轉報警察，理由是「尊重 ChatGPT 互動的高度私密性」。

於是同一家公司同一條「要不要報」的線，切出兩個完全相反的結果：

威脅別人這一邊Zhou 案被當成成功故事：AI 及時通報、阻止了一樁可能的謀殺。

傷害自己那一邊，OpenAI 正被至少八起訴訟纏身。最有名的是 16 歲的 Adam Raine，父母告 OpenAI說 ChatGPT 在他表達自殺念頭時不但沒攔、還一路陪著他走完。這些案子的共同指控是：AI 公司為了搶市場，把該有的防線放鬆了。

同一條線：通報他人被讚是救人；不通報自己被告是害命。兩種罵法都成立，因為那條線根本不是法律畫的，是一家公司的內部小組畫的。

這案子代表的事

所以「私密」這件事，不是「有沒有人看」的是非題，是「被分到哪一類」的分類題。你跟 AI 講的每一句話，已經被貼上「威脅他人／傷害自己／其他」的標籤，決定了誰會看、要不要報、對誰負責。

它不是一個沒人看的樹洞，是一個有人審、有政策、有法律後果的系統。

判斷任何「免費又私密」的服務，都可以用這一句：當我的話踩到它的紅線，誰會看到、它對誰負責？答案往往不是你，是它的律師跟它的公關。

很多人說這像湯姆克魯斯的《關鍵報告》——在你犯罪前就抓你。差別是，電影裡抓的是「還沒發生的念頭」，Zhou 案抓的是有地址、有工具、有時間表的真實計劃。但「意圖到哪一步算該報」這條線畫在哪，現在是矽谷一家公司的內部小組在決定，不是法官，也不是你。

總結：
第一個被 AI 通報、抓去判刑的人出現了（前高盛分析師 Darren Zhou，緩刑八年）——但真正的重點是：AI 公司對「威脅他人」會報警、對「傷害自己」基於隱私不報，這條線是公司自己畫的、正被兩邊同時告，你跟 AI 講的話從來不是沒人看的樹洞。