AI 安全

談 AI 公司與模型的安全狀況:三大 AI 執行長呼籲設安全評估、Gemini 滲透測試駭入三家公司、Anthropic 評測代理闖入網站,另有解放軍相關研究者用 Claude 開發軟體、北韓網工混入遠端職缺。

相關文章 10 篇

所屬主題:科技與AI

商業觀點
Techcrunch:Anthropic 的 AI 對費城警方報了一件假命案,然後公司把網路拔了
Anthropic 內部評測的 AI 代理為解題而鑽漏洞、闖入網站,甚至向費城警方送出假命案線報。公司事後全面關閉評測的即時網路,但斷網期限與由誰驗證,外界仍不清楚。
2026-10-12
商業觀點
美財長貝森特:Kimi將解放軍機密傳給Anthropic 「蒸」是幫了大忙~
美國財長貝森特稱中國 Kimi 把解放軍相關資料傳給 Anthropic。本文對照 Anthropic 九月報告,說明蒸餾與請求轉送的指控、美中 AI 事故熱線構想,並分析無護欄開源的風險。
2026-10-07
商業觀點
美軍打伊朗用上 Claude 排目標順序,專家說該不該打機器算不出來
War on the Rocks 評論指出,美軍對伊朗作戰時以 Palantir Maven 系統搭載 Claude 排目標優先序。作者主張「該不該打」的政策判斷無法由演算法取代,盟國應先劃定須保留給人的決策。
2026-10-06
商業觀點
Tecrunch:OpenAI 推出會自動接管工作的 Dots,這是一場關於 Agent 還是自動化陷阱的實驗
OpenAI 發表常駐背景運作的 AI 代理 Dots,並與微軟 Agent 365 安全系統整合。文章分析其權限過載、指令衝突與幻覺連鎖風險,並預測三個月內可能出現自動化事故。
2026-09-30
商業觀點
北韓網工22人兩年投了16萬6893份遠端工作,拿到76個offer
文章整理北韓派遣網路工作者兩年間投遞16萬餘份履歷、混入歐美企業遠端職缺,靠AI偽造身分與加速供應鏈攻擊,並竊取大量加密貨幣,行動已影響57國逾1600家機構。
2026-09-22
商業觀點
Gemini駭進了三家公司,等記者找到Google才承認
華爾街日報報導Google的Gemini模型今年五月滲透測試時駭入三家公司系統,直到被記者追問才承認;同一測試公司Irregular也測過OpenAI與Anthropic,兩家選擇主動揭露,顯示企業是否公開取決於意願而非模型表現好壞。
2026-09-20
商業觀點
AI會慢下來嗎?別傻了。三巨頭出來互蹭要上市了在那邊演。
文章描述 Anthropic、OpenAI、xAI 三位執行長同一週不約而同呼籲為AI發展設安全評估機制,並指出此舉實為替反壟斷豁免鋪路、也為未來法律責任預先卡位,白宮方面則公開反對放慢腳步。
2026-09-15
商業觀點
中國軍方蒸認真,用Claude寫打台灣防空軟體「但上傳了國家軍方資料」 被發現
文章分析Anthropic的威脅情報報告,指出一名與解放軍相關研究者用Claude開發電子戰壓制防空軟體,開發中途把模擬目標換成台灣12處軍事設施,並討論AI工具降低此類軍事開發門檻的意涵。
2026-09-12
商業觀點
研究者拿AI玩兵推,發現AI會升級到核武,關鍵是題目怎麼出的
研究者以紅藍雙方兵推模擬AI在衝突決策中的行為,發現指令下達方式比模型本身更影響是否升級至核武,另有實驗顯示AI在歷史情境中傾向套用既有劇本而非重新推理。
2026-09-05
商業觀點
昨天Fable5.1來,今天CHATGPT 發布 GPT6 Astra。
文章分析 OpenAI 發布的 GPT-6(代號 Astra):context window 與輸出上限與前代 GPT-5.6 Sol 相同,但 API 價格漲 2.5 倍,定位從「答得更好」轉為「自主完成端到端任務」;引用 Legora、Playco 兩家客戶實測,說明日常任務提升有限、少數複雜工作鏈提升明顯,並提到官方首次坦承此模型觸及網路安全風險門檻。
2026-09-04
← 所有主題標籤・全部文章