科技與AI

美軍打伊朗用上 Claude 排目標順序,專家說該不該打機器算不出來

Max Lu 呂元鐘 ・ ・ 原載於 Facebook
重點摘要

War on the Rocks 評論指出,美軍對伊朗作戰時以 Palantir Maven 系統搭載 Claude 排目標優先序。作者主張「該不該打」的政策判斷無法由演算法取代,盟國應先劃定須保留給人的決策。

美軍打伊朗那一仗,Palantir 的 Maven 系統掛著 Claude 在排目標優先序

今年稍早美國跟伊朗開打,Palantir 做的 Maven Smart System 底下跑的是 Anthropic 的 Claude,負責整合情報、提名目標、排優先順序。War on the Rocks 十月五日登了一篇 Dan Summers 的評論,開頭講的是這個,而且說那個速度在五年前根本想像不到。

100字介紹 Maven Smart System(MSS)是 Palantir 為美國國防部打造的 AI 戰場指揮平台,源自「Project Maven」。它整合衛星、無人機、感測器、情報與後勤資料,利用電腦視覺與 AI 辨識目標、建立即時戰場圖像,協助指揮官進行跨軍種聯合作戰、目標確認與火力決策,是美軍 CJADC2 架構的重要系統。

這篇文章吵的不是 AI 合不合法。Summers 寫得很直:合法是最基本的,國際人道法的區分、比例、必要、人道四條原則,大家都在盯。他要講的是英國目標選定準則裡另一個問題。法律顧問回答「能不能打」,政策顧問回答「該不該打」。

「該不該打」沒有固定規則可查。

他舉了一個假想的例子。一座人口稠密地區的院落,裡面有個該為數十名聯軍死亡負責的資深指揮官。身分確認了,附帶傷亡估計在比例原則的門檻內,打得合法。但院落旁邊是一處有深刻文化意義的地點,而且那位指揮官正在跟一個派系透過花了好幾個月才搭起來的密道談停火條件。打了,談判幾乎必定崩,還會產生盟國政府很難公開替它辯護的畫面,而國內對這場行動的支持本來就在動搖。同時,指揮官準備移動,沒人知道他要去哪。

Summers 的結論是這題沒有演算法能解,得有一個人在巨大壓力下衡量彼此無法換算的價值,然後替結果負責。這個例子是他自己編的情境,不是哪一場真實的打擊,這點他文章裡講得清楚。

他拿來對照的是舊武器。射後不理的飛彈執行的是人已經做好的決定。雷達改變的是目標怎麼被辨認。自動防空系統最接近,可以不經人手完成攔截,但只限於事先由人設好的一小塊範圍內。這些東西影響的都是人做決定時看到的輸入,結論還是由人用人的速度得出。監督機制就是照那個速度蓋的。

AI 是自己得出結論,而且比任何人能質疑它、甚至看懂它推理過程的速度更快。Summers 的說法是,實體武器可以禁、可以限,折進一套流程裡的判斷卻很難管。

我看這裡有一個他點到、沒有展開的矛盾。盟國靠了八十年的東西,是「用武力受法律約束、受民主問責、受獨立檢視」這個名聲,北約撐過冷戰靠的不只是核威嚇。可是名聲要靠有人在每一次出手前回答「該不該」才存在,而「該不該」恰好是機器速度最先吃掉的那一步。

標題講的自摔進球就是這個:戰術上多贏一點,戰略上多輸一截。

他給的處方是現在就由盟國政府先講好哪些判斷必須留給人,趁系統還沒完全整合進去,並且讓加速殺傷鏈的同一種技術也去強化監督本身的品質。他沒說要退回去。他說的是重新設計監督,不是放棄。

我對這個處方的懷疑在於時間順序。他要求「在完全整合之前」先協議,但他自己寫的第一段已經交代,Maven 在這場戰爭裡早就上線運作了。

文章裡出現了 Palantir,出現了 Anthropic 的 Claude,出現了北約和英國的準則。沒出現的是,那位按下「打」的人,在這個速度下實際上有幾秒鐘可以說不。

科技財經世界觀察自我成長,歡迎追蹤,我是Max呂元鐘

← 看更多 Max Lu 呂元鐘 的文章・依主題瀏覽