本周，來(lái)自加利福尼亞州的民主黨參議員亞當(dāng)·希夫提出《致命行動(dòng)中的人類(lèi)授權(quán)法案》。該法案要求，任何由自主武器系統(tǒng)采取的行動(dòng)，最終都必須由人類(lèi)指揮官拍板。

法案還要求詳細(xì)記錄軍事決策的形成過(guò)程以及目標(biāo)選擇方式，以便事后審查；為舉報(bào)人設(shè)立保護(hù)措施；并禁止在某些涉及核武器和大規(guī)模監(jiān)控的情形中使用人工智能。

希夫在新聞稿中表示：“過(guò)去幾個(gè)月已經(jīng)表明，我們迫切需要建立常識(shí)性的防護(hù)欄，確保國(guó)防部對(duì)人工智能的使用符合美國(guó)人的國(guó)家安全和隱私優(yōu)先事項(xiàng)。我的立法將保護(hù)美國(guó)人免受非法國(guó)內(nèi)監(jiān)控，確保指揮鏈中的人類(lèi)對(duì)任何致命技術(shù)的使用承擔(dān)責(zé)任，并在部署自主和半自主武器時(shí)維持強(qiáng)有力的倫理保護(hù)?！?/p>

人工智能進(jìn)入戰(zhàn)爭(zhēng)領(lǐng)域已有一段時(shí)間。世界各國(guó)軍隊(duì)都在借助人工智能系統(tǒng)進(jìn)行打擊目標(biāo)選擇和大規(guī)模監(jiān)控，其中一個(gè)較為突出的例子，是以色列軍隊(duì)針對(duì)巴勒斯坦人使用人工智能。美國(guó)也長(zhǎng)期在軍事行動(dòng)中部署人工智能，包括其最近針對(duì)伊朗的戰(zhàn)爭(zhēng)。

不過(guò)，今年早些時(shí)候，軍方使用人工智能的問(wèn)題被迅速推上公共討論前臺(tái)。原因是五角大樓與人工智能公司安思羅皮克之間一項(xiàng)原有協(xié)議告吹，而且五角大樓還以前所未有的做法，將這家公司列為供應(yīng)鏈風(fēng)險(xiǎn)。

據(jù)稱(chēng)，安思羅皮克拒絕取消其人工智能系統(tǒng)中的防護(hù)限制。這些限制原本旨在防止國(guó)防部將其模型用于大規(guī)模國(guó)內(nèi)監(jiān)控以及完全自主武器，也就是幾乎不需要人類(lèi)參與的武器系統(tǒng)。

在合作破裂后，五角大樓與其他主要人工智能公司簽署了合同，包括開(kāi)放人工智能研究中心、谷歌、英偉達(dá)、太空探索技術(shù)公司、微軟和亞馬遜云服務(wù)。安思羅皮克已就這一認(rèn)定提起訴訟。不過(guò)有報(bào)道稱(chēng)，在該公司發(fā)布最新模型“邁索斯”后，特朗普政府對(duì)它的態(tài)度正在轉(zhuǎn)暖。這一模型被宣傳為網(wǎng)絡(luò)安全行業(yè)的“噩夢(mèng)”。

在特朗普政府與安思羅皮克高調(diào)決裂后，一批民主黨人公開(kāi)表態(tài)支持這家人工智能公司及其立場(chǎng)，希夫就是其中之一，也是《致命行動(dòng)中的人類(lèi)授權(quán)法案》的提出者。

希夫今年3月在“龐奇博爾新聞大會(huì)”上說(shuō)：“我希望外界能有更多像安思羅皮克這樣的聲音?！边^(guò)去幾個(gè)月里，希夫還提出了一系列與人工智能相關(guān)的法案，包括要求大型數(shù)據(jù)中心自行承擔(dān)用電成本、要求人工智能公司披露用于訓(xùn)練模型的版權(quán)作品，以及將人工智能素養(yǎng)課程引入學(xué)校。

據(jù)報(bào)道，他現(xiàn)在正計(jì)劃把這項(xiàng)法案附加到年度軍事開(kāi)支法案，也就是《國(guó)防授權(quán)法案》中。這項(xiàng)法案最遲必須在今年年底前通過(guò)。

提出類(lèi)似方案的并不只有他。來(lái)自紐約州的民主黨參議員柯?tīng)査闺ぜ继m德本月早些時(shí)候也提出了一項(xiàng)非常相似的法案，對(duì)人工智能在核武器部署、國(guó)內(nèi)監(jiān)控和完全自主武器中的使用設(shè)限。

根據(jù)這項(xiàng)法案的定義，所有這些以及更多“高后果行動(dòng)”，都必須獲得國(guó)防部高級(jí)官員批準(zhǔn)后才能推進(jìn)。據(jù)報(bào)道，吉利布蘭德也計(jì)劃把這項(xiàng)提案作為《國(guó)防授權(quán)法案》的修正案提出。

此外，來(lái)自密歇根州的民主黨參議員伊麗莎·斯洛特金早在3月就提出了《人工智能防護(hù)欄法案》。這項(xiàng)法案同樣試圖建立與希夫和吉利布蘭德法案非常相近的限制措施。據(jù)報(bào)道，斯洛特金也正準(zhǔn)備將其作為《國(guó)防授權(quán)法案》的修正案提出。

這三項(xiàng)法案都試圖通過(guò)在人類(lèi)監(jiān)督下約束軍方場(chǎng)景中的人工智能決策，以提高安全性。但風(fēng)險(xiǎn)并不止于此。許多人工智能使用者容易受到專(zhuān)家所說(shuō)的“自動(dòng)化偏見(jiàn)”影響，也就是因?yàn)橄到y(tǒng)掌握更多信息，或者看起來(lái)推理更高效，就認(rèn)為人工智能比人類(lèi)判斷得更準(zhǔn)確。但事實(shí)顯然并非如此：這項(xiàng)技術(shù)遠(yuǎn)未成熟，大語(yǔ)言模型容易出現(xiàn)“幻覺(jué)”或帶有偏見(jiàn)的判斷。

再加上人工智能具有“黑箱”特性，使用者無(wú)法完全了解系統(tǒng)為何會(huì)以某種方式推理、又是如何得出結(jié)論的。這樣一來(lái)，即便有人類(lèi)監(jiān)督，軍方的人工智能方案仍可能導(dǎo)致致命錯(cuò)誤。這也說(shuō)明，對(duì)軍方人工智能決策設(shè)置明確邊界和人為約束，仍是不可回避的問(wèn)題。