美國(guó)知名人工智能企業(yè)OpenAI近日在軍事應(yīng)用領(lǐng)域邁出關(guān)鍵一步。

該公司2月28日宣布，已與美國(guó)國(guó)防部達(dá)成協(xié)議，將其人工智能模型部署于五角大樓的機(jī)密網(wǎng)絡(luò)。

這一合作標(biāo)志著這家以“造福全人類”為愿景的科技公司，與軍方的關(guān)系進(jìn)入了更深層次的階段。

就在協(xié)議達(dá)成的同一天，另一家美國(guó)企業(yè)因與五角大樓在人工智能技術(shù)的應(yīng)用范圍上存在嚴(yán)重分歧而不歡而散，形成鮮明對(duì)比。

OpenAI的首席執(zhí)行官薩姆·奧爾特曼在社交媒體上為這一合作進(jìn)行了辯護(hù)。

他表示，此次合作遵循公司堅(jiān)持的原則，即人工智能不得用于“國(guó)內(nèi)大規(guī)模監(jiān)控”，而任何涉及武力的使用，包括自主武器系統(tǒng)，都必須由人類負(fù)責(zé)。

他同時(shí)強(qiáng)調(diào)公司已為此設(shè)立了“安全保障”。

然而，根據(jù)彭博社的報(bào)道，奧爾特曼的聲明并未明確禁止將人工智能工具用于完全自主的武器系統(tǒng)，這為技術(shù)的潛在軍事用途留下了想象空間。事實(shí)上，OpenAI的立場(chǎng)近年來已發(fā)生顯著轉(zhuǎn)變。

這家最初以非營(yíng)利性質(zhì)成立的企業(yè)，正加速向營(yíng)利模式轉(zhuǎn)型。過去，其政策明確禁止將技術(shù)用于軍事領(lǐng)域，但自2024年起開始放寬相關(guān)限制。

在其最新的宗旨說明中，甚至刪去了“安全”一詞，僅保留“通過人工智能造福全人類”的表述。

具體的軍事合作項(xiàng)目是什么？今年早些時(shí)候，OpenAI入選了一個(gè)總獎(jiǎng)金高達(dá)1億美元的挑戰(zhàn)項(xiàng)目，參與為軍方開發(fā)由語(yǔ)音控制的自主無人機(jī)群技術(shù)。

根據(jù)相關(guān)文件，OpenAI的模型將在此項(xiàng)目中負(fù)責(zé)將語(yǔ)音指令轉(zhuǎn)化為數(shù)字指令，直接應(yīng)用于軍事裝備。

值得注意的是，由馬斯克的xAI公司也是該項(xiàng)目的競(jìng)爭(zhēng)者之一，盡管馬斯克本人長(zhǎng)期以來一直公開反對(duì)開發(fā)“殺人的新工具”。

隨著投資者對(duì)人工智能技術(shù)的熱情高漲，商業(yè)利益正成為驅(qū)動(dòng)這些科技巨頭的重要?jiǎng)恿?。就在宣布與五角大樓合作的前一天，OpenAI剛剛完成了迄今為止最大一筆融資，最新一輪融資對(duì)其估值高達(dá)7300億美元，籌集資金達(dá)1100億美元。

巨大的商業(yè)前景與軍方的合作緊密相連。

但是，也正如美聯(lián)社所指出的，如果廣大消費(fèi)者將OpenAI與五角大樓的合作解讀為將利潤(rùn)置于安全之上，這種與軍方的深度綁定最終可能會(huì)反噬該公司，損害其在公眾心中的形象和信任度。

那個(gè)曾以“非營(yíng)利”和“安全”為旗幟的烏托邦理想國(guó)，到如今估值高達(dá)7300億美元、深度嵌入五角大樓機(jī)密網(wǎng)絡(luò)的國(guó)防承包商，OpenAI的蛻變軌跡，是資本邏輯對(duì)技術(shù)邏輯徹底馴服的完整樣本。

很多人認(rèn)為OpenAI是為了賺取巨額研發(fā)經(jīng)費(fèi)才接下軍方的橄欖枝，這種看法或許過于表面。真正驅(qū)動(dòng)它的，是一種更為根本、也更為稀缺的資源獲取權(quán)——在極端場(chǎng)景下訓(xùn)練人工智能的“數(shù)據(jù)權(quán)”。

五角大樓的機(jī)密網(wǎng)絡(luò)、自主武器系統(tǒng)的決策鏈路，代表了人類與機(jī)器交互所能達(dá)到的最高壓力環(huán)境。在那種生死一線、信息混沌的環(huán)境里產(chǎn)生的數(shù)據(jù)，是民用互聯(lián)網(wǎng)上海量閑聊、商品推薦、視頻推送永遠(yuǎn)無法提供的“黃金燃料”。

通過參與軍方項(xiàng)目，比如將語(yǔ)音指令轉(zhuǎn)化為無人機(jī)群的致命打擊，OpenAI的模型正在學(xué)習(xí)如何從一個(gè)提供建議的“智能工具”，蛻變?yōu)橐粋€(gè)在戰(zhàn)場(chǎng)上做出判斷的“決策終端”。

這種在極限場(chǎng)景下的強(qiáng)化學(xué)習(xí)，會(huì)讓它的智能水平，魯棒性，將那些只會(huì)在社交媒體上生成文案和圖像的民用模型遠(yuǎn)遠(yuǎn)甩在身后。

本質(zhì)上，這是美國(guó)政府在用國(guó)防預(yù)算，為它本土最頂尖的人工智能公司購(gòu)買一份最昂貴、也最有效的“實(shí)戰(zhàn)訓(xùn)練數(shù)據(jù)包”。這筆交易，遠(yuǎn)比賬面上的研發(fā)費(fèi)來得深遠(yuǎn)。

而在這個(gè)交易過程中，關(guān)于“人類控制權(quán)”的承諾，正變得前所未有的微妙和模糊。

奧爾特曼反復(fù)強(qiáng)調(diào)，武力使用必須由人類負(fù)責(zé)，但與此同時(shí)，他又并未明確禁止將人工智能工具用于完全自主的武器系統(tǒng)。這種看似矛盾的表述，實(shí)則是一種極其精準(zhǔn)的語(yǔ)義模糊，它掩蓋了一個(gè)正在發(fā)生的權(quán)力讓渡。

所謂的“人在回路”，在人工智能處理海量傳感器數(shù)據(jù)、自主識(shí)別目標(biāo)并生成打擊方案的高速戰(zhàn)場(chǎng)上，正在演變?yōu)橐环N象征性的“人在遠(yuǎn)端”。

人類指揮官面前的確認(rèn)按鈕，在算法的閃電般運(yùn)算和推薦面前，將逐漸成為一個(gè)不得不按下的儀式性授權(quán)。

決策的節(jié)奏、決策的依據(jù)、甚至決策的對(duì)象，實(shí)際上已經(jīng)讓渡給了算法。

這也就催生了一個(gè)全新權(quán)力結(jié)構(gòu)的誕生，我將其稱之為“硅谷軍工復(fù)合體”的正式成型。

以前，洛克希德·馬丁、雷神、諾斯羅普·格魯曼這些傳統(tǒng)軍工巨頭，負(fù)責(zé)制造武器的“身體”——那些鋼鐵打造的導(dǎo)彈、戰(zhàn)機(jī)和艦船。而現(xiàn)在，OpenAI、xAI這些來自硅谷的科技新貴，正在負(fù)責(zé)制造這些武器的“大腦”。

你可以想象這樣一種場(chǎng)景，未來戰(zhàn)爭(zhēng)的勝負(fù)，可能在芯片的算力峰會(huì)上、在模型參數(shù)量的比拼中，就已經(jīng)被預(yù)先決定。

馬斯克長(zhǎng)期以來公開表示反對(duì)開發(fā)“殺人的新工具”，但他旗下的xAI卻同樣參與到了為軍方開發(fā)自主無人機(jī)群的競(jìng)爭(zhēng)項(xiàng)目中。這種看似矛盾的行為，恰恰體現(xiàn)了資本與技術(shù)的清醒，在人工智能時(shí)代，不參與國(guó)防系統(tǒng)的構(gòu)建，就等于將定義未來戰(zhàn)爭(zhēng)規(guī)則的權(quán)利拱手讓人。

這種競(jìng)爭(zhēng)的加劇，必然催生一個(gè)前所未有的“算法軍火市場(chǎng)”，在這個(gè)市場(chǎng)里，代碼就是子彈，模型就是防線。

民用人工智能市場(chǎng)充滿了不確定性，用戶遷移成本極低，同質(zhì)化競(jìng)爭(zhēng)已經(jīng)讓市場(chǎng)嗅到了血腥味。但國(guó)防訂單是截然不同的存在，它具有極強(qiáng)的“逆周期性”和“高粘性”。

無論經(jīng)濟(jì)繁榮還是衰退，國(guó)防預(yù)算都是國(guó)家支出的底線。

而一旦一個(gè)人工智能模型深度嵌入到五角大樓的指揮、控制、通信、計(jì)算機(jī)、情報(bào)及監(jiān)視與偵察系統(tǒng)，也就是所謂的C4ISR系統(tǒng)之中，更換供應(yīng)商的成本將變得不可想象。那意味著整個(gè)國(guó)防體系的推倒重來。

所以，OpenAI其實(shí)也是在通過“國(guó)防化”來實(shí)現(xiàn)自身估值的“避險(xiǎn)化”。在全球地緣政治動(dòng)蕩日益加劇的今天，投資者愿意給那些同時(shí)具備“硬核科技”和“國(guó)家安全”雙重屬性的公司以更高的溢價(jià)。

前段時(shí)間的1100億美元，與其說是投向一個(gè)聊天機(jī)器人，不如說是投向“美國(guó)下一代國(guó)防基礎(chǔ)設(shè)施的軟件定義者”。

這種由地緣政治催生的“戰(zhàn)爭(zhēng)溢價(jià)”，已經(jīng)不可避免地重塑納斯達(dá)克的科技股估值體系，將那些純粹依賴消費(fèi)市場(chǎng)的科技公司，與這種深嵌于國(guó)家核心權(quán)力的公司，徹底區(qū)分開來。

但是，事實(shí)上，我們都無法回避一個(gè)問題，那就是當(dāng)消費(fèi)者意識(shí)到，自己用來寫郵件、查資料的人工智能，同時(shí)也在為無人機(jī)規(guī)劃殺戮路徑時(shí)，會(huì)發(fā)生什么？

關(guān)于消費(fèi)者反噬的擔(dān)憂，確實(shí)是存在的。

但我的看法稍有不同。

普通大眾對(duì)人工智能的認(rèn)知，始終是分裂的。

一方面，人們本能地恐懼它可能帶來的災(zāi)難；另一方面，人們又不斷驚嘆于它日新月異的能力。而歷史上，人工智能最驚人的飛躍，往往就發(fā)生在試圖解決那些最復(fù)雜、最極限的軍事問題之時(shí)。

互聯(lián)網(wǎng)、全球定位系統(tǒng)，甚至早期的電子計(jì)算機(jī)，它們最初的形態(tài)都源于軍事需求，而后才逐漸降維，惠及民用，最終改變了每個(gè)人的生活。

OpenAI或許正在賭這樣一個(gè)邏輯，通過服務(wù)國(guó)防所獲得的頂尖技術(shù)，最終會(huì)以某種形式“降維打擊”到民用市場(chǎng)，創(chuàng)造出一種消費(fèi)者根本無法拒絕、甚至習(xí)以為常的更強(qiáng)大的產(chǎn)品。

只要那個(gè)產(chǎn)品足夠驚艷，只要它能讓生活更便捷、工作更高效，消費(fèi)者對(duì)“道德瑕疵”的記憶往往是短暫的，是會(huì)主動(dòng)選擇遺忘的。

當(dāng)然，這一切存在一個(gè)毀滅性的前提。

如果未來某一天，因?yàn)槿斯ぶ悄艿臎Q策失誤，導(dǎo)致了大規(guī)模平民傷亡的慘劇，而這次慘劇又被清晰地追溯到這個(gè)模型、這次合作之上，那么這種反噬將不再局限于商業(yè)層面，它將演變成一場(chǎng)席卷全球的、針對(duì)人工智能本身的監(jiān)管海嘯，甚至可能徹底中斷這項(xiàng)技術(shù)狂奔的進(jìn)程。

總而言之，OpenAI與五角大樓的這次聯(lián)手，更為有力地證明了人工智能，這個(gè)人類智慧的結(jié)晶，已經(jīng)正式從信息時(shí)代的效率工具，進(jìn)化成為大國(guó)博弈棋盤上那個(gè)最具分量的、能夠定義勝敗的武器平臺(tái)。

而其“安全性”將不再是一個(gè)可以放在實(shí)驗(yàn)室里慢慢討論的算法偏見問題，它已經(jīng)變成一個(gè)關(guān)乎人類文明能否繼續(xù)沿著和平與發(fā)展軌道前行的、最為根本的安全命題。

作者｜Kami

編輯/排版 | Felix

題圖/封面｜網(wǎng)絡(luò)

出品｜32度域AI研究組