近日，美國人工智能（AI）公司Anthropic正緊急與特朗普政府展開磋商，希望解除針對其最新AI模型Fable 5和Mythos 5的限制措施。

據(jù)多家海外媒體報(bào)道，在特朗普政府上周五（12日）宣布禁止外國政府、企業(yè)和個(gè)人使用上述模型后，Anthropic高層于周末與美國官員進(jìn)行了數(shù)小時(shí)會(huì)談，并派遣多名高級技術(shù)人員前往華盛頓與政府安全專家面對面交流。此次爭議已引發(fā)網(wǎng)絡(luò)安全界廣泛關(guān)注，多位專家公開呼吁撤銷相關(guān)限制。

密集溝通尋求解決方案

《華爾街日報(bào)》援引知情人士稱，美國商務(wù)部長霍華德·盧特尼克、國家網(wǎng)絡(luò)總監(jiān)肖恩·凱恩克羅斯與Anthropic聯(lián)合創(chuàng)始人兼首席算力官湯姆·布朗、公共政策主管薩拉·赫克日前進(jìn)行了長達(dá)數(shù)小時(shí)的電話會(huì)議，重點(diǎn)討論Fable 5模型的安全問題及后續(xù)安排。

此前，特朗普政府宣布，禁止外國政府、企業(yè)及個(gè)人使用Anthropic發(fā)布的Fable 5和Mythos 5模型。作為回應(yīng)，Anthropic關(guān)閉了所有用戶對兩款模型的訪問權(quán)限。公司當(dāng)時(shí)表示，該限制不僅影響海外客戶，也波及部分外籍Anthropic員工。

接近公司和政府的人士表示，雙方均希望盡快解決爭議并恢復(fù)模型使用權(quán)限，但具體方案尚未確定。一些政府官員認(rèn)為，讓Anthropic技術(shù)團(tuán)隊(duì)與政府安全研究人員進(jìn)行直接交流，是達(dá)成妥協(xié)的重要前提。

為此，Anthropic已派遣多名核心安全專家前往華盛頓，包括頂級安全研究員尼古拉斯·卡利尼、負(fù)責(zé)模型風(fēng)險(xiǎn)評估團(tuán)隊(duì)的洛根·格雷厄姆以及公司安全防護(hù)負(fù)責(zé)人戴夫·奧爾。

亞馬遜研究觸發(fā)監(jiān)管行動(dòng)

此次風(fēng)波源于亞馬遜研究人員對Fable模型進(jìn)行的一項(xiàng)測試。

據(jù)審閱過相關(guān)研究報(bào)告的網(wǎng)絡(luò)安全專家介紹，研究人員通過調(diào)整提問方式，成功誘導(dǎo)Fable披露至少四款軟件產(chǎn)品的安全漏洞信息。相關(guān)研究結(jié)果隨后被提交給Anthropic及美國政府部門，并引起白宮官員關(guān)注。

知情人士稱，亞馬遜首席執(zhí)行官安迪·賈西曾就相關(guān)發(fā)現(xiàn)與包括美國財(cái)政部長斯科特·貝森特在內(nèi)的政府官員進(jìn)行溝通。隨后，白宮召開會(huì)議討論應(yīng)對措施，并要求Anthropic下架相關(guān)模型。

據(jù)透露，特朗普總統(tǒng)要求盧特尼克協(xié)助主導(dǎo)政府應(yīng)對工作，并批準(zhǔn)了相關(guān)限制措施。此后，Anthropic高級管理層與盧特尼克、凱恩克羅斯以及貝森特等官員進(jìn)行了數(shù)小時(shí)電話會(huì)議。接近Anthropic的人士稱，公司認(rèn)為自己只有極短時(shí)間決定是否下架模型，否則相關(guān)限制將正式生效。

不過，多位安全研究人員指出，亞馬遜研究雖然證明模型能夠識別部分漏洞信息，但并未顯示其能夠生成用于發(fā)動(dòng)網(wǎng)絡(luò)攻擊的漏洞利用程序。

Anthropic也表示，亞馬遜發(fā)現(xiàn)的問題屬于相對基礎(chǔ)的漏洞信息，許多公開可獲得的大模型同樣具備發(fā)現(xiàn)此類漏洞的能力，因此并不構(gòu)成真正意義上的“越獄”（jailbreak）。

網(wǎng)絡(luò)安全界呼吁撤銷限制

對于政府的決定，部分網(wǎng)絡(luò)安全專家認(rèn)為反應(yīng)過度。

據(jù)路透社當(dāng)?shù)貢r(shí)間6月14日報(bào)道，多位知名網(wǎng)絡(luò)安全專家聯(lián)名致信美國政府，呼吁取消相關(guān)限制措施。公開信指出：“這一行動(dòng)讓防御人員失去了最優(yōu)秀的模型，造成了市場不確定性，并在沒有任何真實(shí)風(fēng)險(xiǎn)作為依據(jù)的情況下，危及美國在AI領(lǐng)域的領(lǐng)導(dǎo)地位?！?/p>

公開信還表示，相關(guān)研究揭示的并非新的風(fēng)險(xiǎn)，而是“任何旨在編寫安全代碼的模型都必須具備的必要能力”。

近期，Anthropic發(fā)布了被稱為“去鋒芒版”的Fable模型，在保留部分網(wǎng)絡(luò)安全研究能力的同時(shí)增加了大量安全護(hù)欄和防護(hù)措施；同時(shí)發(fā)布的Mythos 5則是此前Mythos Preview技術(shù)的升級版本。由于此次限制措施并未涵蓋Mythos Preview，因此現(xiàn)有合作伙伴仍可繼續(xù)使用該模型。

Anthropic強(qiáng)調(diào)，公司長期以來一直將安全性作為核心原則，并已建立充分的安全保障措施。值得注意的是，Anthropic此前曾與白宮合作推出Mythos模型。目前該模型僅向約200家企業(yè)和研究機(jī)構(gòu)開放，用于發(fā)現(xiàn)和修補(bǔ)金融服務(wù)、醫(yī)療保健以及企業(yè)軟件中的安全漏洞。

網(wǎng)絡(luò)安全公司盧塔安全（Luta Security）首席執(zhí)行官凱蒂·穆索里斯在審閱亞馬遜研究報(bào)告后表示，切斷對最新版本Mythos的訪問“實(shí)際上正在損害國家安全和網(wǎng)絡(luò)防御能力”。

目前，Anthropic與特朗普政府之間的磋商仍在繼續(xù)，雙方正試圖就模型安全性及未來使用范圍達(dá)成解決方案。