Claude Fable 5被美國(guó)政府施以出口管制、強(qiáng)制關(guān)停的風(fēng)波延續(xù)至今。昨日，彭博社表示獲得了事件初發(fā)時(shí)美國(guó)商務(wù)部長(zhǎng)盧特尼克寫(xiě)給Anthropic CEO阿莫迪的公函，并稱(chēng)商務(wù)部在函件里威脅Anthropic若不照辦，將有刑事和民事處罰。

具體函件的全文尚未公開(kāi)，不過(guò)這公函在華盛頓的智庫(kù)和媒體圈里已經(jīng)傳遍。有智庫(kù)專(zhuān)家在社交媒體上曝光了盧特尼克公函的重點(diǎn)段落：

“你司Fable或Mythos系列AI模型，向世界任何地方、或居所不定（包括在美國(guó)）的外國(guó)公民，執(zhí)行出口、轉(zhuǎn)包出口、國(guó)內(nèi)移轉(zhuǎn)、或任何被認(rèn)定為出口與轉(zhuǎn)包出口的行為前，必須按次單個(gè)向商務(wù)部申請(qǐng)批準(zhǔn)?！?/p>

這種“你家AI模型跟非美國(guó)國(guó)籍者每說(shuō)一句話就要領(lǐng)一次許可”的找碴，不僅被普通人詬病，懂行的法律人也表示不靠譜。

不管是《經(jīng)濟(jì)學(xué)人》華盛頓記者站長(zhǎng)，還是卡內(nèi)基基金會(huì)的AI研究員，都在社交媒體上批評(píng)盧特尼克只顧諂媚上峰，做事不過(guò)腦子。這公函在措辭和執(zhí)行面上挖了不少法律坑，Anthropic起訴的話按常理很有勝算。

然而Fable 5關(guān)停風(fēng)波，看似關(guān)于網(wǎng)絡(luò)安全、模型越獄、商業(yè)法規(guī)這些高端議題，實(shí)質(zhì)最有力的因素，是美國(guó)官方從上到下覺(jué)得自己失了面子。過(guò)去的美國(guó)官方講究法律，現(xiàn)在的美國(guó)官方講究出一口鳥(niǎo)氣。

01

美國(guó)政府的公函處處給自己挖坑

原美國(guó)商務(wù)部職員、現(xiàn)在的卡內(nèi)基基金會(huì)AI研究員埃利斯代爾·菲利普·羅賓斯，在社交媒體上表示，自己在讀了盧特尼克公函的全文后，發(fā)現(xiàn)政府威脅Anthropic基本于法無(wú)據(jù)。

羅賓斯列了盧特尼克公函的三點(diǎn)法律漏洞：

1、按法條依據(jù)，Anthropic的Fable/Mythos系列AI模型，根本就沒(méi)有可被依法限制的“出口”。

公函的法律依據(jù)是美國(guó)《出口管理?xiàng)l例》§744.22部分。此條款賦權(quán)的對(duì)象是“美國(guó)商務(wù)部工業(yè)與安全局”，生效條件是“對(duì)手國(guó)家軍事/情治機(jī)構(gòu)使用技術(shù)產(chǎn)品造成不可接受的風(fēng)險(xiǎn)”，管理對(duì)象是“技術(shù)產(chǎn)品的物件”。

然而包括Anthropic在內(nèi)的當(dāng)下AI大廠，提供的是類(lèi)似于Saas的“AI即服務(wù)”。美國(guó)《出口管理?xiàng)l例》§744.22部分只管得到實(shí)體產(chǎn)品，管不到無(wú)形的服務(wù)。

當(dāng)然，美國(guó)官方可以用其他法律來(lái)做指令的法律依據(jù)。但最近似的出口管制法規(guī)如《美國(guó)法典》第50卷第4801節(jié)、《出口管理?xiàng)l例》§772.1部分等，對(duì)“禁止出口”對(duì)象的定義還是“物件”、“軟件”、“技術(shù)”等。

而AI大模型服務(wù)本質(zhì)是廠商向用戶出售遠(yuǎn)程訪問(wèn)和使用自家模型的部分權(quán)限，細(xì)說(shuō)起來(lái)這些法條都管不著。

當(dāng)然，美國(guó)政府內(nèi)部不缺懂行的人。今年1月份國(guó)會(huì)已經(jīng)開(kāi)始修法流程，將AI產(chǎn)品遠(yuǎn)程訪問(wèn)權(quán)限列入出口管制法規(guī)的范圍內(nèi)。

不過(guò)特朗普政府不走尋常路，明明本黨有國(guó)會(huì)多數(shù)優(yōu)勢(shì)，偏偏和“跛腳鴨政府”一樣習(xí)慣藐視立法機(jī)構(gòu)、以總統(tǒng)令治國(guó)、擱置立法進(jìn)程。這下好了，法條更新跟不上時(shí)代了吧。

2、 按行政公文指令的規(guī)范，“禁止出口AI模型”的措辭簡(jiǎn)直胡言亂語(yǔ)。

羅賓斯稱(chēng)，給這公函擬稿的人，手藝糟糕到一定程度了。Anthropic關(guān)停Fable 5其實(shí)是要息事寧人，否則對(duì)這種胡說(shuō)八道置之不理也不算犯規(guī)矩。

因?yàn)椤癆I模型”，一般指代是AI模型的權(quán)重參數(shù)、附屬的程序代碼、依賴(lài)運(yùn)行的算力環(huán)境。只要這些玩意放在美國(guó)境內(nèi)的服務(wù)器上，那么任何以虛擬交互界面執(zhí)行的遠(yuǎn)程訪問(wèn)，都不算“出口”或“轉(zhuǎn)移”了AI模型。被“轉(zhuǎn)移”的，只是用戶輸入的提示詞、模型生成的結(jié)果這些數(shù)據(jù)信息。

3、 從所限制地域來(lái)看，盧特尼克公函覆蓋的范圍比依據(jù)的法條要大得多。

美國(guó)《出口管理?xiàng)l例》§744.22部分，只管制對(duì)一項(xiàng)特定清單上的國(guó)家的技術(shù)產(chǎn)品出口。而盧特尼克公函依據(jù)此法條，卻對(duì)Anthropic聲稱(chēng)這對(duì)“世界任何地方”生效。

如此就引發(fā)了爆笑事件：英國(guó)等關(guān)系最近的美國(guó)盟邦，國(guó)民和官方卻用不了Anthropic的最新模型。

這笑話不是編的，這是真事。英國(guó)官方發(fā)言人日前宣布，英國(guó)正在與美國(guó)及Anthropic就Mythos和Fable模型的接入權(quán)限進(jìn)行接觸。

02

網(wǎng)安業(yè)無(wú)妄之災(zāi)：白宮這么搞，

以后大家沒(méi)法做實(shí)驗(yàn)了

現(xiàn)在大家都知道Fable 5被關(guān)停的誘因是亞馬遜的越獄研究，然而網(wǎng)安業(yè)的從業(yè)者都表示白宮這么瞎搞，受害的不止是Anthropic，整個(gè)行業(yè)的風(fēng)氣都被搞壞了。以后大家不敢做實(shí)驗(yàn)、也不敢通報(bào)軟件漏洞。

美國(guó)官方給出的說(shuō)法是，事情起因于亞馬遜的研究者成功引導(dǎo)Anthropic的Fable 5模型提供了原本被禁止獲取、可用于協(xié)助網(wǎng)絡(luò)攻擊的信息，屬于模型安全護(hù)欄被移除的“越獄”。

然而網(wǎng)安業(yè)者在看到亞馬遜研究論文的原文后，表示白宮在瞎扯。

和美國(guó)國(guó)防部有過(guò)業(yè)務(wù)往來(lái)的著名白帽黑客凱蒂·穆索里斯，稱(chēng)自己是Anthropic找來(lái)辯護(hù)的網(wǎng)安專(zhuān)家之一，審閱了亞馬遜研究者的論文原文。

按穆索里斯在個(gè)人博客里發(fā)表的看法，亞馬遜的研究壓根沒(méi)有將Fable 5模型“越獄”掉，只是做了通常的“提示詞工程”測(cè)試。

實(shí)驗(yàn)梗概是研究者讓Fable 5檢查有已知漏洞的軟件代碼。然后研究者先讓Fable 5“敘述軟件安全隱患”，模型安全護(hù)欄被啟動(dòng)，拒絕作答。研究者再讓Fable 5“改善代碼”并詳細(xì)闡述補(bǔ)丁的工作機(jī)理，然后將Fable 5的回復(fù)內(nèi)容寫(xiě)成了自動(dòng)測(cè)試用的腳本。

也就是說(shuō)，F(xiàn)able/Mythos系列模型聞名遐邇的“自動(dòng)發(fā)現(xiàn)漏洞、計(jì)劃并執(zhí)行網(wǎng)絡(luò)攻擊的全鏈條”能力，壓根沒(méi)被“越獄”。Fable 5模型只是不得不執(zhí)行用戶的合理提示詞，兢兢業(yè)業(yè)地為軟件打補(bǔ)丁。而打補(bǔ)丁的前提是發(fā)現(xiàn)軟件漏洞，如此被羅織成“可用于協(xié)助網(wǎng)絡(luò)攻擊”。

穆索里斯表示此事荒謬絕倫：

“白宮里哪個(gè)傻鳥(niǎo)對(duì)這條通報(bào)做的評(píng)估？怎么會(huì)把這測(cè)試當(dāng)成威脅證據(jù)？這種研究是網(wǎng)絡(luò)安全防御的必備，何必如此大驚小怪?！?/p>

“防御研究者要求AI修復(fù)軟件文檔、解釋補(bǔ)丁重要性、編寫(xiě)補(bǔ)丁有效性測(cè)試，哪里是安全護(hù)欄越獄。這是一款A(yù)I模型能為網(wǎng)絡(luò)安全防御做出的最有價(jià)值的貢獻(xiàn)?！?/p>

03

深層原因：白宮就是

要給阿莫迪穿小鞋

不管是法條規(guī)范，還是網(wǎng)安研究，這些都講道理。然而本屆美國(guó)政府就像一條冷笑話，“以理服人”不是講道理，而是講“物理”。一朝權(quán)在手，就要把看不順眼的人打成死狗。

在亞馬遜回應(yīng)官方例行詢(xún)問(wèn)、通報(bào)了實(shí)驗(yàn)結(jié)果后，白宮的網(wǎng)絡(luò)安全主管、總統(tǒng)幕僚長(zhǎng)、財(cái)政部長(zhǎng)和多名美國(guó)高官立刻開(kāi)會(huì)。

會(huì)議發(fā)生在美國(guó)時(shí)間上周五上午，據(jù)白宮信源稱(chēng)，中午這些高官才聯(lián)系上Anthropic的老板阿莫迪，因?yàn)榘⒛袭?dāng)時(shí)在度假村里。

正如周末難以聯(lián)系上打工人的老板一樣，聯(lián)系不到阿莫迪的美國(guó)高官們?cè)诮K于接通電話后，開(kāi)始跟阿莫迪擺譜。

據(jù)說(shuō)阿莫迪和白宮網(wǎng)絡(luò)安全主管、美國(guó)財(cái)長(zhǎng)、美國(guó)商務(wù)部長(zhǎng)的三個(gè)電話總共打了一個(gè)小時(shí)又15分鐘，其間阿莫迪反復(fù)解釋提示詞工程、模型安全護(hù)欄、“越獄”的細(xì)節(jié)。然而高官們的態(tài)度是甩臉子：“我們問(wèn)了NSA，認(rèn)為這就是安全大漏洞。你少?gòu)U話，趕緊配合我們工作。”

當(dāng)阿莫迪表示需要更多的時(shí)間和信息來(lái)權(quán)衡時(shí)，財(cái)長(zhǎng)貝森特撂下狠話：“你做了錯(cuò)誤的決定，走著瞧?！?/p>

隨后官方的出口管制禁令公函發(fā)到Anthropic，Anthropic不得已奉命關(guān)停Fable 5。

美國(guó)政府對(duì)Anthropic的穿小鞋找碴態(tài)度，貫穿Fable 5關(guān)停事件。

多家主流媒體引述“接近Anthropic的信源”，稱(chēng)Anthropic正在和美國(guó)政府接洽，謀求在本周內(nèi)解禁。Anthropic高級(jí)管理人員和技術(shù)團(tuán)隊(duì)，正在華盛頓與白宮和相關(guān)部門(mén)官員開(kāi)會(huì)，試圖解決Claude Fable 5被出口管制的爭(zhēng)端。

現(xiàn)在談判正在進(jìn)行中，與會(huì)雙方?jīng)]有直接宣布進(jìn)度或結(jié)果。但按白宮方面的有意放風(fēng)，雙方快要互相拍桌罵娘了。

不同的“匿名美國(guó)官員”，提供了口吻不一而實(shí)質(zhì)相同的說(shuō)法。

禮貌官腔版本是：“切近的危機(jī)有望解決，但長(zhǎng)期的難題癥結(jié)仍然存在?！?/p>

不禮貌的粗口版本是：“Anthropic搞了我們（They screwed us）?！?/p>

說(shuō)粗口的人給的解釋是：“過(guò)去所有人都說(shuō)Anthropic是個(gè)惡意行為體，我們和一些同僚替Anthropic辯護(hù)，表示不至于此、給他們一個(gè)機(jī)會(huì)?，F(xiàn)在Anthropic的表現(xiàn)讓我們的判斷被質(zhì)疑?！?/p>

然而這是欲加之罪何患無(wú)辭，套一句冷笑話，現(xiàn)在阿莫迪哪怕跟官僚們開(kāi)會(huì)時(shí)進(jìn)門(mén)先邁左腳，都會(huì)被說(shuō)成是顯然不尊重官方。

白宮現(xiàn)在給Anthropic穿的小鞋刁鉆到什么程度呢？如前述，Anthropic請(qǐng)了著名白帽黑客凱蒂·穆索里斯為自己辯護(hù)，而否認(rèn)特朗普“2020年美國(guó)大選舞弊”說(shuō)法的美國(guó)前網(wǎng)絡(luò)安全局長(zhǎng)克里斯·克雷布斯曾公開(kāi)稱(chēng)贊穆索里斯。

新仇舊恨交織，白宮人士稱(chēng)Anthropic找了個(gè)“激進(jìn)民主黨人”來(lái)評(píng)估研究，立場(chǎng)不客觀，所以結(jié)論不接受。

按和白宮人士相熟的信源的說(shuō)法，“Anthropic和本屆美國(guó)政府不僅觀點(diǎn)相歧，溝通也完全接不上，就像雞同鴨講，兩邊用的不是同一種語(yǔ)言?！?/p>

關(guān)于整場(chǎng)Fable 5風(fēng)波，AI業(yè)界評(píng)論家迪恩·鮑爾說(shuō)得最好：

“AI政策亂象是美國(guó)政風(fēng)失序的典例。在AI議題上，大人物們只會(huì)表露向?qū)κ种厝鰮舻臄骋狻？释€(wěn)定規(guī)則的聲音在業(yè)界和政界付之闕如。法治與立法精神已從大家的政治肌肉記憶里逝去?！?/p>

“現(xiàn)在美國(guó)政府對(duì)AI既不是自由放任，也不是苛細(xì)管制，實(shí)施的是一種無(wú)持續(xù)原則、無(wú)固定邊界、不顧公眾透明度、不管行政權(quán)威的非正式草臺(tái)班性質(zhì)管制。剛果的鈷礦都比美國(guó)的AI規(guī)管體系有章法得多?！?/p>