No.0266

Science Partner

Bring you to the side of science

導(dǎo) 讀

大家好，我是晶恒。

昨天有個(gè)消息，在中文科技圈沒(méi)引起多少注意，但在華爾街炸了鍋。

大名鼎鼎的Anthropic（就是表面跟五角大樓鬧翻、拒絕給軍方開(kāi)無(wú)限制權(quán)限，客觀上在美伊以戰(zhàn)爭(zhēng)中提供最基礎(chǔ)AI能力那家公司）因?yàn)閮?nèi)容管理系統(tǒng)配置出錯(cuò)，接近3000份內(nèi)部未公開(kāi)素材被直接晾在公開(kāi)互聯(lián)網(wǎng)上，任何人都能看。

更離譜的是發(fā)現(xiàn)方式。一個(gè)來(lái)自以色列安全公司LayerX的研究員，一個(gè)來(lái)自劍橋大學(xué)的研究員，兩個(gè)人無(wú)意間撞上了這個(gè)緩存，覺(jué)得這事兒大，順手叫來(lái)《財(cái)富》雜志，獨(dú)家報(bào)道一發(fā)出去，Anthropic才急急忙忙把權(quán)限關(guān)掉 。

這要放到任何一家中國(guó)公司身上，辛頓也好、奧爾特曼也好，早就冰釋前嫌、攜手出來(lái)對(duì)此表示”震驚與擔(dān)憂”，順帶把東大政府政策黑一遍了。

華爾街沒(méi)安靜。消息一出，網(wǎng)安板塊集體塌方：CrowdStrike跌7%，Palo Alto Networks跌6%，Zscaler跌4.5%，整個(gè)網(wǎng)絡(luò)安全ETF跌了2.7% 。

市場(chǎng)砸的不是”某公司泄露了個(gè)新模型”這件事本身，OpenAI泄露新模型都快成公關(guān)手段了，早不新鮮。

那真正讓人坐不住的，是Anthropic到底泄露了什么？

走，伙伴君告訴你答案！

今日主筆 | 晶恒

美國(guó)AI公司底牌漏光都沒(méi)罵中國(guó)，這是覺(jué)悟了 ？

01. 泄露文件里到底寫了什么

按照Fortune披露的草稿材料，泄露的最新模型Claude Mythos被Anthropic內(nèi)部稱為”迄今最強(qiáng)”，公司自己警告：它在網(wǎng)絡(luò)能力上明顯領(lǐng)先其他所有模型，可能帶來(lái)一波利用漏洞速度快過(guò)防守方修補(bǔ)速度的新型攻擊。用大白話翻譯就是： Anthropic 內(nèi)部認(rèn)為，他們即將推出一個(gè)模型，攻擊方用它找漏洞、寫漏洞利用代碼的速度，會(huì)比防守方打補(bǔ)丁的速度快得多。

這不是在說(shuō)AI更聰明了，而是在說(shuō)，攻防之間的時(shí)間窗口即將被徹底壓縮。

過(guò)去，一個(gè)漏洞從被發(fā)現(xiàn)到大規(guī)模利用，往往有幾天甚至幾周的窗口。防守方靠的就是這個(gè)窗口活著，然后快點(diǎn)推補(bǔ)丁，快點(diǎn)封端口，快點(diǎn)修復(fù)。但如果AI可以在幾秒鐘內(nèi)掃描整個(gè)代碼庫(kù)、生成可用的攻擊載荷，這個(gè)窗口就可能縮短到幾分鐘。

那時(shí)候，傳統(tǒng)打補(bǔ)丁的網(wǎng)絡(luò)安全模式，就像用手工刀具應(yīng)對(duì)機(jī)械化生產(chǎn)，成本曲線完全不對(duì)稱了。

02. 這已經(jīng)是第二次了

有意思的是，這不是網(wǎng)絡(luò)安全股第一次因?yàn)锳nthropic挨打。

今年2月，Anthropic推出了Claude Code Security，一款能自動(dòng)掃描代碼、識(shí)別漏洞的工具。CrowdStrike和Zscaler各跌了約10%，Global X網(wǎng)絡(luò)安全ETF一度創(chuàng)下2023年11月以來(lái)的新低。

Palo Alto的CEO Nikesh Arora當(dāng)時(shí)就大呼看不懂：客戶明明在買更多AI安全工具，市場(chǎng)的恐慌邏輯從哪里來(lái)的？

這個(gè)問(wèn)題問(wèn)得好，但答案其實(shí)很直白：市場(chǎng)并不是在擔(dān)心網(wǎng)絡(luò)安全行業(yè)沒(méi)有需求，而是在擔(dān)心現(xiàn)有這批公司的競(jìng)爭(zhēng)優(yōu)勢(shì)會(huì)不會(huì)被AI平臺(tái)直接繞過(guò)。

就比如Crowd Strike公司，他們賣的是一套精心積累的威脅情報(bào)加規(guī)則引擎，靠的是多年的數(shù)據(jù)壁壘。但如果有一天Anthropic的模型直接在端點(diǎn)上跑，不依賴云端情報(bào)庫(kù)就能完成檢測(cè)，那Crowd Strike靠什么維持溢價(jià)？這才是核心焦慮。

03. 中國(guó)該怎么看這件事

先說(shuō)一個(gè)有意思的細(xì)節(jié)。

去年11月，Anthropic指責(zé)有黑客利用Claude Code，對(duì)全球約30個(gè)目標(biāo)發(fā)動(dòng)自動(dòng)化攻擊，事情捅得很大，CEO被傳喚至美國(guó)國(guó)會(huì)聽(tīng)證。那次Anthropic的報(bào)告寫得措辭強(qiáng)烈，高置信度判斷為咱們。外交部發(fā)言人林劍當(dāng)時(shí)就給懟回去了，講了中方一貫反對(duì)并依法打擊黑客活動(dòng)。

中國(guó)在這方面的做法一點(diǎn)不含糊，不是行業(yè)規(guī)范，不是部門規(guī)章，是基礎(chǔ)性法律的形式來(lái)挑大梁。今年1月1日，修訂后的《網(wǎng)絡(luò)安全法》正式施行。這次修法做了一件此前沒(méi)做過(guò)的事，把促進(jìn)和規(guī)范人工智能發(fā)展寫進(jìn)了法律正文，第二十條明確規(guī)定：國(guó)家支持AI基礎(chǔ)理論研究、算法關(guān)鍵技術(shù)研發(fā)，推進(jìn)算力等基礎(chǔ)設(shè)施建設(shè)，同時(shí)加強(qiáng)風(fēng)險(xiǎn)監(jiān)測(cè)評(píng)估和安全監(jiān)管。

這次Anthropic把自己的內(nèi)部文件徹底漏光了，連聲音都沒(méi)有了。不是因?yàn)閮?nèi)心緩和了，而是這次翻車的人是他們自己。

當(dāng)一個(gè)公司剛剛把自己最敏感的內(nèi)部草稿連同安全預(yù)警文件一起暴露在公開(kāi)互聯(lián)網(wǎng)上，同時(shí)還要解釋”為什么我們自己都說(shuō)這個(gè)模型前所未有地危險(xiǎn)”這個(gè)時(shí)候，再出來(lái)高調(diào)指責(zé)別人又來(lái)偷家了、又操控AI了，畫風(fēng)尷尬不？

04. 但技術(shù)上必須說(shuō)實(shí)話

美國(guó)NIST下屬機(jī)構(gòu)去年9月評(píng)估顯示，國(guó)內(nèi)參評(píng)頭部大模型在網(wǎng)絡(luò)安全專項(xiàng)基準(zhǔn)上得分約40%，美國(guó)頂級(jí)參考模型是74%；更刺眼的是，第三方獨(dú)立測(cè)試顯示，國(guó)內(nèi)主流模型在越獄攻擊上的失手率明顯高于美國(guó)頂級(jí)模型。制度框架已經(jīng)建起來(lái)了，差的不是口號(hào)，而是把它真正壓進(jìn)模型實(shí)戰(zhàn)防線里。

說(shuō)到底，真問(wèn)題是，你能不能用AI去應(yīng)對(duì)AI的攻擊。

具體看，未來(lái)最有價(jià)值的產(chǎn)品方向大概是這幾個(gè)：一是代碼安全審計(jì)的AI化，漏洞從代碼里來(lái)，補(bǔ)丁也要回代碼里打；二是AI行為監(jiān)控，AI生成的攻擊流量本身有模式特征，這是新的檢測(cè)維度；三是模型安全治理，越來(lái)越多的企業(yè)自己部署大模型，權(quán)限控制、輸入過(guò)濾、數(shù)據(jù)防泄漏成了剛需；四是高監(jiān)管行業(yè)合規(guī)，金融、能源、政府這些場(chǎng)景，監(jiān)管壓力會(huì)把預(yù)算先頂上來(lái)。

所以如果進(jìn)攻方拿的是Mythos，防守方還是老辦法，肯定是不行。奇安信、深信服、安恒這樣的國(guó)內(nèi)安全廠商來(lái)說(shuō)是挑戰(zhàn)也是機(jī)遇，是一次重新定價(jià)自身能力的機(jī)會(huì)。

05. 最后說(shuō)一句

Anthropic這次烏龍，某種意義上是給全行業(yè)做了一次提前公告：下一代模型已經(jīng)開(kāi)始真正改變網(wǎng)絡(luò)攻防的成本結(jié)構(gòu)。

對(duì)全球企業(yè)、各國(guó)政府以及安全從業(yè)者來(lái)說(shuō)，現(xiàn)在要做的事情其實(shí)不復(fù)雜，就是一個(gè)問(wèn)題：

當(dāng)攻擊方的速度開(kāi)始超過(guò)你修補(bǔ)漏洞的速度，你的防守體系，今天更新了嗎？

這不是恐慌，是倒計(jì)時(shí)日程表。

我是晶恒，咱們下期見(jiàn)～

本文 僅作科普分享使用，歡迎小伙伴們點(diǎn)、收藏、關(guān)注，以備不時(shí)之需，當(dāng)然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。