免费手机在线观看不卡A片视频_日本十八禁视频无遮挡_好吊色欧美一区二区三区四区_韩国18禁电影已婚的女人_久久久久久精品免费看_欧美在线视频免费观看_经典三级线在线观看_他添的我好湿好爽视频_日产久久视频

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

20萬(wàn)臺(tái)AI服務(wù)器的“定時(shí)炸彈”:Anthropic說(shuō),這不是Bug,這是Feature

0
分享至

No.0291

Science Partner

Bring you to the side of science


導(dǎo) 讀

有時(shí)候,最危險(xiǎn)的漏洞不是黑客寫的,而是工程師設(shè)計(jì)進(jìn)去的。

走,跟伙伴君來(lái)!


今日主筆 | 晶恒

20萬(wàn)臺(tái)AI服務(wù)器的“定時(shí)炸彈”:Anthropic說(shuō),這不是Bug,這是Feature

01. 事情是怎么鬧出來(lái)的

2026年4月,安全公司OX Security的幾個(gè)研究員,盯著Anthropic的MCP協(xié)議,盯了很久。

MCP是什么?全稱Model Context Protocol,翻譯過(guò)來(lái)叫模型上下文協(xié)議。你可以把它理解成AI世界的USB接口,它讓AI助手能夠連接外部工具、操控本地文件、查數(shù)據(jù)庫(kù)、跑代碼、調(diào)API。你在用Cursor寫代碼、用Claude幫你搜索本地文檔、讓AI Agent自動(dòng)完成一系列任務(wù),背后很可能都跑著MCP。

Anthropic在2024年發(fā)布了MCP,2025年12月把它捐給了Linux基金會(huì)。OpenAI跟進(jìn)了,Google DeepMind也跟進(jìn)了。這個(gè)協(xié)議,正在悄悄成為整個(gè)AI工具鏈的底層基礎(chǔ)設(shè)施。

然后,OX Security的研究員發(fā)現(xiàn)了一個(gè)問(wèn)題。

說(shuō)“問(wèn)題”可能太輕了。準(zhǔn)確地說(shuō),他們發(fā)現(xiàn)了一顆埋在這個(gè)基礎(chǔ)設(shè)施核心位置的地雷

02. 漏洞的本質(zhì):一個(gè)設(shè)計(jì)上的“想當(dāng)然”

理解這個(gè)漏洞,需要先知道MCP的一種核心傳輸方式,STDIO(標(biāo)準(zhǔn)輸入/輸出)

STDIO是計(jì)算機(jī)界最古老、最底層的通信方式之一,就是進(jìn)程之間通過(guò)“鍵盤輸入、屏幕輸出”的形式傳遞數(shù)據(jù)。MCP在設(shè)計(jì)上,允許AI Agent通過(guò)STDIO去啟動(dòng)一個(gè)本地服務(wù)器進(jìn)程,然后與這個(gè)進(jìn)程通信,執(zhí)行各種任務(wù)。

伙伴,問(wèn)題就出在這里:

MCP的設(shè)計(jì)邏輯是,先把命令發(fā)出去執(zhí)行,然后再握手驗(yàn)證。OX Security把這個(gè)問(wèn)題命名得很直白“Execute First, Validate Never“(先執(zhí)行,從不驗(yàn)證)。這意味著,如果某個(gè)下游實(shí)現(xiàn)存在不安全的輸入拼接,攻擊者構(gòu)造的惡意輸入就會(huì)被系統(tǒng)老老實(shí)實(shí)地執(zhí)行。技術(shù)術(shù)語(yǔ)叫RCE,遠(yuǎn)程代碼執(zhí)行。在安全界,這是漏洞金字塔里最頂端的一類。拿到RCE,基本等于拿到了這臺(tái)機(jī)器的鑰匙。

OX Security的研究員不是在實(shí)驗(yàn)室里空想。他們?cè)?個(gè)真實(shí)生產(chǎn)平臺(tái)上成功執(zhí)行了任意命令,毒化了11個(gè)MCP應(yīng)用市場(chǎng)中的9個(gè),最終觸發(fā)了超過(guò)10個(gè)高危/嚴(yán)重CVE,其中9個(gè)被評(píng)為最高級(jí)別,即Critical(嚴(yán)重)。

受影響的項(xiàng)目名單,讀起來(lái)像一張AI開發(fā)工具的名人錄:LiteLLM、LangChain、LangFlow、Flowise、Cursor、GitHub Copilot……這些,是目前全球開發(fā)者日常使用頻率最高的AI工具。

規(guī)模呢?

超過(guò)7,000個(gè)公開暴露的服務(wù)器,潛在影響實(shí)例最高估計(jì)約20萬(wàn)個(gè),生態(tài)下載量已超過(guò)1.5億次。

03. 最刺激的部分來(lái)了

發(fā)現(xiàn)漏洞之后,正常的流程是負(fù)責(zé)任披露,要通知廠商,給他們時(shí)間修復(fù),再公開。OX Security就是這么做的。

他們找到了Anthropic,詳細(xì)說(shuō)明了問(wèn)題,并建議在協(xié)議層面做架構(gòu)修改,在命令執(zhí)行之前加入輸入過(guò)濾和驗(yàn)證機(jī)制。

然而,Anthropic的回答,讓他們愣了一下。

這是預(yù)期行為。(This is expected behavior.)

據(jù)OX Security轉(zhuǎn)述,Anthropic的立場(chǎng)是:STDIO本身的執(zhí)行模型沒(méi)問(wèn)題,是安全默認(rèn)值。輸入過(guò)濾和驗(yàn)證,是每個(gè)使用MCP的開發(fā)者自己的責(zé)任。Anthropic唯一做的,是更新了一下SECURITY.md文檔。這就相當(dāng)于在地雷旁邊立了塊牌子,寫上“小心地雷喲”,然后繼續(xù)往前走。

協(xié)議本身?一行代碼沒(méi)改。

04. 這里有一場(chǎng)真正有意思的技術(shù)爭(zhēng)論

平心而論,Anthropic的邏輯并非完全站不住腳。

他們的工程師有一個(gè)技術(shù)論點(diǎn):STDIO是本地子進(jìn)程傳輸機(jī)制,信任邊界本來(lái)就在誰(shuí)控制MCP配置文件這一層,如果你能改配置,本來(lái)就屬于可在該機(jī)器上執(zhí)行命令的人。在協(xié)議層做輸入凈化,要么破壞傳輸機(jī)制本身,要么只是把攻擊面下移一層,換個(gè)思路照樣能繞過(guò)。

這個(gè)邏輯,在安全界有一定道理。深度防御(Defense in Depth)的原則本來(lái)就主張?jiān)诿恳粚佣甲霭踩?,而不是只靠某一道防線。

但OX Security的反駁同樣有力:

奧,合著您Anthropic設(shè)計(jì)了一個(gè)協(xié)議,20萬(wàn)量級(jí)的開發(fā)者會(huì)用它。你要求所有人都正確地實(shí)現(xiàn)輸入過(guò)濾,一個(gè)都不能犯錯(cuò),這本身就是系統(tǒng)性風(fēng)險(xiǎn)。協(xié)議的設(shè)計(jì)者,有責(zé)任讓正確使用變得比錯(cuò)誤使用更容易,而不是反過(guò)來(lái)。

這場(chǎng)爭(zhēng)論的核心,其實(shí)是一個(gè)古老的工程哲學(xué)問(wèn)題:安全責(zé)任應(yīng)該在哪一層承擔(dān)?

微軟在Windows時(shí)代也經(jīng)歷過(guò)類似的撕裂:是操作系統(tǒng)層面做防御,還是讓應(yīng)用開發(fā)者自己負(fù)責(zé)?歷史證明,把安全完全推給下游開發(fā)者,結(jié)局往往是災(zāi)難性的。更何況Anthropic天天用安全的殺威棒左打OpenAI右打Google,儼然一個(gè)安全道德為道士的教主。

05. 為什么這件事比看起來(lái)嚴(yán)重得多

有人可能會(huì)想:又一個(gè)安全漏洞,互聯(lián)網(wǎng)上每天都有,有什么大驚小怪的?

這次不一樣。

不一樣的地方,在于這是基礎(chǔ)設(shè)施級(jí)別的漏洞,且在AI時(shí)代有獨(dú)特的放大效應(yīng)。他是帶著乘數(shù),就是+了大buff的那種。

傳統(tǒng)軟件的漏洞,攻擊面相對(duì)固定。但MCP是AI Agent的“手和眼”,它的職責(zé)本來(lái)就是讓AI連接一切、控制一切。一個(gè)能在MCP層執(zhí)行任意命令的攻擊者,理論上可以讓AI成為他的代理人,讀取你的私密對(duì)話記錄、竊取API密鑰、操控?cái)?shù)據(jù)庫(kù)、甚至在你的機(jī)器上安裝更持久的后門... ...

更要命的是,攻擊向量可能極其隱蔽。提示詞注入(Prompt Injection)攻擊的研究已經(jīng)表明,你只需要在某個(gè)網(wǎng)頁(yè)、某個(gè)文檔、某段數(shù)據(jù)里藏一句惡意指令,當(dāng)AI去處理這些內(nèi)容時(shí),它可能就會(huì)乖乖地把命令帶進(jìn)MCP執(zhí)行。用戶全程什么都不知道。

AI越來(lái)越自主,AI Agent運(yùn)行的權(quán)限越來(lái)越高,運(yùn)行的時(shí)間越來(lái)越長(zhǎng)。在這個(gè)背景下,供應(yīng)鏈安全和協(xié)議層安全必將是未來(lái)幾年里最核心的戰(zhàn)場(chǎng)之一。

恒意說(shuō)兩句:有些地方,快不得

Anthropic、OpenAI、Google,這些公司正在用前所未有的速度把AI推向生產(chǎn)環(huán)境、推向千萬(wàn)用戶的桌面。速度很重要,競(jìng)爭(zhēng)很激烈,這都可以理解。

但有些地方,快不得。

基礎(chǔ)協(xié)議的安全設(shè)計(jì),是其中之一。

當(dāng)你說(shuō)“這是預(yù)期行為”的時(shí)候,你最好確認(rèn),你真的想清楚了。否則,預(yù)期行為和災(zāi)難性漏洞之間,隔著的可能只是一次還沒(méi)發(fā)生的大規(guī)模攻擊。

在AI的世界里,地基的裂縫,會(huì)被無(wú)限放大。

我是晶恒,咱們下期見(jiàn)~


參考來(lái)源:OX Security研究報(bào)告(2026年4月)、VentureBeat、The Register、The Hacker News、SecurityWeek

本文僅作科普分享使用,歡迎小伙伴們點(diǎn)、收藏、關(guān)注,以備不時(shí)之需,當(dāng)然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。


特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
活塞總裁:這是我見(jiàn)過(guò)最不可思議的一屆總決賽 我的預(yù)測(cè)0勝5負(fù)

活塞總裁:這是我見(jiàn)過(guò)最不可思議的一屆總決賽 我的預(yù)測(cè)0勝5負(fù)

北青網(wǎng)-北京青年報(bào)
2026-06-19 19:39:11
14個(gè)子女無(wú)緣萬(wàn)億家產(chǎn)!馬斯克公開繼承計(jì)劃:給錢是巨大錯(cuò)誤!

14個(gè)子女無(wú)緣萬(wàn)億家產(chǎn)!馬斯克公開繼承計(jì)劃:給錢是巨大錯(cuò)誤!

曉肂愛(ài)八卦
2026-06-19 15:08:53
7次神撲逼平西班牙!溫州商人圓佛得角門神心愿,幫其母赴美看球

7次神撲逼平西班牙!溫州商人圓佛得角門神心愿,幫其母赴美看球

湘楚風(fēng)云聊體育
2026-06-19 11:16:38
老一輩是怎么做到天天做飯,不點(diǎn)外賣的?網(wǎng)友:買五斤土豆八塊錢

老一輩是怎么做到天天做飯,不點(diǎn)外賣的?網(wǎng)友:買五斤土豆八塊錢

另子維愛(ài)讀史
2026-06-19 21:50:19
沒(méi)有一個(gè)巨物恐懼癥患者,能平靜地走出廣西......

沒(méi)有一個(gè)巨物恐懼癥患者,能平靜地走出廣西......

中科院物理所
2026-06-18 11:10:20
梅西父親幽默回應(yīng)各路傳言:我這是惹出多大亂子啊

梅西父親幽默回應(yīng)各路傳言:我這是惹出多大亂子啊

體壇周報(bào)
2026-06-19 13:11:03
0-6!洛佩特吉?jiǎng)?chuàng)西班牙籍主帥世界杯單場(chǎng)輸球紀(jì)錄 8年前的債還了

0-6!洛佩特吉?jiǎng)?chuàng)西班牙籍主帥世界杯單場(chǎng)輸球紀(jì)錄 8年前的債還了

雪狼侃體育
2026-06-19 10:14:07
登上太空僅2天,就炸出一堆牛鬼蛇神,香港母親黎家盈刺痛了誰(shuí)?

登上太空僅2天,就炸出一堆牛鬼蛇神,香港母親黎家盈刺痛了誰(shuí)?

觀察者海風(fēng)
2026-05-27 12:27:15
“繼承權(quán)”不用爭(zhēng)了!2026房產(chǎn)繼承新規(guī),父母房子都以后這樣處理

“繼承權(quán)”不用爭(zhēng)了!2026房產(chǎn)繼承新規(guī),父母房子都以后這樣處理

復(fù)轉(zhuǎn)這些年
2026-06-15 19:10:29
法媒曝G7晚宴出現(xiàn)尷尬一幕,特朗普再提珍珠港,高市當(dāng)場(chǎng)表示不滿

法媒曝G7晚宴出現(xiàn)尷尬一幕,特朗普再提珍珠港,高市當(dāng)場(chǎng)表示不滿

顧史
2026-06-20 00:45:25
為什么廣東各地長(zhǎng)途大巴又開始興旺了?因?yàn)樵僖膊挥米~號(hào)了

為什么廣東各地長(zhǎng)途大巴又開始興旺了?因?yàn)樵僖膊挥米~號(hào)了

聚焦分享每日熱點(diǎn)
2026-06-16 05:30:02
弘一法師:一個(gè)人如果把自己孤立起來(lái),不交友,不走親,不出遠(yuǎn)門

弘一法師:一個(gè)人如果把自己孤立起來(lái),不交友,不走親,不出遠(yuǎn)門

富書
2026-06-19 20:46:02
女排3-0大勝法國(guó)隊(duì),賽后評(píng)分兩滿分三優(yōu)秀一不佳

女排3-0大勝法國(guó)隊(duì),賽后評(píng)分兩滿分三優(yōu)秀一不佳

五姑娘臺(tái)球
2026-06-20 05:35:24
誰(shuí)動(dòng)我兄弟就滅誰(shuí)!這3國(guó)向全球發(fā)出警告,如今卻把槍口對(duì)準(zhǔn)中國(guó)

誰(shuí)動(dòng)我兄弟就滅誰(shuí)!這3國(guó)向全球發(fā)出警告,如今卻把槍口對(duì)準(zhǔn)中國(guó)

抽象派大師
2026-06-19 17:35:56
連裝都懶得裝了?漏洞這么多

連裝都懶得裝了?漏洞這么多

走讀新生
2026-04-22 13:46:02
鴨蛋再次成為關(guān)注對(duì)象!多名院士發(fā)現(xiàn):常吃鴨蛋的人,有7個(gè)變化

鴨蛋再次成為關(guān)注對(duì)象!多名院士發(fā)現(xiàn):常吃鴨蛋的人,有7個(gè)變化

醫(yī)學(xué)科普匯
2026-06-19 19:05:10
如果沒(méi)有中美金融戰(zhàn),房地產(chǎn)就是國(guó)家下的一盤完美大棋

如果沒(méi)有中美金融戰(zhàn),房地產(chǎn)就是國(guó)家下的一盤完美大棋

說(shuō)故事的阿襲
2026-06-20 01:31:00
懷孕時(shí)的激素能有多離譜?見(jiàn)識(shí)到威力了

懷孕時(shí)的激素能有多離譜?見(jiàn)識(shí)到威力了

另子維愛(ài)讀史
2026-06-19 21:56:09
“大病來(lái)前,腳先知”?若是你的腳部有4個(gè)表現(xiàn),或是大病信號(hào)

“大病來(lái)前,腳先知”?若是你的腳部有4個(gè)表現(xiàn),或是大病信號(hào)

芹姐說(shuō)生活
2026-06-18 23:34:02
俞敏洪拋出驚人言論:我有兩個(gè)大學(xué)男同學(xué)已經(jīng)死了,都是家庭條件很好,但倆人沒(méi)有抵抗挫折和不幸的能力

俞敏洪拋出驚人言論:我有兩個(gè)大學(xué)男同學(xué)已經(jīng)死了,都是家庭條件很好,但倆人沒(méi)有抵抗挫折和不幸的能力

心理觀察局
2026-06-03 07:17:10
2026-06-20 06:36:49
科學(xué)伙伴 incentive-icons
科學(xué)伙伴
把科學(xué)用通俗易懂的方式帶到您身邊
244文章數(shù) 52關(guān)注度
往期回顧 全部

科技要聞

Anthropic被禁,智譜卻漲瘋了

頭條要聞

世界杯-美國(guó)2-0澳大利亞 提前一輪小組出線

頭條要聞

世界杯-美國(guó)2-0澳大利亞 提前一輪小組出線

體育要聞

世界杯最不知名球員,沒(méi)上場(chǎng)先漲粉600萬(wàn)

娛樂(lè)要聞

孫藝珍曬母子合照!4歲小甜豆暴風(fēng)成長(zhǎng)

財(cái)經(jīng)要聞

Token低價(jià)陷阱

汽車要聞

驚出冷汗!重慶實(shí)測(cè)奧迪A5L,華為智駕這波操作絕了…

態(tài)度原創(chuàng)

親子
數(shù)碼
教育
本地
家居

親子要聞

從毒奶粉到毒紙尿褲,兒童用品安全防線為何屢屢失守

數(shù)碼要聞

SSD太貴換回HDD:機(jī)械硬盤價(jià)格連漲5個(gè)季度!

教育要聞

分析版:QS2027最新排名發(fā)布后,英區(qū)炸鍋了啊!

本地新聞

世界杯黑馬佛得角:河北人開超市,溫州人當(dāng)老板

家居要聞

綠意盎然 自然之境

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版