免费手机在线观看不卡A片视频_日本十八禁视频无遮挡_好吊色欧美一区二区三区四区_韩国18禁电影已婚的女人_久久久久久精品免费看_欧美在线视频免费观看_经典三级线在线观看_他添的我好湿好爽视频_日产久久视频

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

人手一個(gè)"龍蝦"的時(shí)代,誰(shuí)來(lái)管住失控的AI?

0
分享至


OpenClaw(又稱"龍蝦")在技術(shù)社區(qū)快速走紅后,隨之而來(lái)的安全焦慮正在全面蔓延。作為一款開源AI智能體(AI Agent)框架,OpenClaw的核心目標(biāo)是讓用戶擁有一個(gè)可以執(zhí)行任務(wù)的私人AI助手——

它的圖標(biāo)是紅色龍蝦,但它的"鉗子"已經(jīng)伸向了系統(tǒng)級(jí)權(quán)限、企業(yè)數(shù)據(jù)和供應(yīng)鏈環(huán)節(jié)。
"龍蝦"為什么讓人又愛(ài)又怕

過(guò)去一年里,OpenClaw在技術(shù)社區(qū)快速走紅,成為最熱門的開源AI智能體框架之一。但安全討論的熱度幾乎同步攀升。

風(fēng)險(xiǎn)的根源在于,AI Agent不再是被動(dòng)回答問(wèn)題的"聊天機(jī)器人",而是能自主調(diào)用工具、訪問(wèn)資源、執(zhí)行復(fù)雜任務(wù)的"數(shù)字員工"。

從事iOA產(chǎn)品運(yùn)營(yíng)多年的行業(yè)專家劉登峰直言:"本質(zhì)上,這樣的AI Agent是一個(gè)不會(huì)疲倦、會(huì)自動(dòng)化執(zhí)行的超級(jí)用戶,如果它在終端上安裝,被攻破了,就相當(dāng)于攻擊者完全獲得了這個(gè)終端的電腦權(quán)限,由此以來(lái),就可以進(jìn)行下一步的橫向滲透,擴(kuò)散到企業(yè)的全部網(wǎng)絡(luò)終端或服務(wù)器,同時(shí)也具備非常高的數(shù)據(jù)外泄風(fēng)險(xiǎn)。"

AI Agent的出現(xiàn),不僅帶來(lái)了新的攻擊面,更從根本上動(dòng)搖了傳統(tǒng)安全防護(hù)體系的底層邏輯。

說(shuō)白了,"過(guò)去我們盯的是用戶是誰(shuí),現(xiàn)在我們可能還要盯AI Agent在替誰(shuí)行動(dòng),它具備什么樣的能力,它執(zhí)行的動(dòng)作有沒(méi)有偏離它的原始意圖。"劉登峰表示。

其次,安全建設(shè)的重心也發(fā)生了根本轉(zhuǎn)移:過(guò)去,安全的職責(zé)是防入侵,現(xiàn)在除了防入侵以外,還要防越權(quán)使用。因?yàn)樵贏gent時(shí)代,很多風(fēng)險(xiǎn)不再是過(guò)去所認(rèn)知的“黑進(jìn)來(lái)了”,它是屬于本來(lái)就允許它在內(nèi)網(wǎng)用這個(gè)Agent,本來(lái)就有授權(quán),但是它授權(quán)過(guò)多,導(dǎo)致它的邊界不清楚或者失控。

防護(hù)對(duì)象從設(shè)備轉(zhuǎn)向了數(shù)據(jù)。過(guò)去是保設(shè)備,現(xiàn)在是重點(diǎn)保數(shù)據(jù)。即使一個(gè)設(shè)備本身沒(méi)有被攻擊者直接明顯的攻破,但是數(shù)據(jù)是有可能在正常的業(yè)務(wù)流程中被帶出去的。

這種轉(zhuǎn)變?cè)趥€(gè)人端同樣顯著。PC端的權(quán)限天然比移動(dòng)端開放得多。Windows先天設(shè)計(jì)就會(huì)有一些機(jī)制允許通過(guò)底層上的技術(shù),比如通過(guò)寫一段代碼就能夠調(diào)用系統(tǒng)上的某個(gè)文檔或者操作一些系統(tǒng)級(jí)的能力。

移動(dòng)端更偏向于輸入,在手機(jī)上遙控龍蝦在電腦上干活,在電腦上可能要操作文檔,訪問(wèn)網(wǎng)絡(luò)和電腦上其他的內(nèi)容,所以有操作,這個(gè)風(fēng)險(xiǎn)會(huì)更大。

Skill供應(yīng)鏈:被忽視的新攻擊面

如果說(shuō)權(quán)限失控是"明面上的風(fēng)險(xiǎn)",那么Skill插件的供應(yīng)鏈投毒就是更隱蔽的"暗雷"。

OpenClaw的核心能力拓展依賴Skill插件:要處理PDF就裝PDF轉(zhuǎn)換插件,要查天氣就裝天氣查詢插件,要對(duì)接企業(yè)系統(tǒng)就裝對(duì)應(yīng)的業(yè)務(wù)插件。但這些插件大部分來(lái)自第三方開發(fā)者,安全審核機(jī)制尚不完善。

站在用戶角度,因?yàn)橄敫玫厥褂肙penClaw,需要完整、高效的工具說(shuō)明,也就是Skill插件。在這個(gè)過(guò)程中,因?yàn)楸还粽叨⑸狭?,它可以把一個(gè)惡意文件偽裝正常Skill,比如PDF轉(zhuǎn)換、天氣查詢。對(duì)于普通用戶而言,甚至對(duì)于企業(yè)級(jí)員工而言,很難自行去辨別這里是否有問(wèn)題。

更棘手的是,這類攻擊繞過(guò)了傳統(tǒng)的檢測(cè)手段。騰訊云安全副總經(jīng)理、AI Agent 安全中心負(fù)責(zé)人謝奕智也對(duì)筆者指出:"Skills的安全性,因?yàn)樗锩嬗刑崾驹~、腳本,傳統(tǒng)的基于規(guī)則特征檢測(cè)的能力很難應(yīng)對(duì)。不過(guò),目前,各家安全廠商針對(duì)Skill的安全檢測(cè)是在持續(xù)迭代的?!?/p>

面對(duì)AI Agent,企業(yè)的態(tài)度正在快速分化。

劉登峰透露,咨詢客戶覆蓋了金融、能源、運(yùn)營(yíng)商、企業(yè)、零售等多個(gè)行業(yè),但需求差異明顯:"金融行業(yè)有明確訴求,就是要禁用的。偏互聯(lián)網(wǎng)的中型客戶,他們更想快速溝通企業(yè)級(jí)的安全沙箱方案。很多用戶一方面是在聊更精細(xì)化的場(chǎng)景怎么管,另外一方面就是聊能不能直接給他上沙箱,上了沙箱之后他可以根據(jù)沙箱跑一段時(shí)間、運(yùn)行一段時(shí)間,再判斷對(duì)于企業(yè)來(lái)說(shuō)哪些場(chǎng)景是允許用的,哪些場(chǎng)景是不允許用的。"

值得注意的是,安全預(yù)算的來(lái)源也發(fā)生了結(jié)構(gòu)性變化:"目前我們看到更多是業(yè)務(wù)部門,因?yàn)槭紫人菢I(yè)務(wù)發(fā)動(dòng)出來(lái)的需求。用戶對(duì)安全的認(rèn)知是比較成熟的,覺(jué)得OpenClaw這個(gè)東西天生就是有安全風(fēng)險(xiǎn),所以我在購(gòu)買一個(gè)企業(yè)版的OpenClaw的時(shí)候,我希望把安全也帶上,是基于這樣一個(gè)流程,和過(guò)去有點(diǎn)不同。"

安全的終局:不是對(duì)立,而是無(wú)感

很多人擔(dān)心,安全防護(hù)會(huì)犧牲AI Agent的使用體驗(yàn)。但這本質(zhì)上是一個(gè)偽命題:安全本身也可以是一種用戶體驗(yàn)。安全無(wú)處不在,但是你卻感受不到它的存在。在未來(lái)伴隨著OpenClaw的發(fā)展,大家應(yīng)該會(huì)慢慢習(xí)慣用它來(lái)解決這些問(wèn)題,有些邊界會(huì)默認(rèn)被關(guān)閉。

而AI本身正在成為最好的安全工具。謝奕智透露,針對(duì)Skill安全中傳統(tǒng)規(guī)則檢測(cè)難以應(yīng)對(duì)的提示詞和腳本風(fēng)險(xiǎn),"有專門的實(shí)驗(yàn)室同學(xué)在做研究,而且相關(guān)的能力已經(jīng)集成到我們的云端安全產(chǎn)品跟C端的安全產(chǎn)品"。"AI治理AI"正在從概念走向落地。

在大家關(guān)心的token消耗問(wèn)題上,謝奕智的判斷是:"token單價(jià)肯定是往下走的,因?yàn)樗磥?lái)如果成為像水電一樣的話,有很好的普及,有一定的規(guī)模,價(jià)格一定是往下走的。"

這意味著AI Agent的使用成本將持續(xù)降低,普及速度會(huì)加快,安全防護(hù)的需求也會(huì)越來(lái)越迫切——一場(chǎng)圍繞AI Agent安全的長(zhǎng)跑才剛剛開始。

實(shí)用建議:給"養(yǎng)蝦"人士的安全指南

針對(duì)企業(yè)業(yè)務(wù)使用者

權(quán)限最小化原則:給AI Agent分配權(quán)限時(shí),只開放必要的系統(tǒng)訪問(wèn)、數(shù)據(jù)讀取和操作權(quán)限。盡量不要涉及寫權(quán)限的工作,如果不需要,就給它只讀的密鑰權(quán)限。

做好網(wǎng)絡(luò)隔離:如果龍蝦有很固定的訪問(wèn)目標(biāo)去完成它的工作,網(wǎng)絡(luò)做好隔離,不要讓它有權(quán)限去訪問(wèn)一些不該訪問(wèn)的內(nèi)網(wǎng)服務(wù)。

先測(cè)試再上線:新部署的Agent先在隔離測(cè)試環(huán)境運(yùn)行驗(yàn)證,確認(rèn)所有操作行為符合預(yù)期,再逐步接入生產(chǎn)環(huán)境。

建立全流程審計(jì)機(jī)制:對(duì)Agent的所有操作留痕,包括輸入的Prompt、調(diào)用的插件、執(zhí)行的動(dòng)作、訪問(wèn)的數(shù)據(jù),定期做安全審計(jì),異常行為實(shí)時(shí)告警。

插件準(zhǔn)入審核:不要隨意使用第三方開源Skill插件,所有接入企業(yè)系統(tǒng)的插件必須經(jīng)過(guò)安全檢測(cè),建議優(yōu)先使用官方提供或經(jīng)過(guò)安全廠商認(rèn)證的插件。

定期備份核心數(shù)據(jù):預(yù)設(shè)Agent異常操作的攔截機(jī)制,一旦出現(xiàn)失控能快速止損,避免造成不可逆損失。

針對(duì)AI愛(ài)好者和個(gè)人用戶

不要開放不必要的權(quán)限:安裝OpenClaw時(shí)仔細(xì)審查權(quán)限申請(qǐng),不要直接同意所有請(qǐng)求,尤其是文件讀寫、支付接口、攝像頭麥克風(fēng)等敏感權(quán)限。

優(yōu)先使用帶安全沙箱的方案:在本地部署時(shí),優(yōu)先使用帶AI安全沙箱的防護(hù)工具,把Agent的運(yùn)行環(huán)境和真實(shí)系統(tǒng)隔離開。如果不熟悉OpenClaw的復(fù)雜安裝流程,可以考慮開箱即用的方案。

謹(jǐn)慎安裝第三方插件:不要下載不明來(lái)源的Skill插件,盡量從官方渠道獲取,安裝前做安全掃描檢測(cè)。

不要用Agent處理敏感信息:盡量避免用本地Agent處理身份證、銀行卡、工作機(jī)密等敏感信息,防止數(shù)據(jù)泄露。

做好數(shù)據(jù)備份:假設(shè)龍蝦很不靠譜,但是又很想用,怎么辦呢?可以買一臺(tái)PC,做好網(wǎng)絡(luò)隔離,做數(shù)據(jù)的定期備份,這樣就可以很靈活的去用龍蝦所有的能力。如果系統(tǒng)壞了,備份能力自動(dòng)加上,也不擔(dān)心數(shù)據(jù)問(wèn)題。(本文首發(fā)鈦媒體APP,文 | DeepWrite秦報(bào)局,作者|秦聰慧 )

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
寶媽避雨被趕后續(xù):大批顧客退單,商家道歉也無(wú)果,門店口碑崩了

寶媽避雨被趕后續(xù):大批顧客退單,商家道歉也無(wú)果,門店口碑崩了

千言?shī)蕵?lè)記
2026-06-18 18:59:27
央視名嘴張斌淡出熒幕,世界杯難覓身影,他去哪里了?

央視名嘴張斌淡出熒幕,世界杯難覓身影,他去哪里了?

復(fù)轉(zhuǎn)這些年
2026-06-18 22:15:31
再一次,特朗普:感謝中俄

再一次,特朗普:感謝中俄

觀察者網(wǎng)
2026-06-18 09:09:31
涉嫌操縱比賽!官方:科特迪瓦國(guó)腳瓦希被加拿大拒簽,無(wú)緣戰(zhàn)德國(guó)

涉嫌操縱比賽!官方:科特迪瓦國(guó)腳瓦希被加拿大拒簽,無(wú)緣戰(zhàn)德國(guó)

畫夕
2026-06-18 18:08:02
舒爾茨送點(diǎn)釀苦果,捷克遭非洲勁旅1-1逼平,連續(xù)2輪世界杯不勝

舒爾茨送點(diǎn)釀苦果,捷克遭非洲勁旅1-1逼平,連續(xù)2輪世界杯不勝

側(cè)身凌空斬
2026-06-19 01:58:42
“端午快樂(lè)”才是兩千年正統(tǒng),所謂“端午安康”是始于2015年的一場(chǎng)文化霧霾

“端午快樂(lè)”才是兩千年正統(tǒng),所謂“端午安康”是始于2015年的一場(chǎng)文化霧霾

少爺寫春秋
2026-06-18 08:25:37
梁文鋒為什么選了劉強(qiáng)東,沒(méi)選馬云?

梁文鋒為什么選了劉強(qiáng)東,沒(méi)選馬云?

帥真商業(yè)
2026-06-18 10:20:26
梅西婉拒隊(duì)友讓座+直接坐草地的視頻在國(guó)外瘋傳,球迷:德藝雙馨

梅西婉拒隊(duì)友讓座+直接坐草地的視頻在國(guó)外瘋傳,球迷:德藝雙馨

側(cè)身凌空斬
2026-06-19 02:17:32
喪權(quán)辱國(guó)!美國(guó)含淚簽下丙午條約!

喪權(quán)辱國(guó)!美國(guó)含淚簽下丙午條約!

燕梳樓頻道
2026-06-18 14:33:28
日本球迷表示,看世界杯比賽,最不喜歡跟中國(guó)國(guó)足的球迷挨著坐

日本球迷表示,看世界杯比賽,最不喜歡跟中國(guó)國(guó)足的球迷挨著坐

酷侃體壇
2026-06-18 22:58:24
C羅首戰(zhàn)表現(xiàn)不佳被批,姐姐回?fù)簦赫局f(shuō)話總是容易

C羅首戰(zhàn)表現(xiàn)不佳被批,姐姐回?fù)簦赫局f(shuō)話總是容易

懂球帝
2026-06-18 19:19:18
私生活混亂、被央視“開除”、陪睡上位,她身上哪個(gè)標(biāo)簽是真的?

私生活混亂、被央視“開除”、陪睡上位,她身上哪個(gè)標(biāo)簽是真的?

素衣讀史
2026-06-18 21:37:31
全網(wǎng)喊話韋東奕做高考數(shù)學(xué)卷,沒(méi)想到他的一句話,就讓千萬(wàn)網(wǎng)友瞬間服氣

全網(wǎng)喊話韋東奕做高考數(shù)學(xué)卷,沒(méi)想到他的一句話,就讓千萬(wàn)網(wǎng)友瞬間服氣

LULU生活家
2026-06-18 08:43:33
外媒:梅西父親豪爾赫正與胰腺癌抗?fàn)?,情況令人擔(dān)憂

外媒:梅西父親豪爾赫正與胰腺癌抗?fàn)帲闆r令人擔(dān)憂

懂球帝
2026-06-18 15:58:12
鄭欽文排名斷崖式下跌:資本迅速撤離,曾經(jīng)追捧她的品牌去哪了

鄭欽文排名斷崖式下跌:資本迅速撤離,曾經(jīng)追捧她的品牌去哪了

財(cái)經(jīng)保探長(zhǎng)
2026-06-18 23:35:15
亨利:葡萄牙需要的是進(jìn)球,C羅擋住了B費(fèi)的必進(jìn)球

亨利:葡萄牙需要的是進(jìn)球,C羅擋住了B費(fèi)的必進(jìn)球

懂球帝
2026-06-18 15:06:15
八國(guó)聯(lián)軍侵華已過(guò)百年,至今沒(méi)有一個(gè)中國(guó)人能笑著走出俄羅斯冬宮

八國(guó)聯(lián)軍侵華已過(guò)百年,至今沒(méi)有一個(gè)中國(guó)人能笑著走出俄羅斯冬宮

史之銘
2026-06-18 07:04:05
川大和港理工研究發(fā)現(xiàn):一個(gè)地方經(jīng)濟(jì)越落后,女生自拍P圖越厲害

川大和港理工研究發(fā)現(xiàn):一個(gè)地方經(jīng)濟(jì)越落后,女生自拍P圖越厲害

必記本
2026-06-12 14:03:52
董路官宣與孫臣曦一家斷絕往來(lái),培養(yǎng)9年反目成仇,陳年恩怨曝光

董路官宣與孫臣曦一家斷絕往來(lái),培養(yǎng)9年反目成仇,陳年恩怨曝光

林輕吟
2026-06-18 19:31:32
地質(zhì)災(zāi)害黃色預(yù)警:安徽湖北廣東等地部分地區(qū)發(fā)生災(zāi)害風(fēng)險(xiǎn)較高

地質(zhì)災(zāi)害黃色預(yù)警:安徽湖北廣東等地部分地區(qū)發(fā)生災(zāi)害風(fēng)險(xiǎn)較高

每日經(jīng)濟(jì)新聞
2026-06-18 18:13:05
2026-06-19 04:16:49
鈦媒體APP incentive-icons
鈦媒體APP
獨(dú)立財(cái)經(jīng)科技媒體
135289文章數(shù) 862288關(guān)注度
往期回顧 全部

科技要聞

庫(kù)克承認(rèn)扛不住了,蘋果漲價(jià)“不可避免”

頭條要聞

159瓶茅臺(tái)被扣3年后多瓶失蹤 警方:酒仍處于扣押時(shí)狀態(tài)

頭條要聞

159瓶茅臺(tái)被扣3年后多瓶失蹤 警方:酒仍處于扣押時(shí)狀態(tài)

體育要聞

英格蘭不再九子奪嫡,凱恩才是唯一真神

娛樂(lè)要聞

39歲梅西不愧是人生贏家!

財(cái)經(jīng)要聞

博睿康IPO,賺錢業(yè)務(wù)與資本敘事是兩門生意

汽車要聞

驚出冷汗!重慶實(shí)測(cè)奧迪A5L,華為智駕這波操作絕了…

態(tài)度原創(chuàng)

家居
教育
房產(chǎn)
藝術(shù)
公開課

家居要聞

綠意盎然 自然之境

教育要聞

畢業(yè)即高薪!高考生緊盯這6個(gè)專業(yè),畢業(yè)后50%能到國(guó)企就業(yè)!

房產(chǎn)要聞

商業(yè)清零式退潮,大量住宅登場(chǎng)!三亞又要大規(guī)模調(diào)規(guī)!

藝術(shù)要聞

臺(tái)北東區(qū)新門戶!南港雙星,像一道“城市裂痕”

公開課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版