henry 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

都先別急著吹！

Claude剛剛發(fā)布的新模型Fable 5，很多人可能壓根就用不上！

有不少網(wǎng)友實(shí)測(cè)發(fā)現(xiàn)，F(xiàn)able 5的安全護(hù)欄檢測(cè)機(jī)制的觸發(fā)幾率似乎比官方宣稱的不到5%嚴(yán)格得多。

無(wú)論是普通編碼任務(wù)。

還是簡(jiǎn)單打個(gè)招呼，都有可能被自動(dòng)路由回老模型Opus 4.8。

更離譜的是，我自己也中招了。我讓Claude幫我搜點(diǎn)資料，豐富一下背景。

結(jié)果它想了兩步，啪——切Opus了。

換句話說(shuō)。你以為自己在用Anthropic剛發(fā)布的最強(qiáng)模型，實(shí)際上聊著聊著，對(duì)面已經(jīng)偷偷換人了。

而且不光是安全檢測(cè)容易誤傷，更絕的還在后頭：

Anthropic還在長(zhǎng)達(dá)319頁(yè)的系統(tǒng)卡里埋了一套防蒸餾機(jī)制。

如果系統(tǒng)懷疑你想拿Claude的輸出訓(xùn)練自己的AI模型，它甚至不會(huì)告訴你發(fā)生了什么，而是直接降低Fable的回答質(zhì)量。

可以說(shuō)，前一手防你作惡，后一手防你抄作業(yè)，相當(dāng)符合A社的一貫風(fēng)格。

寓言怎么老變成章魚(yú)？

先給今天沒(méi)刷新聞的大伙補(bǔ)個(gè)課。

今天凌晨，Anthropic終于發(fā)布了預(yù)熱許久的兩款模型——

「神話」（Mythos）和「寓言」（Fable）。

其中，F(xiàn)able 5最大的看點(diǎn)，是Anthropic第一次把Mythos級(jí)別能力向普通用戶開(kāi)放。

而Fable與正式版Mythos的差別在于，多了一個(gè)安全護(hù)欄。

目前，F(xiàn)able免費(fèi)開(kāi)放給所有人到22號(hào)（22號(hào)只能通過(guò)API用），Mythos則還是開(kāi)放給Claude部分的合作伙伴。

在官方介紹里，F(xiàn)able的軟件工程、知識(shí)工作、視覺(jué)理解能力全面增強(qiáng)，超過(guò)此前所有公開(kāi)發(fā)布的Claude模型。

一句話速通理解就是，這倆就是現(xiàn)在的大模型天花板，各方面能力都已經(jīng)到頂了。

新模型一經(jīng)發(fā)出，剛?cè)肼欰社的卡帕西第一時(shí)間夸了一波。

Claude Code之父Boris也對(duì)它贊不絕口。

不過(guò)，厲害歸厲害，真讓大伙用起來(lái)后，才發(fā)現(xiàn)，這寓言講著講著，老變成章魚(yú)（Opus）。

原因也簡(jiǎn)單。

Anthropic給Fable裝了一套分類器，只要它覺(jué)得你聊的是網(wǎng)絡(luò)安全、生物、化學(xué)，或者想拿Claude蒸餾訓(xùn)練自家模型，就會(huì)自動(dòng)把會(huì)話切給Opus 4.8。

這條規(guī)則白紙黑字寫(xiě)在系統(tǒng)卡第12頁(yè)。

實(shí)際體驗(yàn)中，切換發(fā)生在Fable的思考過(guò)程中，當(dāng)它自己感覺(jué)不對(duì)勁，也不會(huì)問(wèn)你，就直接切了。

如果想繼續(xù)用？要么把提示詞改到它滿意，要么重開(kāi)一個(gè)窗口。

官方在技術(shù)博客里說(shuō)，這套檢測(cè)平均觸發(fā)率不到5%。但網(wǎng)友很快發(fā)現(xiàn)，這5%不像5%。

有人表示，自己就是分析個(gè)代碼，也被切了。

搞安全審計(jì)的更是直呼被針對(duì)，活兒沒(méi)法干了。

還有人說(shuō)壓根用不了，審查代碼庫(kù)都會(huì)被Fable拒絕。

要說(shuō)，最離譜的可能就是有網(wǎng)友把Fable自己的系統(tǒng)卡丟給它，讓他解讀一下，它也給你切了。

還有一名從事生物醫(yī)學(xué)的科學(xué)家表示，這壓根都沒(méi)法用Fable工作，因?yàn)樵忈屵`禁詞。

而這并不是孤例，不少生物學(xué)網(wǎng)友都反映，F(xiàn)able壓根難以使用。

Boris在評(píng)論區(qū)承認(rèn)了這個(gè)問(wèn)題，表示正在處理。

這事兒真正微妙的地方在于，F(xiàn)able在上面三種高風(fēng)險(xiǎn)場(chǎng)景下，至少會(huì)告訴你一聲：

“哥們兒，我給你換模型了?！?/p>

但如果它懷疑你在研究怎么訓(xùn)練下一代大模型，那就進(jìn)入另一個(gè)模式。

系統(tǒng)卡寫(xiě)明，重點(diǎn)針對(duì)的場(chǎng)景包括：限制Claude在前沿LLM開(kāi)發(fā)請(qǐng)求上的有效性，例如搭建預(yù)訓(xùn)練流水線、分布式訓(xùn)練基礎(chǔ)設(shè)施，或者M(jìn)L加速器設(shè)計(jì)。

在這種場(chǎng)場(chǎng)景下，Claude不切模型，不彈提示，不通知用戶，而是坐在那里，悄悄把自己調(diào)笨一點(diǎn)。

Anthropic原文寫(xiě)得很學(xué)術(shù)：Prompt Modification、Steering Vector、PEFT。（系統(tǒng)卡第12頁(yè)）

翻譯成人話就是你以為自己在跟滿血版Fable聊天，實(shí)際上對(duì)面已經(jīng)偷偷開(kāi)了省電模式。

A社這波，屬實(shí)是把護(hù)城河直接焊進(jìn)推理鏈里了。

至于系統(tǒng)怎么判斷，系統(tǒng)卡第58-59頁(yè)也寫(xiě)明白了。

Fable背后跑的是一套兩階段檢測(cè)系統(tǒng)：

第一層探針會(huì)直接檢查模型內(nèi)部激活值（activation），篩查所有請(qǐng)求；第二層再交給獨(dú)立分類器判斷風(fēng)險(xiǎn)。

一旦命中，客戶端就會(huì)自動(dòng)切換到Opus 4.8。

Anthropic甚至在報(bào)告里承認(rèn)，由于分類器在網(wǎng)絡(luò)安全測(cè)試中幾乎總會(huì)觸發(fā)，因此Fable 5在網(wǎng)絡(luò)安全任務(wù)上的實(shí)際表現(xiàn)，基本等同于Opus 4.8。

一言以蔽之呢，就是Fable 5目前也還是一個(gè)有條件釋放的模型：

大部分場(chǎng)景享受Mythos 5級(jí)別能力，但在高風(fēng)險(xiǎn)領(lǐng)域自動(dòng)降級(jí)為Opus 4.8的能力水平。

為啥Claude要這么干？

今天新模型上線，額度同步重置，大家上手之后越用越覺(jué)得不對(duì)勁，吐槽也越來(lái)越多，主要集中在兩件事上。

第一件事，是前面提到的安全護(hù)欄觸發(fā)頻率。Anthropic說(shuō)平均不到5%的會(huì)話會(huì)觸發(fā)回退，但不少用戶的體感顯然不是5%。

第二件事，則是Fable的使用策略。

這次Anthropic并沒(méi)有完全放開(kāi)，而是采用了限量開(kāi)放的方式。

與此同時(shí)，F(xiàn)able的token消耗成本也明顯高于Opus，接近后者兩倍。

這就讓不少訂閱用戶有點(diǎn)犯嘀咕：

如果最好的模型既有額度限制，又不一定能穩(wěn)定用到，那以后會(huì)不會(huì)走向按量收費(fèi)？

當(dāng)然，也有人把原因歸結(jié)到商業(yè)層面。

有網(wǎng)友認(rèn)為，Anthropic現(xiàn)在正處在IPO前的關(guān)鍵階段，需要向投資人證明自己依然掌握著最前沿的模型能力。

所以最強(qiáng)模型可以放出來(lái)展示，但不能毫無(wú)保留地放出來(lái)。

還有研究人員擔(dān)心另一件事。

如果模型一旦識(shí)別到前沿LLM研發(fā)相關(guān)內(nèi)容，就主動(dòng)降低回答質(zhì)量，那對(duì)學(xué)術(shù)研究和技術(shù)交流顯然不是個(gè)好消息。

更關(guān)鍵的是，用戶根本不知道這一切正在發(fā)生。它不會(huì)彈窗，不會(huì)提醒，不會(huì)告訴你答案為什么突然變差。

你只會(huì)覺(jué)得：今天的Claude，好像突然沒(méi)那么聰明了。

對(duì)此，AI研究員Nathan Lambert的評(píng)價(jià)也很直接：

模型廠商給能力加護(hù)欄或許不可避免。

但至少應(yīng)該告訴用戶，前沿能力是什么時(shí)候被撤掉的。

[1]https://www.anthropic.com/news/claude-fable-5-mythos-5
[2]https://www-cdn.anthropic.com/d00db56fa754a1b115b6dd7cb2e3c342ee809620.pdf