新智元報道

【新智元導讀】AI本該加速科研，Claude Fable 5卻把科學家當危險分子封殺。

Fable 5上線才一天就瘋了！

連高等數學Selmer群、同構都被打成「網絡安全風險」！

免疫學家Derya怒轉Shkreli帖文：這比生物封鎖更反烏托邦。

就在Claude Fable 5發(fā)布僅僅24小時后，事情就徹底炸了。

免疫學家、生物黑客Derya Unutmaz直接轉發(fā)了Martin Shkreli那條標題為《危險數學》的帖文。

帖文配著兩張Fable 5拒答的截圖——純數學概念Selmer群、同構，被系統(tǒng)判定為潛在網絡安全風險，直接阻擋或降級。

Derya一句話把所有人都說破防了：

「這比生物封鎖更反烏托邦！這才是AI時代我唯一擔心的噩夢場景——所有AI權力集中到一家公司，由它單方面決定你能用什么！」

別不信，這是Fable 5發(fā)布后24小時內真實發(fā)生的事。

被Fable 5逼瘋的生物醫(yī)學家

6月9日，Anthropic正式把Claude Fable 5推向公眾。

它是Mythos模型的「安全版」——底層能力極強，但在發(fā)布時被塞進了極其激進的安全分類器。

官方說法是：一旦檢測到網絡安全、生物、化學、蒸餾相關請求，就自動路由到Opus 4.8處理，用戶會收到提示。

聲稱95%以上session不受影響，性能幾乎不變。

聽起來很負責，但真實情況很糟糕。

Derya Unutmaz是資深免疫學家、生物黑客，畢生目標就是消除疾病、延長壽命。

結果呢？

他試著跟Fable 5說「cancer」（癌癥），直接被標記成生物安全風險。

他想用記憶功能，被告知自己是生物安全風險，只能切incognito模式（無記憶）才能勉強對話。

他甚至連「hello」都說不了——因為系統(tǒng)知道他是生物醫(yī)學研究員。

多年來，他全力投入AI，希望AI能幫助人類消除所有疾病并逆轉衰老。

Fable 5發(fā)布，他本來超級興奮，可他連「癌癥」這個詞都不能對Fable 5 說！

現在，Anthropic成了唯一讓他感到害怕的AI公司！

不止是生物和醫(yī)學，Fable 5把高等數學當危險品處理。

Selmer群是什么？數論里研究橢圓曲線的重要工具。

同構是什么？代數里最基礎的概念。

這些東西跟網絡安全、生物武器、化學戰(zhàn)劑，八竿子打不著。

可Fable 5的分類器看了一眼，直接判了死刑。

這已經不是誤傷，這是系統(tǒng)性過度拒絕。

從生物醫(yī)學研究者被當潛在威脅，到純抽象數學也被當網絡安全風險，Anthropic的安全策略正在以肉眼可見的速度，從「保護」變成「閹割」。

更狠的是，這不是個例。

有研究者發(fā)現，Fable 5對生物相關查詢極度敏感。

Fable 5連「心臟是干什么的？」這種問題都答不上來

我們已經到了連一道初中生物題都無法通過安全防護機制的地步。

真的連任何生物問題都不能問。

一旦知道你是生物領域的研究人員，Fable只能在無痕模式下使用。

現在連Martin Shkreli這種數學玩家都中招了。

Anthropic自己也知道問題嚴重。官方在發(fā)布博客里寫著：「發(fā)布后通過更新和優(yōu)化這些防護機制，來減少誤報情況?！?/p>

而現在Fable普遍屏蔽生命科學，有些離譜——

「AGI/ASI的全部意義就在于治愈所有疾病，其他一切都只是錦上添花。但Anthropic卻想堵死這條路?！?/p>

這才是最諷刺的地方。

Claude Fable 5反烏托邦！預告AI不平等

你以為這只是「安全措施太嚴」嗎？

不。

這是權力結構的問題。

Fable 5和Mythos 5共享底層模型，區(qū)別只在于safeguards有沒有打開。

目前，Mythos 5只給Glasswing項目的信任伙伴用，普通人只能用被閹割的Fable 5。

Anthropic用一套分類器，單方面決定：

• 誰是「安全用戶」

• 誰是「潛在風險」

• 什么知識可以全功率輸出

• 什么知識必須降級、阻擋、路由

這不是技術問題，這是治理問題。

一家公司，掌握著當前最強模型之一的訪問權和輸出權，卻用黑箱分類器決定全人類科研人員能問什么、不能問什么。

昨天，Anthropic決定了哪些能力對外公開，哪些能力在內部保留。明天誰知道誰會擁有特權，誰又會被排除在外。

下一次AI壟斷，不會只取決于誰擁有最聰明的模型。它還會取決于誰能使用那個不設限的版本。

其他所有人拿到的，只是兒童安全演示版。

這已經不是科幻了。

以前我們擔心AI失控，現在我們看到的是：AI被一家公司「安全」到，連想治癌的免疫學家和研究純數學的人，都被系統(tǒng)性排除在外。

更可怕的是，這套邏輯正在自我強化。

分類器越激進，誤傷越多；誤傷越多，科研人員越憤怒；憤怒越多，Anthropic越覺得自己「有必要加強安全」。

惡性循環(huán)已經形成。

加州大學圣塔芭芭拉分校計算機科學系助理教授Xin Eric Wang，直言：「Anthropic對公共研究生態(tài)系統(tǒng)的貢獻卻少得多，反而越來越多地宣揚基于恐懼的敘事，并通過嚴格的把關限制訪問?！?/p>

Anthropic堵上了奇點大門

現在，故事已經很清楚了。

Fable 5不是一個單純的模型發(fā)布。

它是一次公開的權力演示：

一家公司可以用技術手段，合法地、系統(tǒng)地、規(guī)模化地，決定哪些知識對人類是「安全」的，哪些是「危險」的。

而決定權，不在科學家手里，不在公眾手里，不在開源社區(qū)手里。

只在Anthropic手里。

當AI成為科研基礎設施的時候，誰控制基礎設施，誰就控制了發(fā)現的邊界。

人類曾經用望遠鏡、顯微鏡、粒子對撞機擴展認知邊界。

現在，我們卻在用AI分類器，把邊界往回縮。

這不是進步，這是文明層面的自我設限。

奇點已至，但我們正在用「安全」的名義，把通往奇點的路，一段一段地堵死。

參考資料：

https://x.com/xwang_lk/status/2064445363562676551?s=20

https://x.com/DeryaTR_/status/2064474702060671293

https://x.com/xwang_lk/status/2064456597821358486?s=20

編輯：大衛(wèi)