當(dāng)人工智能行業(yè)還在爭論 AGI（通用人工智能）什么時候到來時，谷歌 DeepMind 的研究已經(jīng)把問題往前推了一步：如果人類真的實(shí)現(xiàn)了 AGI，接下來會發(fā)生什么？

近日，DeepMind 發(fā)表了一項題為“From AGI to ASI” 的文章，探討了如果人類真的實(shí)現(xiàn) AGI，AI 將如何繼續(xù)演進(jìn)，最終達(dá)到 ASI（超人工智能）？

參與報告的研究人員包括 DeepMind 的多位核心研究者，他們長期研究 AGI、強(qiáng)化學(xué)習(xí)、多智能體系統(tǒng)、AI 安全和通用智能理論。比如 DeepMind 聯(lián)合創(chuàng)始人之一、首席 AGI 科學(xué)家 Shane Legg，AIXI 模型提出者 Marcus Hutter，其被視為當(dāng)今最頂尖的 AGI 理論家之一，DeepMind 資深研究員、AlphaGo 項目核心成員之一 Thore Graepel 等等。

在討論之前，研究人員首先對 AGI 和 ASI 進(jìn)行了清晰的界定。

AGI 是一套在絕大多數(shù)認(rèn)知任務(wù)中，達(dá)到普通人類中位數(shù)水平的智能系統(tǒng)；ASI 則設(shè)定了極高的門檻，它是在人類所有活動與認(rèn)知領(lǐng)域，全面超越大規(guī)模人類專家協(xié)作團(tuán)隊的智能系統(tǒng)。

為什么 AGI 不是終點(diǎn)？

論文指出，AGI 不太可能剛好停在人類水平。原因在于，數(shù)字智能與生物智能有著根本不同的運(yùn)行條件。

人類智能很強(qiáng)，但它受到生物條件限制。一個人大腦的運(yùn)行速度、記憶容量、壽命、學(xué)習(xí)速度、溝通方式，都有明顯上限。AI 則運(yùn)行在數(shù)字計算系統(tǒng)上，很多限制可以通過更多算力、更好硬件、更高效算法來放大或繞開。

第一，輸入輸出速度更快。人類閱讀、聽說、寫作和操作工具的速度有限。AI 不一樣，今天的大模型已經(jīng)可以在很短時間內(nèi)處理大量文本。未來如果連接更強(qiáng)的檢索系統(tǒng)、數(shù)據(jù)庫、傳感器和執(zhí)行工具，它獲取信息、處理信息、輸出結(jié)果的速度還會繼續(xù)提高。

第二，內(nèi)部處理速度可以被加速。人類思考速度受大腦結(jié)構(gòu)限制。AI 的思考可以通過硬件和算法提高速度。更多 GPU、更高并行度、更優(yōu)推理框架、更高效模型，都可能讓系統(tǒng)在更短時間內(nèi)完成更多推理、搜索、規(guī)劃和驗證。

第三，工作記憶和長期記憶容量更大。人類工作記憶非常有限。我們很難同時穩(wěn)定處理幾十個復(fù)雜變量，也很難完整記住讀過的所有材料。AI 可以擁有更大的上下文窗口、更強(qiáng)外部記憶和更快檢索能力。它可以調(diào)用大量文檔、代碼庫、實(shí)驗記錄和數(shù)據(jù)庫，并在任務(wù)過程中保持更多相關(guān)信息。

第四，AI 可以脫離單一身體或硬件。人類智能綁定在一個具體的身體和大腦上。人的身體會衰老，大腦也會疲勞、受傷和死亡。AI 系統(tǒng)原則上可以遷移到不同硬件上，它可以從舊服務(wù)器遷移到新服務(wù)器，從較慢硬件遷移到更快硬件，也可以被備份和恢復(fù)。

第五，AI 可以無損復(fù)制。一個人無法把自己的知識、記憶和經(jīng)驗完整復(fù)制給另一個人。AI 可以，復(fù)制的不只是源代碼，也可以是模型參數(shù)、上下文狀態(tài)、記憶庫和任務(wù)經(jīng)驗。一個表現(xiàn)良好的 AI 智能體，可以被復(fù)制成許多實(shí)例，同時處理不同任務(wù)。

第六，AI 可以高帶寬共享經(jīng)驗。人類社會的知識積累很強(qiáng)，但傳播速度有限。AI 之間的信息共享可以更直接。不同實(shí)例可以共享日志、數(shù)據(jù)、模型更新、工具使用記錄、失敗經(jīng)驗和成功策略。如果系統(tǒng)足夠同質(zhì)，甚至可以共享更底層的學(xué)習(xí)信號。

這并不是說今天的 AI 已經(jīng)全面超過人類，而是說：一旦 AI 達(dá)到人類水平，這些數(shù)字化特性會讓它更容易繼續(xù)擴(kuò)展。

AGI 走向 ASI 的 4 條路徑

圍繞如何從 AGI 到 ASI ，研究者們提出了四種可能路徑。

（來源：上述論文）

第一條路徑是繼續(xù)擴(kuò)大算力、模型和數(shù)據(jù)。過去幾年，AI 能力的提升很大程度上來自 scaling：模型越來越大，訓(xùn)練數(shù)據(jù)越來越多，訓(xùn)練算力越來越強(qiáng)，推理階段也開始投入更多計算資源。

論文認(rèn)為，如果這種趨勢能持續(xù)，那么從 AGI 到 ASI 未必需要完全不同的技術(shù)路線。只要更多有效算力仍能轉(zhuǎn)化為更強(qiáng)能力，繼續(xù)擴(kuò)大規(guī)模就可能推動 AI 越過人類水平。

不過，這條路徑也面臨不確定性。

最直接的是數(shù)據(jù)。當(dāng)前大模型主要依賴人類生成的數(shù)據(jù)，尤其是文本數(shù)據(jù)。但高質(zhì)量文本并不是無限的。隨著模型繼續(xù)擴(kuò)大，可用數(shù)據(jù)可能不足以支撐下一階段訓(xùn)練。

除了數(shù)據(jù)，資源也是重要瓶頸。繼續(xù) scaling 需要更多芯片、能源、數(shù)據(jù)中心、資金和供應(yīng)鏈支持。算力不是抽象數(shù)字，它背后是真實(shí)世界的電力、土地、制造能力、冷卻系統(tǒng)和資本投入。如果這些資源無法持續(xù)增長，scaling 路線就會放緩。

但論文也指出，所謂“數(shù)據(jù)墻”未必一定會成為硬障礙。AI 可能通過合成數(shù)據(jù)、自博弈、仿真環(huán)境、用戶交互和搜索增強(qiáng)生成新的高質(zhì)量訓(xùn)練材料。AlphaZero 就是一個例子：系統(tǒng)通過自我對弈產(chǎn)生數(shù)據(jù)，再將搜索結(jié)果蒸餾回模型，從而不斷提升能力。未來類似機(jī)制可能被推廣到更廣泛的任務(wù)中。

第二條路徑是算法層面的演化或范式轉(zhuǎn)變。論文指出，當(dāng)前 AI 的主流范式大致是：用大規(guī)模 Transformer 在海量數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練，然后再經(jīng)過指令微調(diào)、強(qiáng)化學(xué)習(xí)、人類反饋、工具調(diào)用、檢索增強(qiáng)和推理時計算等方式提升能力。

但研究者認(rèn)為，這一范式可能還不夠。要真正達(dá)到 AGI 或 ASI，AI 系統(tǒng)可能需要更強(qiáng)的長期記憶、持續(xù)學(xué)習(xí)、互動式強(qiáng)化學(xué)習(xí)、世界模型、規(guī)劃能力和工具使用能力。比如，當(dāng)前模型雖然可以在上下文窗口內(nèi)處理復(fù)雜任務(wù)，但還不具備真正穩(wěn)定的終身學(xué)習(xí)能力。它們在交互環(huán)境中的長期決策和可靠行動能力也仍有限。

未來可能出現(xiàn)的范式演化包括：更長甚至近乎無限的上下文、更高效的序列架構(gòu)、可更新記憶系統(tǒng)、面向真實(shí)環(huán)境的強(qiáng)化學(xué)習(xí)、基于世界模型的規(guī)劃、以及更強(qiáng)的自主智能體框架。

但論文也討論了更激進(jìn)的范式轉(zhuǎn)變。例如，完全不同的架構(gòu)、優(yōu)化方法、神經(jīng)形態(tài)硬件、模擬計算，或者基于強(qiáng)化學(xué)習(xí)預(yù)訓(xùn)練、顯式世界模型的新路線。

這條路徑最大的問題是難以預(yù)測。真正的范式轉(zhuǎn)變往往不是簡單外推可以得到的。Transformer 成為大模型時代核心架構(gòu)之前，也并非所有人都預(yù)見到它會產(chǎn)生如此深遠(yuǎn)影響。

第三條路徑是遞歸自我改進(jìn)。所謂遞歸自我改進(jìn)，指的是 AI 系統(tǒng)幫助推進(jìn) AI 研發(fā)，從而產(chǎn)生更強(qiáng)的 AI；更強(qiáng)的 AI 又進(jìn)一步加速下一輪 AI 研發(fā)，形成正反饋循環(huán)。

傳統(tǒng)討論中，自我改進(jìn)常被理解為 AI 修改自己的代碼。但論文把范圍擴(kuò)得更寬：AI 可以改進(jìn)算法，也可以輔助設(shè)計芯片，可以自動調(diào)參，可以生成訓(xùn)練數(shù)據(jù)，可以分析實(shí)驗結(jié)果，可以組織專業(yè)化分工。只要 AI 能顯著提高 AI 研發(fā)效率，就已經(jīng)構(gòu)成某種遞歸改進(jìn)。

這一路徑之所以重要，是因為它可能改變 AI 進(jìn)步的速度。如果 AI 只是被人類研究者一點(diǎn)點(diǎn)改進(jìn)，進(jìn)步速度就受限于人類研發(fā)能力。但如果 AI 本身成為 AI 研發(fā)的重要力量，那么進(jìn)步速度可能加速。

事實(shí)上，今天已經(jīng)能看到某些形式的遞歸改進(jìn)。例如，AI 輔助寫研究代碼、幫助設(shè)計實(shí)驗、自動調(diào)參、神經(jīng)架構(gòu)搜索、AI 輔助芯片設(shè)計、自動課程生成、世界模型仿真，以及一些 AI Scientist 系統(tǒng)。這些還不是完全自主的自我改進(jìn)，但已經(jīng)說明 AI 可以參與改善 AI 研發(fā)流程。

不過，研究者指出，遞歸改進(jìn)仍可能受到很多現(xiàn)實(shí)限制。例如，訓(xùn)練更強(qiáng)模型需要真實(shí)算力；芯片制造需要物理工廠；許多科學(xué)實(shí)驗必須等待現(xiàn)實(shí)世界反饋；能源和供應(yīng)鏈無法無限加速。因此，遞歸自我改進(jìn)可能導(dǎo)致快速躍遷，也可能在資源、實(shí)驗和工程瓶頸前逐漸放緩。

第四條路徑是多智能體協(xié)作，也就是 ASI 可能不是由單個系統(tǒng)產(chǎn)生，而是由大量 AGI 智能體組織起來之后形成。這一路徑與第一條 scaling 路徑有關(guān)，但重點(diǎn)不同。第一條路徑關(guān)心的是算力、模型和數(shù)據(jù)如何擴(kuò)大；這條路徑關(guān)心的是：當(dāng)許多 AGI 實(shí)例一起工作時，整體智能會如何變化。

論文認(rèn)為，超級智能可能作為一種集體屬性出現(xiàn)。許多 AGI 智能體通過協(xié)調(diào)、分工、通信和組織，可能形成類似“群體智能”或“集團(tuán)智能”的系統(tǒng)。

這個想法并不陌生。人類社會本身就是例子。一個現(xiàn)代科學(xué)機(jī)構(gòu)、一家大型公司、一個國家系統(tǒng)，都不是靠單個人完成復(fù)雜任務(wù)，而是依靠分工、協(xié)作、知識積累、組織管理和資源調(diào)配。

AGI 群體也可能如此。它們可以被組織成自動化公司、研究機(jī)構(gòu)、智能體市場或服務(wù)網(wǎng)絡(luò)。每個智能體負(fù)責(zé)不同任務(wù)，有的做規(guī)劃，有的做執(zhí)行，有的做驗證，有的做信息搜集，有的做專業(yè)分析。通過高帶寬通信，它們可以快速共享結(jié)果并調(diào)整策略。

論文提出，未來有必要研究多智能體的 scaling laws：當(dāng)智能體數(shù)量增加、通信密度提高、組織結(jié)構(gòu)優(yōu)化時，整體能力如何變化？是線性增長、超線性增長，還是很快被協(xié)調(diào)成本抵消？

這意味著，即使單個模型無法大幅超過人類，一個由大量人類水平 AGI 組成的系統(tǒng)，也可能構(gòu)成實(shí)際意義上的 ASI。

實(shí)現(xiàn) ASI 的六大瓶頸

雖然論文認(rèn)為 AGI 不太可能是終點(diǎn)，但它并沒有把 ASI 描繪成必然到來的神話。研究者們列出了可能阻礙 AGI 走向 ASI 的六大瓶頸。

第一是數(shù)據(jù)墻。當(dāng)前大模型的訓(xùn)練高度依賴大規(guī)模數(shù)據(jù)，尤其是人類生成的文本、圖像、音頻和視頻。但這些數(shù)據(jù)并不是無限的，模型規(guī)模和訓(xùn)練需求增長很快，而人類自然產(chǎn)生高質(zhì)量數(shù)據(jù)的速度有限。尤其是高質(zhì)量文本數(shù)據(jù)，可能在未來成為限制因素。

第二是經(jīng)濟(jì)和自然資源約束。繼續(xù)擴(kuò)大 AI 能力需要資金、芯片、電力、數(shù)據(jù)中心、冷卻系統(tǒng)、土地、稀有材料、供應(yīng)鏈和工程能力。如果訓(xùn)練和部署更強(qiáng) AI 所需的經(jīng)濟(jì)投入增長太快，而 AI 帶來的經(jīng)濟(jì)回報跟不上，那么 scaling 可能變得不可持續(xù)。

第三是神經(jīng)網(wǎng)絡(luò)范式可能不夠。當(dāng)前主流路線是大規(guī)模神經(jīng)網(wǎng)絡(luò)，尤其是 Transformer，加上預(yù)訓(xùn)練、后訓(xùn)練、推理時計算、工具調(diào)用和檢索增強(qiáng)。這一路線雖然非常成功，但不能保證一定足以達(dá)到 AGI，更不能保證足以達(dá)到 ASI?？赡苋笔У哪芰ΠㄩL期記憶、持續(xù)學(xué)習(xí)、真實(shí)環(huán)境中的穩(wěn)健決策、世界模型、深層規(guī)劃和自主交互能力。如果這些能力無法在現(xiàn)有范式內(nèi)自然補(bǔ)齊，就可能需要新的架構(gòu)、新的訓(xùn)練方式，甚至新的計算范式。

第四是研究越來越難。很多技術(shù)領(lǐng)域都會遇到一個問題：越往后，進(jìn)步越難。早期容易發(fā)現(xiàn)的改進(jìn)被快速利用，后續(xù)突破需要更多實(shí)驗、更大團(tuán)隊、更高成本和更復(fù)雜工程。AI 研究也可能如此。模型越大，實(shí)驗越貴，驗證周期越長，架構(gòu)和訓(xùn)練細(xì)節(jié)越復(fù)雜。繼續(xù)獲得同樣幅度的能力提升，可能需要越來越多資源。

第五是抽象壁壘，也就是 AI 能否創(chuàng)造超越人類的新概念。當(dāng)前 AI 主要訓(xùn)練在人類產(chǎn)生的數(shù)據(jù)上，因此它學(xué)習(xí)到的概念、語言和知識結(jié)構(gòu)，很大程度上來自人類已有抽象。如果 AI 只是在人類概念體系內(nèi)組合和外推，它是否能真正形成新的科學(xué)概念、新的抽象層次和超越人類的理解方式？

第六是人為放緩。如果 AI 帶來嚴(yán)重事故、濫用風(fēng)險、軍事風(fēng)險、政治沖突、失業(yè)沖擊、文化反彈或安全擔(dān)憂，政府和公眾可能要求放緩甚至限制前沿 AI 發(fā)展?？赡鼙憩F(xiàn)為更嚴(yán)格的監(jiān)管、強(qiáng)制評估、事故報告、算力限制、出口管制、責(zé)任追究，甚至?xí)和Ｄ承└唢L(fēng)險訓(xùn)練和部署。

這些瓶頸到底是硬上限，還是可以被技術(shù)繞過的摩擦，目前并不清楚。數(shù)據(jù)墻可能被合成數(shù)據(jù)、仿真和自博弈緩解；資源瓶頸可能被更高效算法和硬件緩解；研究變難可能被 AI 研究助手抵消；抽象壁壘可能需要新的互動學(xué)習(xí)和強(qiáng)化學(xué)習(xí)范式來突破；人為放緩則可能受到經(jīng)濟(jì)利益和國際競爭壓力影響。

如何評測超過人類的系統(tǒng)？

論文提出一個很現(xiàn)實(shí)的問題：如果 AI 超過人類，我們該如何評測它？

今天很多 benchmark 本質(zhì)上以人類水平為參照。比如考試題、編程題、數(shù)學(xué)題、問答任務(wù)、專業(yè)知識測試等。一旦 AI 在這些任務(wù)上達(dá)到或超過頂尖人類水平，評測就會迅速飽和。

這會帶來兩個后果。一方面，研究者很難繼續(xù)準(zhǔn)確衡量 AI 能力提升。另一方面，社會也很難判斷系統(tǒng)到底處在什么能力階段。

因此，研究者們呼吁建立面向 AGI 后時代的新評測體系。包括多智能體競爭與合作任務(wù)、自動生成測試、通用壓縮任務(wù)、經(jīng)濟(jì)生產(chǎn)率等間接指標(biāo)，以及可以持續(xù)更新、不會輕易飽和的評估機(jī)制。

預(yù)測體系同樣需要升級。不能只依賴專家訪談或主觀判斷，而要建立更量化的模型，把有效算力增長、算法效率、經(jīng)濟(jì)回報、資源投入、AI 研發(fā)自動化等因素聯(lián)系起來，并隨新數(shù)據(jù)不斷更新。

安全和治理方面，論文采取了一個明確但很重要的前提：為了聚焦技術(shù)路徑，研究者們暫時假設(shè) AI 安全和監(jiān)管能在足夠程度上解決。但他們也承認(rèn)，這絕不是輕松前提。如果高級 AI 不安全、不可控，那么它本身就會成為能力發(fā)展的瓶頸，因為無法放心部署到自動化研究、基礎(chǔ)設(shè)施和社會系統(tǒng)中。

鑒于當(dāng)前存在太多不確定性，研究者們認(rèn)為很難精準(zhǔn)預(yù)測 ASI 何時到來，以及它具體會具備哪些能力。他們反復(fù)強(qiáng)調(diào) ASI 仍受物理、計算復(fù)雜性、數(shù)據(jù)、資源、實(shí)驗時間、現(xiàn)實(shí)世界反饋速度等限制。它不是魔法，也不自動意味著能治愈一切疾病、任意改造物質(zhì)或解決所有社會問題。

1.https://arxiv.org/abs/2606.12683

排版：胡莉花

注：封面/首圖由 AI 輔助生成