新智元報(bào)道

【新智元導(dǎo)讀】蘋(píng)果把服役9年的Core ML一刀砍了，全新Core AI從第一行代碼為大模型重寫(xiě)。200億參數(shù)直接塞進(jìn)手機(jī)閃存跑推理，25億臺(tái)設(shè)備同時(shí)向AI巨頭敞開(kāi)大門(mén)。

庫(kù)克最后一屆WWDC，把蘋(píng)果的AI地基掀了。

蘋(píng)果把服役9年的Core ML一刀砍掉，取代它的Core AI從第一行代碼開(kāi)始為大模型重寫(xiě)。

蘋(píng)果給所有AI畫(huà)了同一條線

全新的Core AI是蘋(píng)果專為大模型時(shí)代設(shè)計(jì)的端側(cè)AI推理框架。

它統(tǒng)一調(diào)度CPU、GPU和Neural Engine三顆芯片，原生支持自回歸生成、流式響應(yīng)和多輪對(duì)話這些LLM的基礎(chǔ)能力，覆蓋iOS 27、macOS 27一直到watchOS 27的全平臺(tái)。

簡(jiǎn)單來(lái)說(shuō)，Core ML是給傳統(tǒng)機(jī)器學(xué)習(xí)用的，Core AI是給大模型用的。

與此同時(shí)，配套的工具鏈也全部重做。

全新的.aimodel模型格式，蘋(píng)果開(kāi)源的coreai-torch轉(zhuǎn)換工具包，加上Xcode里的性能調(diào)優(yōu)和提前編譯功能，從模型轉(zhuǎn)換到部署上架的整條鏈路都覆蓋了。

舉個(gè)語(yǔ)言學(xué)習(xí)App的例子。

學(xué)生拿起手機(jī)對(duì)準(zhǔn)一只蜂鳥(niǎo)，SAM3在端側(cè)同時(shí)完成兩件事，識(shí)別出畫(huà)面中的物體是「Hummingbird」，并把蜂鳥(niǎo)從背景中精準(zhǔn)分割出來(lái)，生成一張干凈的卡片配圖。

隨后，一個(gè)0.6B參數(shù)的Qwen模型接管文本部分，拿著識(shí)別結(jié)果生成一張結(jié)構(gòu)化的單詞卡，中文詞、英文釋義、例句，三個(gè)字段各歸各位，返回的是一個(gè)Swift原生類型，不是一坨需要再解析的文本。

整個(gè)流程不聯(lián)網(wǎng)，不調(diào)API，全部跑在手機(jī)本地。

在這背后，是蘋(píng)果官方維護(hù)的coreai-models倉(cāng)庫(kù)，里面放著Qwen、Mistral、SAM3等預(yù)優(yōu)化的開(kāi)源模型，全部針對(duì)Apple Silicon做過(guò)適配。開(kāi)發(fā)者拉下來(lái)，幾行Swift代碼就能在自己的App里跑起來(lái)。

如果不想用現(xiàn)成的，自己的模型也能上。

蘋(píng)果在GitHub上同步開(kāi)源了coreai-torch工具包，5行Python就能把一個(gè)PyTorch模型轉(zhuǎn)成.aimodel格式，丟進(jìn)Xcode里進(jìn)行編譯部署。

項(xiàng)目地址：

https://github.com/apple/coreai-models

https://github.com/apple/coreai-torch

不過(guò)，蘋(píng)果想要的不只是跑模型，是統(tǒng)一所有模型。

落到技術(shù)上，就是Foundation Models框架里新加的Language Model協(xié)議。它定義了一套統(tǒng)一的Swift API，任何模型只要遵循它，就能被同一套代碼調(diào)用。

蘋(píng)果自家的端側(cè)模型遵循這個(gè)協(xié)議，Core AI跑的開(kāi)源模型遵循這個(gè)協(xié)議，Claude和Gemini這樣的云端大模型也遵循這個(gè)協(xié)議。

一套代碼，三種模型，從本地到云端無(wú)縫切換。蘋(píng)果把自己變成了AI的路由層。

手機(jī)閃存里藏了個(gè)200億大模型

Foundation Models框架背后跑的，是蘋(píng)果與谷歌聯(lián)合開(kāi)發(fā)的第三代自研模型家族AFM 3，一口氣發(fā)了5個(gè)模型。

端側(cè)兩個(gè)：

1. AFM 3 Core是3B參數(shù)的密集模型，負(fù)責(zé)日常輕量任務(wù)；

2. AFM 3 Core Advanced是20B參數(shù)的稀疏模型，蘋(píng)果端側(cè)的天花板。

云端三個(gè)：

1. AFM 3 Cloud是服務(wù)器主力；

2. ADM 3 Cloud專攻圖像生成和編輯（Image Playground背后就是它）；

3. AFM 3 Cloud Pro是全家族最強(qiáng)。

其中，端側(cè)的大殺器叫AFM 3 Core Advanced，200億參數(shù)的大模型，直接跑在手機(jī)上。

按常理，手機(jī)的內(nèi)存根本塞不下這個(gè)體量。傳統(tǒng)大模型要求所有權(quán)重都裝進(jìn)DRAM，200億參數(shù)連桌面級(jí)設(shè)備都吃力。

對(duì)此，蘋(píng)果的解法叫Instruction-Following Pruning。

完整模型存在閃存（NAND）里，收到請(qǐng)求后，一個(gè)輕量級(jí)路由模塊先選出需要激活哪些專家，再把那部分權(quán)重加載到DRAM中。每次實(shí)際調(diào)動(dòng)的參數(shù)量在10億到40億之間，取決于任務(wù)復(fù)雜度。

一個(gè)200億參數(shù)的模型，干活的時(shí)候只用其中5%到20%，剩下的安安靜靜躺在閃存里等召喚。

云端這邊，是蘋(píng)果最強(qiáng)的服務(wù)器模型——AFM 3 Cloud Pro。

為了攻下復(fù)雜推理和Agent工具調(diào)用，蘋(píng)果聯(lián)合谷歌、英偉達(dá)，把Private Cloud Compute擴(kuò)展到了谷歌云的英偉達(dá)GPU上。隱私規(guī)則照舊，數(shù)據(jù)不出域。

實(shí)測(cè)結(jié)果也在佐證這套架構(gòu)的效果。

AFM 3 Core在45.6%的測(cè)試prompt上被判定優(yōu)于上一代，上一代的優(yōu)勢(shì)率只有23.3%。云端的AFM 3 Cloud差距更夸張，64.7%對(duì)8.7%，幾乎是單方面碾壓。

架構(gòu)和跑分都說(shuō)完了，開(kāi)發(fā)者最關(guān)心的問(wèn)題來(lái)了，這套東西要多少錢。

如果你的App在App Store的首次下載量低于200萬(wàn)，Private Cloud Compute的云端推理完全免費(fèi)，零API成本，零token費(fèi)用。你只管來(lái)寫(xiě)App就完了。

可以說(shuō)，這個(gè)門(mén)檻精準(zhǔn)卡在了獨(dú)立開(kāi)發(fā)者和中小團(tuán)隊(duì)的位置上。

三行代碼，Claude上桌

在公開(kāi)發(fā)布的第三方適配中，Anthropic是第一個(gè)交卷的。

6月8日WWDC keynote結(jié)束的同一天，Anthropic當(dāng)即發(fā)布了一個(gè)Swift包，正式接入Foundation Models框架，6月9日起可用。

思路很簡(jiǎn)單。

蘋(píng)果的端側(cè)模型擅長(zhǎng)摘要、信息抽取、分類這些輕量任務(wù)，速度快、不聯(lián)網(wǎng)、零成本。但碰到多步推理、代碼生成、聯(lián)網(wǎng)搜索這些復(fù)雜需求，端側(cè)模型就扛不住了。

而Claude的Swift包精準(zhǔn)卡在了這個(gè)接縫上。

開(kāi)發(fā)者在Foundation Models框架里正常調(diào)用蘋(píng)果的端側(cè)模型，當(dāng)任務(wù)超出端側(cè)能力時(shí)，框架自動(dòng)把請(qǐng)求路由給Claude，響應(yīng)結(jié)果以流式方式返回到同一個(gè)SwiftUI視圖里。

用戶全程感知不到切換，對(duì)他們來(lái)說(shuō)這就是一個(gè)App。

換句話說(shuō)，如果你常用的某個(gè)筆記App或?qū)W習(xí)App突然變聰明了，能幫你做跨文檔的語(yǔ)義分析了，背后很可能就是開(kāi)發(fā)者接了這個(gè)包。

比如，一個(gè)日記App可以用端側(cè)模型生成每日寫(xiě)作提示，但當(dāng)用戶問(wèn)「這幾個(gè)月的日記有什么共同主題」時(shí)，這種跨時(shí)間的語(yǔ)義歸納就自動(dòng)交給Claude來(lái)處理。

不過(guò)，Anthropic在蘋(píng)果生態(tài)里的布局不止這一步。

Claude Agent早在今年2月就已經(jīng)整合進(jìn)了Xcode 26.3，幫開(kāi)發(fā)者寫(xiě)代碼、跑測(cè)試、做自動(dòng)化。

但Xcode里的Claude面向的是開(kāi)發(fā)者自己，F(xiàn)oundation Models里的Claude面向的是App的最終用戶。

對(duì)Anthropic來(lái)說(shuō)，這是一張遲到但關(guān)鍵的消費(fèi)級(jí)分發(fā)入場(chǎng)券。

Claude一直在開(kāi)發(fā)者和企業(yè)市場(chǎng)上打得很猛，但在普通消費(fèi)者面前幾乎沒(méi)有存在感。

這次，蘋(píng)果的Foundation Models框架，給了它一條觸達(dá)十億量級(jí)用戶的通道。

25億設(shè)備，一座擂臺(tái)

回看庫(kù)克最后一屆WWDC的全部動(dòng)作，一條線索貫穿始終。

蘋(píng)果不想做AI模型公司。它把Siri的大腦交給了谷歌，把開(kāi)源模型的運(yùn)行時(shí)交給了Core AI，把第三方AI的選擇權(quán)交給了用戶。

它要做的是擂臺(tái)。

25億臺(tái)設(shè)備，統(tǒng)一的Language Model協(xié)議，從端側(cè)到云端的完整調(diào)度框架。

誰(shuí)的模型好，誰(shuí)就能通過(guò)這個(gè)平臺(tái)觸達(dá)地球上最大的高價(jià)值用戶群。

AI巨頭之間的競(jìng)爭(zhēng)，從今天開(kāi)始多了一個(gè)全新的維度。

之前Anthropic和OpenAI搶的是API調(diào)用量、開(kāi)發(fā)者工具、企業(yè)合同。

現(xiàn)在蘋(píng)果把戰(zhàn)場(chǎng)搬到了每個(gè)人的口袋里，誰(shuí)能拿下那個(gè)「默認(rèn)AI引擎」的位置，誰(shuí)就贏了下一局。

9月1日，John Ternus接任蘋(píng)果CEO。他繼承的不只是一家硬件公司，還有庫(kù)克留下的這座AI擂臺(tái)。

參考資料：

https://developer.apple.com/documentation/FoundationModels

https://developer.apple.com/documentation/coreai

https://claude.com/blog/claude-for-foundation-models

編輯：摩西