允中 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

AI芯片，正在機(jī)房里猛猛吃灰。

海外高端GPU供不應(yīng)求、又貴又難買；

國產(chǎn)芯片產(chǎn)能好不容易上來了，結(jié)果是「能用但不好用」，生態(tài)不全、適配難、推理優(yōu)化門檻高，大量國產(chǎn)卡就這么空轉(zhuǎn)著，電費照燒，卻產(chǎn)不出一顆能用的Token。

企業(yè)想用AI，偏偏卡在了最不該卡的環(huán)節(jié)，算力。

所有人都在比誰的模型參數(shù)更大，但真正決定AI能不能落地的，其實是另一件沒那么性感的事：一顆Token，能不能被穩(wěn)定、便宜、規(guī)?；厣a(chǎn)出來。

死磕這件事的，是一支從中國超級計算體系里走出來的年輕團(tuán)隊，是石科技

△AI生成

這家公司成立于2021年，由技術(shù)出身清華，有國家級算力中心工程經(jīng)驗的核心科研團(tuán)隊聯(lián)合組建，是國內(nèi)最早將超算智算并行優(yōu)化的技術(shù)進(jìn)行產(chǎn)業(yè)化的團(tuán)隊之一。

名字取自“實事求是，甘為基石”，寄托著創(chuàng)始團(tuán)隊對算力基礎(chǔ)設(shè)施地位的深刻認(rèn)知。其創(chuàng)始人兼董事長閆博文，出生于1993年，畢業(yè)于清華大學(xué)，是清華計算機(jī)系博士后。

這家公司瞄準(zhǔn)的是通過自主研發(fā)的并行優(yōu)化技術(shù)，將高性能計算（HPC）與人工智能計算深度融合，專治各種異構(gòu)算力資源調(diào)度的“疑難雜癥”。

在他們看來，現(xiàn)在的AI行業(yè)根本不需要再多一個算力轉(zhuǎn)租平臺，要打破國產(chǎn)算力空轉(zhuǎn)的僵局，必須徹底跳出傳統(tǒng)租賃的淺層模式。

是石科技給出的解法直擊本質(zhì)：

緊扣“Token標(biāo)準(zhǔn)化、國產(chǎn)化、效率提升”這三件事，直接重構(gòu)算力變現(xiàn)路徑，重磅打造國產(chǎn)TOKEN調(diào)優(yōu)工廠。

大模型也有了算力“電網(wǎng)”：插上插頭，算力秒變Token產(chǎn)能

是石科技TOKEN工廠的第一層技術(shù)底座，來自異構(gòu)算力的全域整合與深度國產(chǎn)化適配。

區(qū)別于行業(yè)常見的單一算力資源模式，是石科技搭建了全域異構(gòu)算力資源池，全面兼容NVIDIA GPU、國產(chǎn)AI芯片（包括昇騰、昆侖芯、天數(shù)、太初、瀚博半導(dǎo)體等），以及云廠商算力、邊緣算力等多源渠道。

通過智能調(diào)度與彈性擴(kuò)縮容技術(shù)，實現(xiàn)算力資源的統(tǒng)一納管、智能分配與動態(tài)擴(kuò)容，讓企業(yè)不再受困于“算力采購難、資源碎片化”。

△AI生成

打個比方，這就像一張“全域智能電網(wǎng)”。

過去每家工廠只能用自己的發(fā)電機(jī)（單一算力），買不到柴油就停產(chǎn)，發(fā)電機(jī)壞了就癱瘓。

是石科技則類似于搭建了一張覆蓋全國的算力網(wǎng)絡(luò)，把各地的風(fēng)電、水電、火電、太陽能電（各種算力）全部接入統(tǒng)一電網(wǎng)。

企業(yè)需要用電時，只需“插上插頭”，電網(wǎng)就會自動調(diào)度、分配與你需求最匹配的電給你，你完全不用關(guān)心電是從哪個具體的電網(wǎng)節(jié)點送過來的。

更關(guān)鍵的是，是石科技團(tuán)隊完成了主流國產(chǎn)AI芯片的深度適配與專項優(yōu)化，打通了框架適配、算子兼容、通信優(yōu)化、性能調(diào)優(yōu)全鏈路

△AI生成

在這張電網(wǎng)的“變電與穩(wěn)壓”作用下，原本閑置、難調(diào)通的國產(chǎn)算力，在這里能被高效轉(zhuǎn)化為穩(wěn)定、可用、低成本的標(biāo)準(zhǔn)化Token推理產(chǎn)能

通過不斷提升算力利用效率，以及充分利用閑時的算力，或者根據(jù)客戶需求定制專屬算力資源，國產(chǎn)Token就可以真正變成可商用的產(chǎn)能優(yōu)勢。

對此，一位長期從事AI基礎(chǔ)設(shè)施的工程師評價說：

過去我們買了國產(chǎn)卡，總要花幾個月去調(diào)驅(qū)動、改框架、修bug。是石科技把這條路鋪好了。國產(chǎn)卡不再是“擺設(shè)”，而是真正能跑生產(chǎn)的引擎。

把芯片性能榨干到極限：吞吐暴漲50%，Token成本硬砍40%

如果說算力池化是底座，那么推理優(yōu)化就是TOKEN工廠的核心技術(shù)壁壘。

是石科技團(tuán)隊深耕高性能計算領(lǐng)域多年，在嚴(yán)格恪守企業(yè)級SLA服務(wù)標(biāo)準(zhǔn)的前提下，從算子、內(nèi)存、調(diào)度、解碼等全維度進(jìn)行技術(shù)革新。

CUDA Kernel算子級優(yōu)化、PagedAttention內(nèi)存優(yōu)化、Continuous Batching連續(xù)批處理、混合精度推理……這些技術(shù)被系統(tǒng)性地部署在TOKEN工廠的生產(chǎn)線上。

配合FlashAttention、推測解碼、KV Cache精細(xì)化管理、模型并行（TP/PP）等前沿加速方案，GPU等國產(chǎn)芯片的資源利用率大幅提升，Token吞吐總量顯著增加，單位Token生產(chǎn)成本大幅下降。

更重要的是，傳統(tǒng)推理中常見的延遲抖動、TTFT與TPOT波動等問題得到了有效控制——

Token生成變得高效、穩(wěn)定、高品質(zhì)。實測數(shù)據(jù)顯示，在同等算力條件下，是石科技的推理優(yōu)化方案可將吞吐量提升30%-50%，單位Token成本降低40%。

△AI生成

治好“宕機(jī)焦慮”：99.9%高可用，把推理做成不斷電流水線

規(guī)?；腡oken生產(chǎn)，不能建立在脆弱的單點算力之上。

是石科技構(gòu)建了一套多Provider互補與容災(zāi)體系：

• 資源互補：流量峰值時自動彈性擴(kuò)容；
• 技術(shù)互補：接入特定模型和技術(shù)能力（如超低延遲、多模態(tài)）；
• 區(qū)域互補：跨地域部署，降低延遲，滿足各行業(yè)合規(guī)要求。

自動Fallback故障切換機(jī)制，搭配“自有集群承載主要流量、合作伙伴集群兜底容災(zāi)”的流量分配模式，徹底規(guī)避單點算力故障導(dǎo)致的業(yè)務(wù)中斷風(fēng)險。

△AI生成

99.9%的高可用性服務(wù)保障，讓Token的規(guī)模化生產(chǎn)、調(diào)度、輸出全程穩(wěn)定可控。

想象一下飛機(jī)引擎的“多冗余設(shè)計”，即便一臺引擎失效，其他引擎能夠自動補位，飛機(jī)照常飛行。

是石科技相當(dāng)于給AI推理服務(wù)裝了三套引擎——包括自己的引擎、合作伙伴的引擎、備用引擎。

哪怕其中一套突然熄火，系統(tǒng)會在0.1秒內(nèi)自動切換到另一套，用戶完全感知不到。

從技術(shù)上看，這已經(jīng)不是漸進(jìn)式的改良，而是從“算力資源”到“優(yōu)質(zhì)Token產(chǎn)能”的價值躍遷。

當(dāng)前，國產(chǎn)AI算力替代進(jìn)程持續(xù)提速。

標(biāo)準(zhǔn)化、可量產(chǎn)、低成本的Token產(chǎn)能，已成為AI產(chǎn)業(yè)落地的核心生產(chǎn)資料。

是石科技的目標(biāo)已經(jīng)明確：

建成中國最大、技術(shù)最先進(jìn)、服務(wù)最完善的國產(chǎn)TOKEN調(diào)優(yōu)工廠。

讓千行百業(yè)降低AI落地門檻，讓國產(chǎn)算力生態(tài)真正實現(xiàn)規(guī)?；?、高質(zhì)量發(fā)展，推動中國AI產(chǎn)業(yè)邁入工業(yè)化、標(biāo)準(zhǔn)化的全新階段。

當(dāng)行業(yè)還在追逐單一模型的精度時，是石科技選擇了一條更有挑戰(zhàn)但更具長期價值的道路——

做夯實AI推理底座的工廠，做可進(jìn)化、可復(fù)用、可普惠的Token生產(chǎn)力平臺。

這條路投入更大、周期更長、協(xié)調(diào)更復(fù)雜。

但一旦走通，它改變的將不只是某一家企業(yè)的推理成本，而是整個適合中國AI產(chǎn)業(yè)高效發(fā)展的國產(chǎn)算力生態(tài)。