四川
6月17日，專注3D架構(gòu)AI云端大算力芯片研發(fā)設(shè)計(jì)的算苗科技宣布，旗下3D TokenPU芯片A4E已于6月15日正式流片。據(jù)悉，該芯片面向大模型推理需求，基于自研RISC-V架構(gòu)，采用成熟國產(chǎn)工藝，專攻推理場景的極致性能與更低總擁有成本（TCO）。
“我們不是在別人的賽道上追趕，而是在開辟新的方向?！彼忝缈萍紕?chuàng)始人兼CEO、中科院聲學(xué)所國家重點(diǎn)實(shí)驗(yàn)室博士汪福全在接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)表示，“3D TokenPU專為大模型Token處理而生，不必單純依賴制程縮小，就能實(shí)現(xiàn)算力密度、能效比的跨越式提升?！?/p>
圖片來源：每經(jīng)記者 劉曦 攝
據(jù)悉，A4E將8層存儲(chǔ)晶圓垂直堆疊在計(jì)算邏輯晶圓上，通過硅通孔（TSV）與凸點(diǎn)（bump）技術(shù)實(shí)現(xiàn)微米級互聯(lián)，將傳統(tǒng)芯片間毫米級傳輸距離壓縮兩個(gè)數(shù)量級，帶來超大訪存帶寬，有效緩解大模型推理中因數(shù)據(jù)搬運(yùn)效率低導(dǎo)致的“數(shù)據(jù)饑餓”問題。
實(shí)際上，當(dāng)前AI算力需求正從訓(xùn)練側(cè)向推理側(cè)遷移。德勤預(yù)計(jì)，長期來看全球推理負(fù)載占AI算力比例有望超過80%，同時(shí)開源RISC-V架構(gòu)正從“備選”走向“主流”，在數(shù)據(jù)中心及AI推理等場景加速滲透。
與此同時(shí)，車百智庫報(bào)告指出，無論是電子電氣架構(gòu)還是智能駕駛解決方案，都在很大程度上依賴算力的合理分布與高效利用，算力已成為智能汽車的核心要素。相比車端計(jì)算芯片，云端芯片需承擔(dān)復(fù)雜訓(xùn)練任務(wù)和海量數(shù)據(jù)處理，算力更為強(qiáng)勁。
算苗科技技術(shù)人士向記者介紹，3D TokenPU目前主要面向云端大算力AI推理場景，應(yīng)用在頭部大模型公司的超節(jié)點(diǎn)服務(wù)器、大型智算中心服務(wù)器，以及部分金融等專業(yè)領(lǐng)域需要私有化部署到本地的場景中。當(dāng)前汽車的智聯(lián)、智駕功能日益普及，許多智能化處理同樣需要通過云端服務(wù)器完成，其中就會(huì)涉及云端AI服務(wù)器，進(jìn)而有機(jī)會(huì)用到3D TokenPU這類推理芯片。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
