6月18日，在2026陸家嘴論壇上，農(nóng)業(yè)銀行董事長(zhǎng)谷澍以《控制大模型應(yīng)用風(fēng)險(xiǎn)的幾點(diǎn)做法》為題，發(fā)表主旨演講，聚焦金融業(yè)大模型規(guī)?；涞匕殡S的新型風(fēng)險(xiǎn)，結(jié)合農(nóng)行實(shí)踐，系統(tǒng)闡述了金融機(jī)構(gòu)平衡AI創(chuàng)新與安全的實(shí)施路徑，為金融業(yè)大模型風(fēng)險(xiǎn)治理提供了參考。

谷澍在發(fā)言中指出，AI作為科技創(chuàng)新的重要引擎，在銀行的應(yīng)用不斷拓展深化，有效助力了金融高質(zhì)量發(fā)展，但大模型的規(guī)?；瘧?yīng)用也會(huì)帶來新的風(fēng)險(xiǎn)挑戰(zhàn)。如何把握好創(chuàng)新和安全的平衡，是影響大模型進(jìn)一步深化應(yīng)用的核心關(guān)鍵。

谷澍在發(fā)言中指出，當(dāng)前，金融業(yè)大模型應(yīng)用面臨的主要風(fēng)險(xiǎn)之一是模型黑箱、模型幻覺、模型自主思考與決策帶來的不確定性。

具體而言，一是海量參數(shù)帶來的可解釋性難題。當(dāng)前主流大模型的參數(shù)規(guī)模已飆升至千億甚至萬億級(jí)別，海量參數(shù)的矩陣運(yùn)算和深層的非線性疊加，導(dǎo)致其決策機(jī)制和輸出結(jié)果既不透明，也難以解釋。這種黑箱效應(yīng)導(dǎo)致無法判定決策是否安全合規(guī)，無法界定責(zé)任歸屬，存在一定的失控風(fēng)險(xiǎn)。

二是概率生成帶來的準(zhǔn)確性考驗(yàn)。大模型的底層邏輯是根據(jù)海量訓(xùn)練數(shù)據(jù)，統(tǒng)計(jì)詞元（Token）間的規(guī)律，其本質(zhì)是概率統(tǒng)計(jì)而非事實(shí)推導(dǎo)。這就導(dǎo)致大模型可能會(huì)在事實(shí)依據(jù)不足的情況下，編造出邏輯自洽的“幻覺”，似是而非的結(jié)果可能引發(fā)業(yè)務(wù)風(fēng)險(xiǎn)。

三是模型自主思考與決策帶來的新型風(fēng)險(xiǎn)。隨著大模型能力的不斷進(jìn)化和智能體的深度應(yīng)用，系統(tǒng)已經(jīng)突破傳統(tǒng)軟件“輸入—輸出”相對(duì)固化的范式，能夠自主思考，可以自主規(guī)劃與決策，在一定程度上可能放大過程不可控、結(jié)果不可知的風(fēng)險(xiǎn)。同時(shí)，大模型用于自動(dòng)化網(wǎng)絡(luò)攻擊，帶來的攻擊效率和烈度前所未有，這些都會(huì)帶來系統(tǒng)性、社會(huì)性的新型風(fēng)險(xiǎn)。

對(duì)此，谷澍表示，從大模型運(yùn)行機(jī)理來看，模型風(fēng)險(xiǎn)是客觀存在的。行業(yè)可以做的不是追求風(fēng)險(xiǎn)的絕對(duì)消除，而是既發(fā)揮其作用，又認(rèn)識(shí)到其局限性，要建立與風(fēng)險(xiǎn)共生的治理體系。

近年來，農(nóng)行積極構(gòu)建有韌性的AI應(yīng)用體系，在頂層設(shè)計(jì)、工具平臺(tái)、風(fēng)險(xiǎn)防控等方面不斷探索，形成了農(nóng)行特色的智慧銀行建設(shè)路徑和平臺(tái)支撐。

基于農(nóng)行相關(guān)實(shí)踐，谷澍就如何防范大模型應(yīng)用風(fēng)險(xiǎn)，在發(fā)言中提出四方面建議。

一是分類施策推進(jìn)場(chǎng)景適配。具體而言，是按照金融場(chǎng)景的風(fēng)險(xiǎn)等級(jí)和監(jiān)管合規(guī)要求，建立模型黑箱分級(jí)管控機(jī)制，不同場(chǎng)景匹配差異化的技術(shù)路線與可解釋性要求。對(duì)于信貸決策等強(qiáng)監(jiān)管場(chǎng)景，采用模型蒸餾技術(shù)，讓大模型在數(shù)據(jù)合成、歸因分析和決策式模型生成等方面提供助力，將大模型能力遷移至更具可解釋性的小模型；對(duì)于投研分析等高認(rèn)知場(chǎng)景，強(qiáng)化思維鏈（CoT）設(shè)計(jì)，構(gòu)建清晰的“思考推理”軌跡，增強(qiáng)決策過程的透明度；對(duì)于產(chǎn)品營(yíng)銷等創(chuàng)意類場(chǎng)景，構(gòu)建靈活的上下文工程，充分激活模型的隨機(jī)性來激發(fā)創(chuàng)新活力。

二是設(shè)定一定的標(biāo)尺約束控制模型幻覺。找準(zhǔn)大模型與業(yè)務(wù)流程的結(jié)合點(diǎn)，設(shè)置必要的參數(shù)標(biāo)尺，同時(shí)強(qiáng)化人機(jī)互補(bǔ)的約束機(jī)制，切實(shí)壓縮大模型“自由編造”空間。比如，農(nóng)行應(yīng)用AI賦能信貸調(diào)查報(bào)告智能生成，通過建立業(yè)務(wù)標(biāo)尺、模型互檢、模型反思、業(yè)務(wù)數(shù)據(jù)校準(zhǔn)等方式，對(duì)模型生成的內(nèi)容進(jìn)行自動(dòng)校驗(yàn)，確?！爸v得準(zhǔn)”；信貸方案、用信條件等關(guān)鍵內(nèi)容審核則要由人類主導(dǎo)，確?！敖Y(jié)果可控”。

三是以AI手段應(yīng)對(duì)AI應(yīng)用風(fēng)險(xiǎn)。AI大幅降低網(wǎng)絡(luò)攻擊門檻，傳統(tǒng)安全格局面臨根本性重塑，安全防御手段亟需升級(jí)。要“以AI對(duì)抗AI”，建立縱深防御體系，確保攻擊可以早發(fā)現(xiàn)、快處置、能自愈，不斷提升自動(dòng)化、智能化的風(fēng)險(xiǎn)應(yīng)對(duì)水平。要增強(qiáng)AI對(duì)抗能力，部署專門的安全監(jiān)測(cè)模型，持續(xù)進(jìn)行對(duì)抗訓(xùn)練，提升系統(tǒng)韌性。要建立全鏈路可信驗(yàn)證與準(zhǔn)入機(jī)制，強(qiáng)化漏洞掃描和運(yùn)行狀態(tài)監(jiān)測(cè)，確保供應(yīng)鏈安全。要強(qiáng)化數(shù)據(jù)隱私保護(hù)，通過提示詞注入防御、多租戶會(huì)話隔離、輸出內(nèi)容攔截等措施，防范模型推理過程中的敏感數(shù)據(jù)泄露。

四是強(qiáng)化銀行內(nèi)部AI治理體系。AI治理分為宏觀層面與企業(yè)層面，針對(duì)AI應(yīng)用帶來的風(fēng)險(xiǎn)，要健全“權(quán)責(zé)明晰與風(fēng)險(xiǎn)包容并重”的銀行內(nèi)部AI治理體系，確保AI既用得好、又管得好。要明確責(zé)任邊界。持續(xù)完善覆蓋需求提出、模型開發(fā)、上線運(yùn)行、效果評(píng)估的全流程管理規(guī)范，明確業(yè)務(wù)、科技、風(fēng)控等部門的責(zé)任邊界，確保模型風(fēng)險(xiǎn)責(zé)任可追溯，杜絕“黑箱即免責(zé)”。要留足創(chuàng)新空間。建立分層的容錯(cuò)機(jī)制，堅(jiān)持“先行先試、先內(nèi)后外、先外圍后核心”的漸進(jìn)式策略，防止未經(jīng)充分驗(yàn)證的AI能力直接面客。

此外，谷澍還特別提示，智能體范式的推廣對(duì)工具接口的調(diào)用會(huì)進(jìn)一步放大模型風(fēng)險(xiǎn)，將“信息幻覺”推向“行為失控”。因此，金融業(yè)始終要把安全可靠作為智能體運(yùn)行的關(guān)鍵前提，通過分層透明、人機(jī)協(xié)同、有效治理等多重機(jī)制，構(gòu)建“敏捷、可信、安全”的智能體生態(tài)，賦能金融服務(wù)行穩(wěn)致遠(yuǎn)。

潘功勝談中國(guó)金融結(jié)構(gòu)的變遷和金融市場(chǎng)現(xiàn)代化潘功勝宣布完善短端利率調(diào)控機(jī)制舉措！新工具來了！境外央行類機(jī)構(gòu)回購(gòu)工具到底是啥？

來源：金融時(shí)報(bào)客戶端記者：宋玨遐編輯：云陽郵箱：[email protected]關(guān)注金融時(shí)報(bào)公眾號(hào) 看更多獨(dú)家新聞