界面新聞?dòng)浾?| 安震

6月18日，國(guó)家金融監(jiān)督管理總局公開(kāi)發(fā)布《關(guān)于銀行業(yè)保險(xiǎn)業(yè)人工智能安全開(kāi)發(fā)應(yīng)用的指導(dǎo)意見(jiàn)》（以下簡(jiǎn)稱(chēng)《指導(dǎo)意見(jiàn)》）。界面新聞注意到，這是2026年首份針對(duì)金融行業(yè)人工智能安全開(kāi)發(fā)的專(zhuān)項(xiàng)指導(dǎo)文件。

有關(guān)司局負(fù)責(zé)人在答記者問(wèn)中指出， 該《指導(dǎo)意見(jiàn)》 出臺(tái)旨在貫徹國(guó)家“人工智能+”行動(dòng)與“十五五”規(guī)劃綱要，針對(duì)部分機(jī)構(gòu)“為新而新、為用而用”的盲目跟風(fēng)傾向進(jìn)行糾偏，引導(dǎo)金融業(yè)AI重回“務(wù)實(shí)高效”與“業(yè)務(wù)價(jià)值”導(dǎo)向。

精細(xì)化高風(fēng)險(xiǎn)應(yīng)用準(zhǔn)入管理

《指導(dǎo)意見(jiàn)》明確，金融機(jī)構(gòu)安全開(kāi)發(fā)應(yīng)用人工智能應(yīng)該遵循四大原則：

一是堅(jiān)持誰(shuí)使用誰(shuí)負(fù)責(zé)，壓實(shí)金融機(jī)構(gòu)作為金融服務(wù)提供方、人工智能技術(shù)使用方的主體責(zé)任，明確人工智能開(kāi)發(fā)應(yīng)用各方分工和權(quán)責(zé)義務(wù)；

二是堅(jiān)持自主可控；

三是堅(jiān)持務(wù)實(shí)高效，以提升業(yè)務(wù)價(jià)值為導(dǎo)向，科學(xué)規(guī)劃人工智能開(kāi)發(fā)應(yīng)用投入，有效平衡成本與效益；

四是堅(jiān)持安全發(fā)展，嚴(yán)格落實(shí)國(guó)家網(wǎng)絡(luò)安全和信息化工作要求，遵守網(wǎng)絡(luò)安全、數(shù)據(jù)安全各項(xiàng)法律法規(guī)制度

此次《指導(dǎo)意見(jiàn)》的核心亮點(diǎn)之一，是首次提出了精細(xì)化的高風(fēng)險(xiǎn)應(yīng)用準(zhǔn)入管理，并對(duì)“高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景”進(jìn)行了清晰的界定。新規(guī)明確，涉及資金交易、資產(chǎn)評(píng)估、信貸審批、承保理賠、風(fēng)險(xiǎn)管理，以及直接影響金融合約達(dá)成的場(chǎng)景，均被列為“高風(fēng)險(xiǎn)應(yīng)用”。

銀保AI安全開(kāi)發(fā)應(yīng)用指導(dǎo)意見(jiàn)出臺(tái)

針對(duì)高風(fēng)險(xiǎn)場(chǎng)景，這類(lèi)場(chǎng)景必須經(jīng)機(jī)構(gòu)風(fēng)險(xiǎn)管理委員會(huì)批準(zhǔn)；面向公眾或高風(fēng)險(xiǎn)場(chǎng)景使用生成式AI的，必須向金融監(jiān)管總局或其派出機(jī)構(gòu)報(bào)告；在高風(fēng)險(xiǎn)應(yīng)用關(guān)鍵環(huán)節(jié)建立人工監(jiān)督和干預(yù)機(jī)制，明確緊急停用及模型退出條件。最后，涉及關(guān)鍵決策時(shí)，必須設(shè)置人工復(fù)核節(jié)點(diǎn)。

一位國(guó)有大行軟件開(kāi)發(fā)人士對(duì)界面新聞表示，《指導(dǎo)意見(jiàn)》總的來(lái)說(shuō)保持了樂(lè)觀和審慎的態(tài)度、“金融機(jī)構(gòu)還是應(yīng)該以安全為底線(xiàn)，不能完全依賴(lài)大模型做出的決策。指導(dǎo)意見(jiàn)強(qiáng)調(diào)‘誰(shuí)使用誰(shuí)負(fù)責(zé)’，并在高風(fēng)險(xiǎn)環(huán)節(jié)強(qiáng)制建立‘人工監(jiān)督和干預(yù)機(jī)制’，這意味著一旦發(fā)生系統(tǒng)性偏差或算法歧視這類(lèi)問(wèn)題，人工必須能夠‘熔斷’并接管系統(tǒng)，責(zé)任鏈條徹底閉環(huán)?！?/p>

外部引入的生成式人工智能模型需備案

《指導(dǎo)意見(jiàn)》強(qiáng)調(diào)，穩(wěn)妥探索人工智能技術(shù)研發(fā)和金融智能體建設(shè)。金融機(jī)構(gòu)對(duì)生成式人工智能模型要實(shí)施準(zhǔn)入管理，評(píng)估模型效能及安全合規(guī)性。外部引入的生成式人工智能模型需經(jīng)過(guò)網(wǎng)信部門(mén)備案。

《指導(dǎo)意見(jiàn)》明確，鼓勵(lì)大型金融機(jī)構(gòu)發(fā)揮示范作用，向中小金融機(jī)構(gòu)輸出人工智能技術(shù)和管理經(jīng)驗(yàn)。支持中小金融機(jī)構(gòu)加強(qiáng)協(xié)作，共同推進(jìn)應(yīng)用場(chǎng)景落地。鼓勵(lì)與人工智能產(chǎn)業(yè)加強(qiáng)協(xié)同，以金融應(yīng)用促進(jìn)產(chǎn)業(yè)創(chuàng)新發(fā)展，以產(chǎn)業(yè)成果促進(jìn)金融應(yīng)用提質(zhì)增效。

同時(shí)，《指導(dǎo)意見(jiàn)》也給數(shù)據(jù)安全與個(gè)人信息保護(hù)劃定了紅線(xiàn)，“姓名、身份證號(hào)、手機(jī)號(hào)、銀行卡號(hào)等個(gè)人信息和隱私數(shù)據(jù)不得用于生成式人工智能模型訓(xùn)練和優(yōu)化，有效防止客戶(hù)隱私泄露。加強(qiáng)模型安全護(hù)欄建設(shè)，加強(qiáng)內(nèi)容過(guò)濾及脫敏管理。嚴(yán)格管理外包過(guò)程中的數(shù)據(jù)安全?！?/p>

同時(shí)要求，加強(qiáng)人工智能開(kāi)發(fā)應(yīng)用中的網(wǎng)絡(luò)安全管理，加強(qiáng)對(duì)抗攻擊測(cè)試和輸出驗(yàn)證，通過(guò)數(shù)據(jù)隔離、訪問(wèn)控制等措施提升模型部署安全，持續(xù)監(jiān)控模型行為，定期掃描、修補(bǔ)人工智能模型及相關(guān)系統(tǒng)組件漏洞。

在人才培養(yǎng)方面，《指導(dǎo)意見(jiàn)》明確，加強(qiáng)監(jiān)管人才隊(duì)伍建設(shè)。金融監(jiān)管總局及派出機(jī)構(gòu)加強(qiáng)數(shù)字化、智能化培訓(xùn)，提升監(jiān)管人員數(shù)據(jù)分析和智能工具的使用能力，著力培養(yǎng)復(fù)合型監(jiān)管人才，提升與人工智能技術(shù)復(fù)雜度相匹配的風(fēng)險(xiǎn)識(shí)別、監(jiān)測(cè)和處置能力。