個(gè)人信息和隱私數(shù)據(jù)不得用于生成式人工智能模型訓(xùn)練和優(yōu)化。

6月18日，金融監(jiān)管總局發(fā)布《關(guān)于銀行業(yè)保險(xiǎn)業(yè)人工智能安全開(kāi)發(fā)應(yīng)用的指導(dǎo)意見(jiàn)》，對(duì)銀行業(yè)保險(xiǎn)業(yè)金融機(jī)構(gòu)（下稱“金融機(jī)構(gòu)”）開(kāi)發(fā)應(yīng)用人工智能作出專項(xiàng)規(guī)范。明確界定了金融機(jī)構(gòu)應(yīng)用生成式人工智能的高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景，涉及資金交易、資產(chǎn)評(píng)估、信貸審批、承保理賠、風(fēng)險(xiǎn)管理等方面。

在鼓勵(lì)機(jī)構(gòu)提升人工智能開(kāi)發(fā)應(yīng)用能力同時(shí)，《意見(jiàn)》還對(duì)數(shù)據(jù)安全、個(gè)人信息保護(hù)等劃定了清晰“紅線”，明確要求姓名、身份證號(hào)、手機(jī)號(hào)、銀行卡號(hào)等個(gè)人信息和隱私數(shù)據(jù)不得用于生成式人工智能模型訓(xùn)練和優(yōu)化，有效防止客戶隱私泄露。

需指定專門(mén)委員會(huì)管理AI開(kāi)發(fā)應(yīng)用

當(dāng)前，金融行業(yè)正加快人工智能應(yīng)用場(chǎng)景落地，形成了一些應(yīng)用實(shí)踐基礎(chǔ)。從近期在上海開(kāi)幕的2026中國(guó)國(guó)際金融展即可管窺一二——無(wú)論國(guó)有大行、股份行還是區(qū)域城商行，均展示了全行層面的人工智能頂層規(guī)劃與落地實(shí)踐，人工智能業(yè)已成為驅(qū)動(dòng)業(yè)務(wù)升級(jí)的核心主線。

“（制定《意見(jiàn)》）目的是規(guī)范金融機(jī)構(gòu)對(duì)人工智能的開(kāi)發(fā)應(yīng)用，有效防控人工智能技術(shù)應(yīng)用可能帶來(lái)的風(fēng)險(xiǎn)，推動(dòng)數(shù)字金融高質(zhì)量發(fā)展，有序推進(jìn)人工智能科技創(chuàng)新與金融業(yè)務(wù)深度融合，引導(dǎo)金融領(lǐng)域人工智能應(yīng)用朝著有益、安全、公平方向健康有序發(fā)展?！苯鹑诒O(jiān)管總局有關(guān)司局負(fù)責(zé)人稱。

在落地過(guò)程中，《意見(jiàn)》首先從機(jī)構(gòu)治理層面入手，要求金融機(jī)構(gòu)的董（理）事會(huì)應(yīng)指定專門(mén)委員會(huì)對(duì)人工智能開(kāi)發(fā)應(yīng)用管理負(fù)責(zé)；在具體應(yīng)用中，明確金融機(jī)構(gòu)要建立人工智能全生命周期管理體系，實(shí)施人工智能應(yīng)用風(fēng)險(xiǎn)分類分級(jí)管理，推動(dòng)人工智能在服務(wù)實(shí)體經(jīng)濟(jì)、加強(qiáng)金融風(fēng)險(xiǎn)管理等領(lǐng)域發(fā)揮積極作用，穿透管控關(guān)聯(lián)交易、資金運(yùn)用等重點(diǎn)領(lǐng)域風(fēng)險(xiǎn)問(wèn)題。

明確界定高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景

推動(dòng)金融機(jī)構(gòu)完善人工智能風(fēng)險(xiǎn)治理框架是本次《意見(jiàn)》規(guī)范的重點(diǎn)內(nèi)容。不僅要求金融機(jī)構(gòu)將人工智能風(fēng)險(xiǎn)納入全面風(fēng)險(xiǎn)管理體系、實(shí)施風(fēng)險(xiǎn)分類分級(jí)管理和高風(fēng)險(xiǎn)應(yīng)用準(zhǔn)入管理，還要求在高風(fēng)險(xiǎn)應(yīng)用關(guān)鍵環(huán)節(jié)要建立人工監(jiān)督和干預(yù)機(jī)制，加強(qiáng)外包和供應(yīng)鏈風(fēng)險(xiǎn)管理。

《意見(jiàn)》指出，金融機(jī)構(gòu)應(yīng)有效應(yīng)對(duì)金融業(yè)務(wù)側(cè)可能產(chǎn)生的投資策略趨同、放大市場(chǎng)波動(dòng)風(fēng)險(xiǎn)，嚴(yán)禁濫用人工智能技術(shù)生成虛假信息、操縱市場(chǎng)價(jià)格。

同時(shí)，《意見(jiàn)》還對(duì)“高風(fēng)險(xiǎn)應(yīng)用”作出明確界定——涉及資金交易、資產(chǎn)評(píng)估、信貸審批、承保理賠、風(fēng)險(xiǎn)管理等，以及與客戶利益直接相關(guān)、直接影響金融合約達(dá)成的生成式人工智能場(chǎng)景應(yīng)用應(yīng)被視為高風(fēng)險(xiǎn)應(yīng)用。

《意見(jiàn)》規(guī)定，這些高風(fēng)險(xiǎn)應(yīng)用須經(jīng)由相應(yīng)金融機(jī)構(gòu)的風(fēng)險(xiǎn)管理委員會(huì)批準(zhǔn)后方可實(shí)施。在高風(fēng)險(xiǎn)應(yīng)用關(guān)鍵環(huán)節(jié)，應(yīng)建立人工監(jiān)督和干預(yù)機(jī)制，明確緊急停用及模型退出條件，建立備用系統(tǒng)或人工替代流程。此外，金融機(jī)構(gòu)面向公眾服務(wù)或高風(fēng)險(xiǎn)場(chǎng)景應(yīng)用使用生成式人工智能技術(shù)的，應(yīng)向金融監(jiān)管總局或其派出機(jī)構(gòu)報(bào)告。

機(jī)構(gòu)提升安全開(kāi)發(fā)能力，需關(guān)注什么？

金融監(jiān)管總局有關(guān)司局負(fù)責(zé)人強(qiáng)調(diào)，金融機(jī)構(gòu)應(yīng)構(gòu)建兼具安全性、透明度與責(zé)任可追溯的人工智能應(yīng)用能力體系，統(tǒng)籌風(fēng)險(xiǎn)防控與業(yè)務(wù)發(fā)展。具體關(guān)注點(diǎn)包括增強(qiáng)穩(wěn)健性、提高透明度、促進(jìn)可解釋性、保障倫理道德與公平性、加強(qiáng)數(shù)據(jù)安全與個(gè)人信息保護(hù)、提升網(wǎng)絡(luò)安全防御能力、加強(qiáng)運(yùn)營(yíng)韌性及業(yè)務(wù)連續(xù)性管理等7個(gè)方面。

根據(jù)公開(kāi)消息，去年6月金融監(jiān)管總局科技監(jiān)管司在2025年中國(guó)網(wǎng)絡(luò)文明大會(huì)個(gè)人信息保護(hù)分論壇上作主題演講時(shí)曾指出，個(gè)人信息保護(hù)是金融業(yè)網(wǎng)絡(luò)數(shù)據(jù)安全監(jiān)管工作的重要內(nèi)容，金融監(jiān)管總局將進(jìn)一步完善金融領(lǐng)域個(gè)人信息保護(hù)要求,有序開(kāi)展監(jiān)督檢查和事件處置，持續(xù)做好消費(fèi)者宣傳教育,切實(shí)保護(hù)個(gè)人信息安全。

從個(gè)人信息保護(hù)這個(gè)角度來(lái)看，《意見(jiàn)》同樣劃定了清晰、明確的安全底線。即要求金融機(jī)構(gòu)應(yīng)將人工智能數(shù)據(jù)安全納入企業(yè)數(shù)據(jù)安全管理體系，嚴(yán)格落實(shí)數(shù)據(jù)分類分級(jí)保護(hù)要求；規(guī)范開(kāi)發(fā)過(guò)程和數(shù)據(jù)訪問(wèn)權(quán)限，防范數(shù)據(jù)投毒，完善數(shù)據(jù)脫敏規(guī)范，避免使用可直接識(shí)別出個(gè)體的數(shù)據(jù)。

《意見(jiàn)》強(qiáng)調(diào)，姓名、身份證號(hào)、手機(jī)號(hào)、銀行卡號(hào)等個(gè)人信息和隱私數(shù)據(jù)不得用于生成式人工智能模型訓(xùn)練和優(yōu)化，有效防止客戶隱私泄露；金融機(jī)構(gòu)應(yīng)加強(qiáng)模型安全護(hù)欄建設(shè)，加強(qiáng)內(nèi)容過(guò)濾及脫敏管理；嚴(yán)格管理外包過(guò)程中的數(shù)據(jù)安全。

金融監(jiān)管總局等將構(gòu)建銀行業(yè)保險(xiǎn)業(yè)生成式AI安全開(kāi)發(fā)應(yīng)用技術(shù)框架

金融監(jiān)管總局局長(zhǎng)丁向群日前在陸家嘴論壇開(kāi)幕式上談及嚴(yán)監(jiān)管強(qiáng)監(jiān)管時(shí)指出，要以能力建設(shè)為支撐，著眼機(jī)構(gòu)全周期、業(yè)務(wù)全鏈條、風(fēng)險(xiǎn)全過(guò)程監(jiān)管，注重科技賦能，加快“金監(jiān)工程”建設(shè)，不斷完善監(jiān)管“工具箱”，持續(xù)提升監(jiān)管質(zhì)效。

金融機(jī)構(gòu)的人工智能應(yīng)用能力提升同時(shí)，也對(duì)監(jiān)管部門(mén)提出了新的要求?！兑庖?jiàn)》明確，各級(jí)監(jiān)管部門(mén)要重點(diǎn)關(guān)注相關(guān)金融業(yè)務(wù)合規(guī)風(fēng)險(xiǎn)，督促金融機(jī)構(gòu)健全風(fēng)險(xiǎn)治理體系，對(duì)政策落實(shí)不到位、執(zhí)行走偏等問(wèn)題及時(shí)予以糾正，對(duì)違規(guī)行為嚴(yán)肅查處。

同時(shí)，金融監(jiān)管總局將會(huì)同相關(guān)部門(mén)推動(dòng)構(gòu)建銀行業(yè)保險(xiǎn)業(yè)生成式人工智能安全開(kāi)發(fā)應(yīng)用技術(shù)框架，規(guī)范分類分級(jí)管理，明確安全開(kāi)發(fā)標(biāo)準(zhǔn)規(guī)范，引導(dǎo)金融機(jī)構(gòu)有效提升人工智能應(yīng)用安全開(kāi)發(fā)水平。

金融監(jiān)管總局及派出機(jī)構(gòu)將優(yōu)化風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警指標(biāo)體系，加強(qiáng)分析處置，完善監(jiān)管工具方法，督促金融機(jī)構(gòu)聚焦對(duì)客服務(wù)、高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景制定風(fēng)險(xiǎn)應(yīng)急預(yù)案，提升應(yīng)急響應(yīng)能力；做好跨部門(mén)合作協(xié)調(diào)，形成合力，避免信息孤島，防范系統(tǒng)性風(fēng)險(xiǎn)；建立監(jiān)管定期評(píng)估機(jī)制，重點(diǎn)加強(qiáng)高風(fēng)險(xiǎn)場(chǎng)景應(yīng)用監(jiān)管，持續(xù)提高監(jiān)管適配能力。

此外，還將加強(qiáng)監(jiān)管隊(duì)伍建設(shè)，著力培養(yǎng)復(fù)合型監(jiān)管人才，提升人工智能風(fēng)險(xiǎn)識(shí)別、監(jiān)測(cè)和處置能力。

校對(duì)：趙燕