6月18日，國家金融監(jiān)督管理總局發(fā)布《關(guān)于銀行業(yè)保險業(yè)人工智能安全開發(fā)應(yīng)用的指導(dǎo)意見》（下稱《指導(dǎo)意見》），從治理架構(gòu)、開發(fā)應(yīng)用、數(shù)據(jù)治理、算力建設(shè)、風(fēng)險管理、能力提升、保障與監(jiān)督等方面給金融機構(gòu)提出了32項指導(dǎo)性意見。

金融監(jiān)管總局有關(guān)司局負(fù)責(zé)人表示，研究制定《指導(dǎo)意見》的目的是規(guī)范銀行業(yè)保險業(yè)金融機構(gòu)對人工智能的開發(fā)應(yīng)用，有效防控人工智能技術(shù)應(yīng)用可能帶來的風(fēng)險，推動數(shù)字金融高質(zhì)量發(fā)展，有序推進人工智能科技創(chuàng)新與金融業(yè)務(wù)深度融合，引導(dǎo)金融領(lǐng)域人工智能應(yīng)用朝著有益、安全、公平方向健康有序發(fā)展。

《指導(dǎo)意見》明確，金融機構(gòu)開發(fā)應(yīng)用人工智能應(yīng)堅持誰使用誰負(fù)責(zé)、自主可控、務(wù)實高效及安全發(fā)展的原則。

具體來看，在完善人工智能治理架構(gòu)上，《指導(dǎo)意見》要求金融機構(gòu)加強頂層設(shè)計和統(tǒng)籌管理，建立健全人工智能全生命周期管理體系，加強應(yīng)用場景和業(yè)務(wù)流程管理。

在推進高水平人工智能開發(fā)應(yīng)用上，《指導(dǎo)意見》要求金融機構(gòu)完善開發(fā)與測評體系，實現(xiàn)模型開發(fā)部署全流程管理，穩(wěn)妥探索人工智能技術(shù)研發(fā)和金融智能體建設(shè)，促進行業(yè)應(yīng)用生態(tài)建設(shè)。

《指導(dǎo)意見》還要求金融機構(gòu)完善數(shù)據(jù)管理運營體系，提升數(shù)據(jù)服務(wù)能力，針對業(yè)務(wù)場景持續(xù)推進高質(zhì)量數(shù)據(jù)集和知識工程建設(shè)。

在加強智能算力建設(shè)方面，金融機構(gòu)要按需布局建設(shè)自主可控、安全高效的智能算力底座，鼓勵有條件的大型金融機構(gòu)向中小金融機構(gòu)輸出算力服務(wù)，支持同業(yè)探索基礎(chǔ)設(shè)施共建共享。

與此同時，《指導(dǎo)意見》還要求金融機構(gòu)完善人工智能風(fēng)險治理框架，金融機構(gòu)應(yīng)將人工智能風(fēng)險納入全面風(fēng)險管理體系，實施風(fēng)險分類分級管理和高風(fēng)險應(yīng)用準(zhǔn)入管理，在高風(fēng)險應(yīng)用關(guān)鍵環(huán)節(jié)要建立人工監(jiān)督和干預(yù)機制，加強外包和供應(yīng)鏈風(fēng)險管理。

金融機構(gòu)應(yīng)推動模型算法、數(shù)據(jù)資源、基礎(chǔ)設(shè)施、應(yīng)用系統(tǒng)等安全能力建設(shè)，完善業(yè)務(wù)及風(fēng)險管理流程，防范模型生成結(jié)果不可靠風(fēng)險，防止模型黑箱導(dǎo)致關(guān)鍵業(yè)務(wù)流程難落責(zé)問題。夯實數(shù)據(jù)安全、網(wǎng)絡(luò)安全、個人信息與隱私保護和業(yè)務(wù)連續(xù)性基礎(chǔ)。有效應(yīng)對金融業(yè)務(wù)側(cè)可能產(chǎn)生的投資策略趨同、放大市場波動風(fēng)險，嚴(yán)禁濫用人工智能技術(shù)生成虛假信息、操縱市場價格。

根據(jù)《指導(dǎo)意見》，金融機構(gòu)與外部企業(yè)開展合作時，應(yīng)建立有效的風(fēng)險隔離“防火墻”，防范風(fēng)險跨業(yè)傳遞。對外包合作機構(gòu)實行名單制管理，對引入的外部模型建立嚴(yán)格的內(nèi)部評估框架，有效評價模型的優(yōu)缺點和適配性。

在提升人工智能安全開發(fā)應(yīng)用能力上，《指導(dǎo)意見》要求金融機構(gòu)持續(xù)增強人工智能模型穩(wěn)健性，提高透明度，促進可解釋性，確保人工智能應(yīng)用符合法律法規(guī)及社會價值觀要求，加強網(wǎng)絡(luò)安全、數(shù)據(jù)安全與個人信息保護，加強運營韌性和業(yè)務(wù)連續(xù)性管理。

《指導(dǎo)意見》明確，金融監(jiān)管總局及各級派出機構(gòu)加強指導(dǎo)，積極推動人工智能技術(shù)安全開發(fā)應(yīng)用，督促轄內(nèi)金融機構(gòu)全面落實風(fēng)險治理要求。金融監(jiān)管總局及派出機構(gòu)強化對金融機構(gòu)開發(fā)應(yīng)用人工智能的監(jiān)督管理，重點加強高風(fēng)險場景應(yīng)用監(jiān)管。

附國家金融監(jiān)督管理總局關(guān)于銀行業(yè)保險業(yè)人工智能安全開發(fā)應(yīng)用的指導(dǎo)意見

各金融監(jiān)管局，各政策性銀行、大型銀行、股份制銀行、外資銀行、金融資產(chǎn)管理公司、理財公司，各保險集團（控股）公司、保險公司、保險資產(chǎn)管理公司，各金融控股公司，各總局管理單位：

為深入貫徹《中華人民共和國國民經(jīng)濟和社會發(fā)展第十五個五年規(guī)劃綱要》關(guān)于加快人工智能技術(shù)創(chuàng)新、加強人工智能治理的戰(zhàn)略部署，落實《國務(wù)院關(guān)于深入實施“人工智能+”行動的意見》，推動數(shù)字金融高質(zhì)量發(fā)展，有序推進人工智能科技創(chuàng)新與金融業(yè)務(wù)深度融合，引導(dǎo)金融領(lǐng)域人工智能應(yīng)用朝著有益、安全、公平方向健康有序發(fā)展，現(xiàn)提出如下意見。

一、總體要求

以習(xí)近平新時代中國特色社會主義思想為指導(dǎo)，完整準(zhǔn)確全面貫徹新發(fā)展理念，堅持防風(fēng)險、強監(jiān)管、促高質(zhì)量發(fā)展的工作主線，統(tǒng)籌發(fā)展和安全，加快培育發(fā)展金融行業(yè)新質(zhì)生產(chǎn)力，推動人工智能應(yīng)用合規(guī)、透明、可信賴，加強分類分級管理，有效應(yīng)對人工智能發(fā)展帶來的風(fēng)險挑戰(zhàn)，更好服務(wù)實體經(jīng)濟和滿足人民群眾需要。

堅持誰使用誰負(fù)責(zé)，壓實金融機構(gòu)作為金融服務(wù)提供方、人工智能技術(shù)使用方的主體責(zé)任，強化金融機構(gòu)內(nèi)部各環(huán)節(jié)工作責(zé)任落實，明確人工智能開發(fā)應(yīng)用各方分工和權(quán)責(zé)義務(wù)。

堅持自主可控，持續(xù)提升人工智能相關(guān)技術(shù)、設(shè)備自主可控水平，提高對業(yè)務(wù)經(jīng)營發(fā)展有重大影響的關(guān)鍵平臺、關(guān)鍵軟硬件的自主研發(fā)能力，加強信息技術(shù)應(yīng)用創(chuàng)新適配。

堅持務(wù)實高效，以提升業(yè)務(wù)價值為導(dǎo)向，科學(xué)規(guī)劃人工智能開發(fā)應(yīng)用投入，有效平衡成本與效益，推動人工智能切實服務(wù)經(jīng)濟高質(zhì)量發(fā)展和金融業(yè)務(wù)高效運轉(zhuǎn)。

堅持安全發(fā)展，嚴(yán)格落實國家網(wǎng)絡(luò)安全和信息化工作要求，遵守網(wǎng)絡(luò)安全、數(shù)據(jù)安全各項法律法規(guī)制度，強化技術(shù)安全和應(yīng)用安全保障，全面提升安全防護和應(yīng)急處置能力。

二、完善人工智能治理架構(gòu)

（一）加強人工智能安全開發(fā)應(yīng)用治理。開發(fā)應(yīng)用人工智能的銀行業(yè)保險業(yè)金融機構(gòu)（以下簡稱金融機構(gòu)），董（理）事會應(yīng)指定專門委員會對人工智能開發(fā)應(yīng)用管理負(fù)責(zé)，統(tǒng)籌制定發(fā)展規(guī)劃，推進能力體系建設(shè)，制定制度規(guī)范，明確牽頭部門和跨業(yè)務(wù)、科技、數(shù)據(jù)職能部門的協(xié)同機制，加強人才隊伍建設(shè)，遵循技術(shù)發(fā)展客觀規(guī)律，確保人工智能應(yīng)用與金融機構(gòu)風(fēng)險管理能力相匹配。

（二）建立人工智能應(yīng)用管理體系。金融機構(gòu)應(yīng)建立健全人工智能應(yīng)用需求分析、數(shù)據(jù)準(zhǔn)備、訓(xùn)練開發(fā)、部署運行、維護迭代、評估退出的全生命周期管理體系，規(guī)范模型研發(fā)、應(yīng)用及資產(chǎn)管理，加強數(shù)據(jù)安全評估、算法風(fēng)險篩查、倫理審查評估、責(zé)任追溯機制建設(shè)，實施人工智能應(yīng)用風(fēng)險分類分級管理。探索建立業(yè)務(wù)價值導(dǎo)向的人工智能應(yīng)用績效評估機制。

（三）加強人工智能應(yīng)用場景和業(yè)務(wù)流程管理。金融機構(gòu)應(yīng)按照應(yīng)用場景與技術(shù)適配原則，加強人工智能算法評估，將合適的人工智能技術(shù)應(yīng)用于適當(dāng)?shù)臉I(yè)務(wù)場景。推動人工智能在服務(wù)實體經(jīng)濟、加強金融風(fēng)險管理等領(lǐng)域發(fā)揮積極作用，穿透管控關(guān)聯(lián)交易、資金運用等重點領(lǐng)域風(fēng)險問題。完善人機協(xié)同的業(yè)務(wù)管理流程，科學(xué)設(shè)定人工智能的功能邊界、系統(tǒng)和數(shù)據(jù)權(quán)限，明確人員崗位責(zé)任，確保業(yè)務(wù)全流程管理責(zé)任清晰、可落實、可追溯。

三、推進高水平人工智能開發(fā)應(yīng)用

（四）完善開發(fā)與測評體系。鼓勵有條件的金融機構(gòu)建立一站式人工智能開發(fā)平臺，實現(xiàn)模型開發(fā)部署全流程管理。加強面向業(yè)務(wù)人員的低代碼開發(fā)、交互式模型驗證能力建設(shè)。完善人工智能測評體系，建設(shè)測試工具鏈、測評指標(biāo)和測試用例集，全面評估模型的基礎(chǔ)能力、金融業(yè)務(wù)支持能力、安全可靠性，提高自動化測評能力。

（五）推動新一代人工智能技術(shù)應(yīng)用。支持金融機構(gòu)在風(fēng)險可控的前提下，推進生成式人工智能技術(shù)的業(yè)務(wù)應(yīng)用和配套能力體系建設(shè)，穩(wěn)妥探索人工智能技術(shù)研發(fā)和金融智能體建設(shè)。金融機構(gòu)對生成式人工智能模型要實施準(zhǔn)入管理，評估模型效能及安全合規(guī)性。外部引入的生成式人工智能模型需經(jīng)過網(wǎng)信部門備案。

（六）加強人工智能運營服務(wù)體系建設(shè)。定期開展對模型效能的測評分析，構(gòu)建數(shù)據(jù)閉環(huán)反饋機制，形成“數(shù)據(jù)—模型—應(yīng)用”的迭代優(yōu)化。支持有條件的金融機構(gòu)建立企業(yè)級模型即服務(wù)（MaaS）平臺，實現(xiàn)模型在企業(yè)層面共享復(fù)用。

（七）促進行業(yè)人工智能應(yīng)用生態(tài)建設(shè)。推進人工智能金融行業(yè)應(yīng)用基礎(chǔ)設(shè)施建設(shè)，促進人工智能應(yīng)用成果在行業(yè)共享復(fù)用。鼓勵大型金融機構(gòu)發(fā)揮示范作用，向中小金融機構(gòu)輸出人工智能技術(shù)和管理經(jīng)驗。支持中小金融機構(gòu)加強協(xié)作，共同推進應(yīng)用場景落地。鼓勵與人工智能產(chǎn)業(yè)加強協(xié)同，以金融應(yīng)用促進產(chǎn)業(yè)創(chuàng)新發(fā)展，以產(chǎn)業(yè)成果促進金融應(yīng)用提質(zhì)增效。

四、提升數(shù)據(jù)治理能力

（八）完善數(shù)據(jù)管理運營體系。金融機構(gòu)要推動數(shù)據(jù)運營機制建設(shè)，建立覆蓋數(shù)據(jù)全生命周期的管理流程，提升數(shù)據(jù)服務(wù)能力。構(gòu)建企業(yè)級數(shù)據(jù)模型和數(shù)據(jù)資產(chǎn)地圖，強化元數(shù)據(jù)管理，確保數(shù)據(jù)可尋可用，不同類型的數(shù)據(jù)可兼容，數(shù)據(jù)源頭可追溯。加強對非結(jié)構(gòu)化數(shù)據(jù)的管理，制定數(shù)據(jù)采集、清洗、標(biāo)注、應(yīng)用、退出管理規(guī)范。穩(wěn)妥選擇使用技術(shù)自主、性能可靠、安全防護能力強的數(shù)據(jù)庫產(chǎn)品。

（九）建設(shè)人工智能高質(zhì)量數(shù)據(jù)集。金融機構(gòu)應(yīng)針對人工智能業(yè)務(wù)場景持續(xù)推進高質(zhì)量數(shù)據(jù)集建設(shè)，確立數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn)，建立高效的質(zhì)量檢控機制，確保數(shù)據(jù)準(zhǔn)確性、相關(guān)性、一致性、完整性和無偏見。探索運用人工智能技術(shù)強化實時數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)的動態(tài)感知、智能提取和解析處理。持續(xù)監(jiān)測數(shù)據(jù)分布漂移，確保數(shù)據(jù)集及時更新。

（十）支持行業(yè)數(shù)據(jù)集共建共享。鼓勵有條件的金融機構(gòu)協(xié)同多源數(shù)據(jù)，融合行業(yè)經(jīng)驗知識與專業(yè)判斷，通過系統(tǒng)性篩選、清洗、標(biāo)注、合成等方式形成高質(zhì)量數(shù)據(jù)集，支持金融機構(gòu)間依法合規(guī)開展數(shù)據(jù)集共享。

（十一）推進知識工程建設(shè)。支持金融機構(gòu)構(gòu)建企業(yè)級知識管理體系。堅持服務(wù)業(yè)務(wù)的價值導(dǎo)向，構(gòu)建核心知識模型，建立知識萃取、整合、共享機制流程，建立從知識創(chuàng)建、審核、發(fā)布、更新到歸檔的全流程管理規(guī)范。鼓勵利用人工智能技術(shù)提升知識萃取、表示、融合和對齊能力。

五、加強智能算力建設(shè)

（十二）加強智能算力設(shè)施建設(shè)。金融機構(gòu)應(yīng)充分依托已有算力資源基礎(chǔ)，按照國家相關(guān)政策要求，按需布局智能算力資源建設(shè)，應(yīng)用綠色低碳技術(shù)，建設(shè)自主可控、安全高效的算力底座，助力高水平科技自立自強。鼓勵有條件的大型金融機構(gòu)向中小金融機構(gòu)輸出算力服務(wù)，支持同業(yè)探索基礎(chǔ)設(shè)施共建共享。支持金融機構(gòu)在安全合規(guī)前提下，使用國家算力節(jié)點或行業(yè)基礎(chǔ)設(shè)施降低人工智能研發(fā)應(yīng)用成本，加強對智能算力資源的信息科技重要外包管理。

（十三）提高安全運行能力。金融機構(gòu)要加強智能算力資源的云化管理，加強對人工智能應(yīng)用的運行監(jiān)測，實現(xiàn)對應(yīng)用、模型、算力、網(wǎng)絡(luò)的一體化管理，保障人工智能應(yīng)用安全可靠運行。

六、完善人工智能風(fēng)險治理框架

（十四）健全風(fēng)險治理體系。金融機構(gòu)應(yīng)將人工智能風(fēng)險納入全面風(fēng)險管理體系，定期開展對人工智能應(yīng)用風(fēng)險及管理措施的評估審查。推動模型算法、數(shù)據(jù)資源、基礎(chǔ)設(shè)施、應(yīng)用系統(tǒng)等安全能力建設(shè)，完善業(yè)務(wù)及風(fēng)險管理流程，防范模型生成結(jié)果不可靠風(fēng)險，防止模型黑箱導(dǎo)致關(guān)鍵業(yè)務(wù)流程難落責(zé)問題。夯實數(shù)據(jù)安全、網(wǎng)絡(luò)安全、個人信息與隱私保護和業(yè)務(wù)連續(xù)性基礎(chǔ)。有效應(yīng)對金融業(yè)務(wù)側(cè)可能產(chǎn)生的投資策略趨同、放大市場波動風(fēng)險，嚴(yán)禁濫用人工智能技術(shù)生成虛假信息、操縱市場價格。

（十五）實施風(fēng)險分類分級管理。金融機構(gòu)應(yīng)根據(jù)業(yè)務(wù)場景重要性、應(yīng)用規(guī)模、對客影響度、模型依賴度、模型復(fù)雜度等因素，對人工智能應(yīng)用進行風(fēng)險識別和分類分級管理。建立管理制度，制定應(yīng)用清單，實施分級管控措施，落實管理責(zé)任。

（十六）強化高風(fēng)險應(yīng)用準(zhǔn)入管理。涉及資金交易、資產(chǎn)評估、信貸審批、承保理賠、風(fēng)險管理等，以及與客戶利益直接相關(guān)、直接影響金融合約達成的生成式人工智能場景應(yīng)用應(yīng)被視為高風(fēng)險應(yīng)用。人工智能高風(fēng)險應(yīng)用須經(jīng)本機構(gòu)風(fēng)險管理委員會批準(zhǔn)后方可實施。

（十七）加強高風(fēng)險應(yīng)用監(jiān)測和干預(yù)。金融機構(gòu)要加強對人工智能在業(yè)務(wù)場景中的運行監(jiān)測，及時發(fā)現(xiàn)和管控模型風(fēng)險。在高風(fēng)險應(yīng)用關(guān)鍵環(huán)節(jié)建立人工監(jiān)督和干預(yù)機制，明確緊急停用及模型退出條件，建立備用系統(tǒng)或人工替代流程。

（十八）加強外包風(fēng)險管理。使用外部人工智能技術(shù)時，金融機構(gòu)應(yīng)在外包策略、數(shù)據(jù)安全、集中度管理等方面建立管理機制，通過合同協(xié)議明確安全管理方面的權(quán)責(zé)義務(wù)，確保金融機構(gòu)能夠有效管控相關(guān)風(fēng)險。與外部企業(yè)開展合作時，應(yīng)建立有效的風(fēng)險隔離“防火墻”，防范風(fēng)險跨業(yè)傳遞。對外包合作機構(gòu)實行名單制管理，對引入的外部模型建立嚴(yán)格的內(nèi)部評估框架，有效評價模型的優(yōu)缺點和適配性。

（十九）加強供應(yīng)鏈風(fēng)險與開源技術(shù)管理。金融機構(gòu)要建立對人工智能算力、模型、數(shù)據(jù)、技術(shù)工具等的供應(yīng)鏈安全合規(guī)管理機制，確保應(yīng)用自主可控，防范對個別技術(shù)服務(wù)過度依賴引發(fā)的集中度風(fēng)險。完善開源技術(shù)使用規(guī)范，建立開源軟件管理臺賬，對外部引入的開源組件應(yīng)進行審查評估，加強代碼審計、漏洞掃描及安全測試，定期排查開源組件風(fēng)險隱患，防范供應(yīng)鏈投毒。

七、提升人工智能安全開發(fā)應(yīng)用能力

（二十）增強穩(wěn)健性。金融機構(gòu)應(yīng)確保訓(xùn)練數(shù)據(jù)集質(zhì)量、數(shù)量和分布符合建模要求，采取合適的模型架構(gòu)與訓(xùn)練策略，加強對抗樣本檢測及壓力測試，嚴(yán)格評估模型的敏感性、穩(wěn)定性、抗噪能力和容錯能力。模型部署后，持續(xù)監(jiān)測其性能表現(xiàn)，建立訓(xùn)練反饋更新機制，實現(xiàn)模型持續(xù)迭代優(yōu)化。

（二十一）提高透明度。金融機構(gòu)應(yīng)加強人工智能應(yīng)用透明度管理，為高風(fēng)險場景應(yīng)用制定透明度和可解釋性標(biāo)準(zhǔn)，明確模型設(shè)計、數(shù)據(jù)使用、特征選擇及輸出結(jié)果的邏輯。對人工智能生成內(nèi)容應(yīng)進行顯著標(biāo)識，并向金融消費者主動說明。加強模型開發(fā)、變更管理和訓(xùn)練過程記錄，日志保存期限應(yīng)不低于業(yè)務(wù)存續(xù)期。

（二十二）促進可解釋性。金融機構(gòu)應(yīng)制定人工智能模型的可解釋性方法，加強推理解釋和決策分析?？山忉屝圆蛔愕娜斯ぶ悄芗夹g(shù)在高風(fēng)險場景應(yīng)用時，僅能作為輔助工具，應(yīng)由人工進行最終決策。人工智能模型應(yīng)用于涉及客戶權(quán)益或有實質(zhì)性財務(wù)影響的關(guān)鍵決策時，須設(shè)置人工復(fù)核節(jié)點，完整保留原始數(shù)據(jù)、推理路徑及閾值觸發(fā)記錄，確保責(zé)任可追溯。定期對人工智能模型算法開展審計。

（二十三）保障倫理道德與公平性。金融機構(gòu)開發(fā)應(yīng)用人工智能應(yīng)符合法律法規(guī)及社會價值觀要求。建立人工智能開發(fā)應(yīng)用倫理審查監(jiān)測制度，制定符合倫理道德的行為準(zhǔn)則，加強數(shù)據(jù)集審查和對特定群體的影響評估，避免算法歧視等不公平性問題。使用受保護特征或?qū)傩詴r應(yīng)進行正當(dāng)性說明，刪除偏見樣本。涉及公共服務(wù)、關(guān)鍵信息基礎(chǔ)設(shè)施及影響公共安全的人工智能應(yīng)用，應(yīng)開展倫理風(fēng)險監(jiān)測評估，及時對模型運行異常情況進行處置。

（二十四）加強數(shù)據(jù)安全與個人信息保護。金融機構(gòu)應(yīng)將人工智能數(shù)據(jù)安全納入企業(yè)數(shù)據(jù)安全管理體系，嚴(yán)格落實數(shù)據(jù)分類分級保護要求。規(guī)范開發(fā)過程和數(shù)據(jù)訪問權(quán)限，防范數(shù)據(jù)投毒，完善數(shù)據(jù)脫敏規(guī)范，避免使用可直接識別出個體的數(shù)據(jù)。姓名、身份證號、手機號、銀行卡號等個人信息和隱私數(shù)據(jù)不得用于生成式人工智能模型訓(xùn)練和優(yōu)化，有效防止客戶隱私泄露。加強模型安全護欄建設(shè)，加強內(nèi)容過濾及脫敏管理。嚴(yán)格管理外包過程中的數(shù)據(jù)安全。

（二十五）提升網(wǎng)絡(luò)安全防御能力。金融機構(gòu)要加強人工智能開發(fā)應(yīng)用中的網(wǎng)絡(luò)安全管理，加強對抗攻擊測試和輸出驗證，通過數(shù)據(jù)隔離、訪問控制等措施提升模型部署安全，持續(xù)監(jiān)控模型行為，定期掃描、修補人工智能模型及相關(guān)系統(tǒng)組件漏洞，有效防范提示詞注入、思維鏈注入、多模態(tài)攻擊、上下文污染等威脅。提升智能體系統(tǒng)安全保障能力，防范數(shù)據(jù)泄露、記憶污染、身份越權(quán)、工具濫用、運行失控等安全風(fēng)險。

（二十六）加強運營韌性及業(yè)務(wù)連續(xù)性管理。金融機構(gòu)要將人工智能應(yīng)用納入業(yè)務(wù)連續(xù)性管理體系，開展業(yè)務(wù)影響分析，制定應(yīng)急預(yù)案，加強安全運行管理、事件處置和容災(zāi)能力建設(shè)。發(fā)生故障時，人工流程要及時介入或啟用備份系統(tǒng)，保障人工智能應(yīng)用穩(wěn)定性、可靠性。

八、保障與監(jiān)督

（二十七）加強督促指導(dǎo)。金融監(jiān)管總局及各級派出機構(gòu)加強指導(dǎo)，積極推動人工智能技術(shù)安全開發(fā)應(yīng)用，督促轄內(nèi)金融機構(gòu)全面落實風(fēng)險治理要求。壓實監(jiān)管部門責(zé)任，各級監(jiān)管部門要加強風(fēng)險評估和監(jiān)督檢查，重點關(guān)注相關(guān)金融業(yè)務(wù)合規(guī)風(fēng)險，督促金融機構(gòu)健全風(fēng)險治理體系，對政策落實不到位、執(zhí)行走偏等問題及時予以糾正，對違規(guī)行為嚴(yán)肅查處。

（二十八）推動建立安全應(yīng)用實施規(guī)范。金融監(jiān)管總局會同相關(guān)部門積極推動構(gòu)建銀行業(yè)保險業(yè)生成式人工智能安全開發(fā)應(yīng)用技術(shù)框架，規(guī)范分類分級管理，明確安全開發(fā)標(biāo)準(zhǔn)規(guī)范，引導(dǎo)金融機構(gòu)有效提升人工智能應(yīng)用安全開發(fā)水平。

（二十九）加強風(fēng)險監(jiān)測與應(yīng)對處置。金融機構(gòu)面向公眾服務(wù)或高風(fēng)險場景應(yīng)用使用生成式人工智能技術(shù)的，應(yīng)向金融監(jiān)管總局或其派出機構(gòu)報告。金融監(jiān)管總局及派出機構(gòu)建立監(jiān)測預(yù)警與處置機制，優(yōu)化風(fēng)險監(jiān)測預(yù)警指標(biāo)體系，加強分析處置，完善監(jiān)管工具方法，督促金融機構(gòu)做好事前、事中、事后全鏈條風(fēng)險防控，加強網(wǎng)絡(luò)安全、數(shù)據(jù)安全等風(fēng)險事件復(fù)盤分析，督促金融機構(gòu)改進優(yōu)化防御體系，聚焦對客服務(wù)、高風(fēng)險應(yīng)用場景制定風(fēng)險應(yīng)急預(yù)案，提升應(yīng)急響應(yīng)能力。做好跨部門合作協(xié)調(diào)，形成合力，避免信息孤島，防范系統(tǒng)性風(fēng)險。

（三十）建立監(jiān)管定期評估機制。金融監(jiān)管總局及派出機構(gòu)強化對金融機構(gòu)開發(fā)應(yīng)用人工智能的監(jiān)督管理，重點加強高風(fēng)險場景應(yīng)用監(jiān)管。建立對監(jiān)管政策和監(jiān)管效果的年度評估機制，持續(xù)提高監(jiān)管適配能力。

（三十一）加強監(jiān)管人才隊伍建設(shè)。金融監(jiān)管總局及派出機構(gòu)加強數(shù)字化、智能化培訓(xùn)，提升監(jiān)管人員數(shù)據(jù)分析和智能工具的使用能力，著力培養(yǎng)復(fù)合型監(jiān)管人才，提升與人工智能技術(shù)復(fù)雜度相匹配的風(fēng)險識別、監(jiān)測和處置能力。

（三十二）促進行業(yè)交流。鼓勵加強人工智能領(lǐng)域溝通交流，通過經(jīng)驗分享、培訓(xùn)研討、技能競賽、案例宣傳等方式，營造人工智能發(fā)展的良好文化氛圍。行業(yè)自律組織應(yīng)發(fā)揮橋梁紐帶作用，促進行業(yè)經(jīng)驗交流。

國家金融監(jiān)督管理總局

2026年6月18日

（此件發(fā)至金融監(jiān)管分局與地方法人銀行保險機構(gòu)）