銀行業(yè)保險(xiǎn)業(yè)金融機(jī)構(gòu)擁抱人工智能，有了“操作手冊”。

6月18日，國家金融監(jiān)督管理總局發(fā)布《關(guān)于銀行業(yè)保險(xiǎn)業(yè)人工智能安全開發(fā)應(yīng)用的指導(dǎo)意見》（以下簡稱《指導(dǎo)意見》），從治理架構(gòu)、開發(fā)應(yīng)用、數(shù)據(jù)治理、算力建設(shè)、風(fēng)險(xiǎn)管理、能力提升、保障與監(jiān)督等方面提出了32項(xiàng)指導(dǎo)性意見。

《指導(dǎo)意見》要求開發(fā)應(yīng)用人工智能的銀行業(yè)保險(xiǎn)業(yè)金融機(jī)構(gòu)統(tǒng)籌發(fā)展和安全，推動(dòng)人工智能應(yīng)用合規(guī)、透明、可信賴，加強(qiáng)分類分級管理，有效應(yīng)對人工智能發(fā)展帶來的風(fēng)險(xiǎn)挑戰(zhàn)。同時(shí)，《指導(dǎo)意見》明確金融機(jī)構(gòu)開發(fā)應(yīng)用人工智能應(yīng)堅(jiān)持誰使用誰負(fù)責(zé)、自主可控、務(wù)實(shí)高效及安全發(fā)展的原則。

而對于金融消費(fèi)者而言，這份文件的落地將帶來哪些影響？一方面，《指導(dǎo)意見》要求金融機(jī)構(gòu)避免算法歧視等不公平性問題；另一方面，明確禁止金融機(jī)構(gòu)使用姓名、身份證號、手機(jī)號等個(gè)人信息和隱私數(shù)據(jù)進(jìn)行模型訓(xùn)練和優(yōu)化，避免隱私泄露。

鼓勵(lì)“以大帶小” 大型機(jī)構(gòu)輸出技術(shù)和經(jīng)驗(yàn)

《指導(dǎo)意見》要求完善人工智能治理架構(gòu)，包括金融機(jī)構(gòu)董（理）事會應(yīng)指定專門委員會對人工智能開發(fā)應(yīng)用管理負(fù)責(zé)、建立健全人工智能全生命周期管理體系、加強(qiáng)應(yīng)用場景和業(yè)務(wù)流程管理等。

在推進(jìn)高水平人工智能開發(fā)應(yīng)用方面，《指導(dǎo)意見》提出，金融機(jī)構(gòu)對生成式人工智能模型要實(shí)施準(zhǔn)入管理，評估模型效能及安全合規(guī)性。外部引入的生成式人工智能模型需經(jīng)過網(wǎng)信部門備案。

值得一提的是，“以大帶小”、縮小技術(shù)鴻溝，是《指導(dǎo)意見》的明確導(dǎo)向?！吨笇?dǎo)意見》鼓勵(lì)大型金融機(jī)構(gòu)發(fā)揮示范作用，向中小金融機(jī)構(gòu)輸出人工智能技術(shù)和管理經(jīng)驗(yàn)。支持中小金融機(jī)構(gòu)加強(qiáng)協(xié)作，共同推進(jìn)應(yīng)用場景落地。

在算力建設(shè)層面，“以大帶小”的思路同樣一以貫之?！吨笇?dǎo)意見》提出，按需布局建設(shè)自主可控、安全高效的智能算力底座，鼓勵(lì)有條件的大型金融機(jī)構(gòu)向中小金融機(jī)構(gòu)輸出算力服務(wù)，支持同業(yè)探索基礎(chǔ)設(shè)施共建共享。

算法再精妙，若無高質(zhì)量數(shù)據(jù)托底，亦如“巧婦難為無米之炊”。在提升數(shù)據(jù)治理能力方面，《指導(dǎo)意見》提出了多個(gè)方面的要求，例如，對于非結(jié)構(gòu)化數(shù)據(jù)的管理，要求金融機(jī)構(gòu)制定數(shù)據(jù)采集、清洗、標(biāo)注、應(yīng)用、退出管理規(guī)范；對于數(shù)據(jù)質(zhì)量，要求建立高效的質(zhì)量檢控機(jī)制，確保數(shù)據(jù)準(zhǔn)確性、相關(guān)性、一致性、完整性和無偏見。

實(shí)施風(fēng)險(xiǎn)分類分級管理 和高風(fēng)險(xiǎn)應(yīng)用準(zhǔn)入管理

人工智能在釋放技術(shù)紅利的同時(shí)，其伴生風(fēng)險(xiǎn)亦不容小覷。對此，《指導(dǎo)意見》從多個(gè)維度對金融機(jī)構(gòu)提出了要求。

《指導(dǎo)意見》要求金融機(jī)構(gòu)將人工智能風(fēng)險(xiǎn)納入全面風(fēng)險(xiǎn)管理體系，有效應(yīng)對金融業(yè)務(wù)側(cè)可能產(chǎn)生的投資策略趨同、放大市場波動(dòng)風(fēng)險(xiǎn)，嚴(yán)禁濫用人工智能技術(shù)生成虛假信息、操縱市場價(jià)格。

《指導(dǎo)意見》還提出，實(shí)施風(fēng)險(xiǎn)分類分級管理和高風(fēng)險(xiǎn)應(yīng)用準(zhǔn)入管理。所謂高風(fēng)險(xiǎn)應(yīng)用，包括涉及資金交易、資產(chǎn)評估、信貸審批、承保理賠、風(fēng)險(xiǎn)管理等，以及與客戶利益直接相關(guān)、直接影響金融合約達(dá)成的生成式人工智能場景應(yīng)用。人工智能高風(fēng)險(xiǎn)應(yīng)用須經(jīng)本機(jī)構(gòu)風(fēng)險(xiǎn)管理委員會批準(zhǔn)后方可實(shí)施。

針對日益普遍的外包合作，《指導(dǎo)意見》同樣作出了安排，要求金融機(jī)構(gòu)與外部企業(yè)開展合作時(shí)，應(yīng)建立有效的風(fēng)險(xiǎn)隔離“防火墻”，防范風(fēng)險(xiǎn)跨業(yè)傳遞。對外包合作機(jī)構(gòu)實(shí)行名單制管理，對引入的外部模型建立嚴(yán)格的內(nèi)部評估框架，有效評價(jià)模型的優(yōu)缺點(diǎn)和適配性。

身份證號、手機(jī)號等信息 不得用于模型訓(xùn)練和優(yōu)化

人工智能正加速滲透至金融核心業(yè)務(wù)，其透明度、公平性與信息安全等，直接關(guān)乎消費(fèi)者的切身利益?！吨笇?dǎo)意見》從這些維度出發(fā)，為金融機(jī)構(gòu)劃定了清晰的行為邊界。

《指導(dǎo)意見》明確，金融機(jī)構(gòu)應(yīng)加強(qiáng)人工智能應(yīng)用透明度管理，為高風(fēng)險(xiǎn)場景應(yīng)用制定透明度和可解釋性標(biāo)準(zhǔn)，明確模型設(shè)計(jì)、數(shù)據(jù)使用、特征選擇及輸出結(jié)果的邏輯。對人工智能生成內(nèi)容應(yīng)進(jìn)行顯著標(biāo)識，并向金融消費(fèi)者主動(dòng)說明。人工智能模型應(yīng)用于涉及客戶權(quán)益或有實(shí)質(zhì)性財(cái)務(wù)影響的關(guān)鍵決策時(shí)，須設(shè)置人工復(fù)核節(jié)點(diǎn)，完整保留原始數(shù)據(jù)、推理路徑及閾值觸發(fā)記錄，確保責(zé)任可追溯。

在倫理道德與公平性方面，《指導(dǎo)意見》要求金融機(jī)構(gòu)加強(qiáng)數(shù)據(jù)集審查和對特定群體的影響評估，避免算法歧視等不公平性問題。

在數(shù)據(jù)安全與個(gè)人信息保護(hù)方面，《指導(dǎo)意見》要求，規(guī)范開發(fā)過程和數(shù)據(jù)訪問權(quán)限，防范數(shù)據(jù)投毒，完善數(shù)據(jù)脫敏規(guī)范，避免使用可直接識別出個(gè)體的數(shù)據(jù)。姓名、身份證號、手機(jī)號、銀行卡號等個(gè)人信息和隱私數(shù)據(jù)不得用于生成式人工智能模型訓(xùn)練和優(yōu)化，有效防止客戶隱私泄露。加強(qiáng)模型安全護(hù)欄建設(shè)，加強(qiáng)內(nèi)容過濾及脫敏管理。嚴(yán)格管理外包過程中的數(shù)據(jù)安全。

采寫：南都灣財(cái)社記者 劉蘭蘭