Snowflake的英國與愛爾蘭地區(qū)副總裁在IT決策者圈子里一針見血——那些光鮮的AI工具，內里多半是個黑盒，答案漂亮，路子不明。他攤開手對客戶說：“我們買的不是魔術，但看的卻是魔術效果?！?這句話背后，是2022年11月ChatGPT炸場后一個老生常談卻沒解決的死結：企業(yè)砸錢用了預訓練大模型，卻既不知道數(shù)據(jù)從哪來，也不清楚推理怎么走，更沒法向合規(guī)審計交代。

麥肯錫的調研甩出一個尷尬數(shù)字：40%的組織把“可解釋性”列為AI信任的頭號攔路虎。 換句話說，每十家想拿AI干活的企業(yè)里，四家卡在“這結論怎么來的”這道門口。但夠諷刺的是，同一份報告里，只有17%的受訪者說自己在動手解決可解釋性問題。大多數(shù)人的動作是——買來黑盒，先用著，風險往后排。這種心態(tài)在金融風控、醫(yī)療診斷、雇傭評估這些高風險場景里，無異于閉眼開車。

第一波AI落地策略的裂縫，其實從開局就埋下了。ChatGPT改寫世界那一刻，訓練大模型的壁壘高得離譜，推理顯卡價比黃金，所以企業(yè)清一色抄捷徑：采購科技巨頭的API、直接調預訓練服務，省下訓練成本，時間換市場。但這些模型吃的不是企業(yè)的本地數(shù)據(jù)，不會自動貼合業(yè)務語境，給出來的東西像套版公文——格式工整，細節(jié)錯位。更要命的是，外部模型內部發(fā)生了什么，廠商不解釋、日志不給、參數(shù)不開，企業(yè)IT部門只能猜。

跟一群技術負責人談完，你會發(fā)現(xiàn)他們嘴里的關鍵詞出奇一致：合規(guī)、倫理、競爭力隱患。一個客服聊天機器人可能對特定口音的用戶回答更冷淡，一個簡歷篩選系統(tǒng)可能把某些地名大學隱式降權——模型自己沒說為什么，因為它就是個黑盒。這些有毒偏見和歧視一旦落地，對人的傷害是即時的、有后果的，不是PPT里的風險條目。最終結果嘛，企業(yè)不敢把AI往核心業(yè)務推，使用場景被鎖死在“非關鍵輔助”，AI投資的回報天花板被人為壓低。

透明化不是哲學題，是工程清單。就像學術圈的行規(guī)——論文必須列參考文獻，推導必須可復現(xiàn)——AI系統(tǒng)也得把“展示工作”當成基本出廠設置。CIO、開發(fā)者、業(yè)務方的三角鐵 鏈得拉起來：開發(fā)者要看清模型權重怎么響應的、數(shù)據(jù)切片在哪個環(huán)節(jié)被放大了偏差；CIO要能在審計現(xiàn)場翻得出模型決策日志；最終用戶應該能對著系統(tǒng)問一句“你憑啥給這個建議”，并得到一個說得通的回應。這三點不解決，企業(yè)談的“AI賦能”更像外包迷信。

怎么把黑盒變白？新工具和法規(guī)其實已經擺上臺面。模型可解釋性框架、注意力權重可視化、反事實解釋算法，這些技術不是概念，是現(xiàn)成的輪子。監(jiān)管方面對算法問責的要求也在收緊，要求在信貸、保險、招聘等場景里提供拒絕原因的解釋文本。這跟管理員工沒兩樣：你招一個AI進流程，得看它的工作記錄、績效曲線、出錯模式。你不監(jiān)控一個人，怎么敢把公章交給他？對AI系統(tǒng)也是同理。

在跟企業(yè)的真實對話中，能聽出那種分裂感：一邊承認可解釋性是命門，一邊按兵不動。背后的盤算不復雜——加一層解釋層，要投入工程資源，要拖慢響應延遲，要翻新現(xiàn)有數(shù)據(jù)管道，短期ROI算不過來。但等到第一個因算法歧視惹上的集體訴訟擺到法務桌上，等待成本可比工程成本貴幾個量級。麥肯錫的報告其實把答案攤開了：能提供更高可解釋性的系統(tǒng)，會是AI從試驗型小規(guī)模部署躍遷到企業(yè)全量推廣的關鍵推手，而這一步跳不過去。

透明這件事，早不是可選項，是續(xù)費企業(yè)信任的年費。別等審計敲門那天，才發(fā)現(xiàn)手里除了幾個接口憑證，拿不出一份像樣的模型行為報告。