導(dǎo)語

集智俱樂部、集智學(xué)園創(chuàng)始人，北京師范大學(xué)張江教授開設(shè)了，致力于打破學(xué)科壁壘，將復(fù)雜系統(tǒng)與人工智能深度融合。從神經(jīng)網(wǎng)絡(luò)到因果推斷，從世界模型到多尺度建模，甚至包含最前沿的“氛圍編程（Vibe Coding）”實戰(zhàn)，帶你親手落地AI項目。

作為系列課程的第十一講，張江教授將以「因果學(xué)習(xí)與模型可解釋性」為題，在因果學(xué)習(xí)部分，教你用算法從數(shù)據(jù)中自動還原因果圖，并從高維觀測中提取因果變量；在可解釋性部分，解剖大模型，追蹤內(nèi)部信息流，甚至可以用數(shù)學(xué)方法植入或抹除它的某個特定想法。正式分享將于5月25日（周一）13:30-16:15騰訊會議線上直播，北師大海淀區(qū)線下授課（助教可協(xié)助入校）。

課程簡介

Anthropic 分析 Claude 內(nèi)部推理時使用的電路追蹤框架，可以溯源到本節(jié)課程講解的內(nèi)容：因果學(xué)習(xí)與模型可解釋性。

課程分兩部分推進。第一部分建立因果機器學(xué)習(xí)理論基礎(chǔ)：從Pearl因果層級（關(guān)聯(lián)→干預(yù)→反事實）與結(jié)構(gòu)因果模型（SCM）出發(fā)，引入獨立因果機制原則和稀疏機制偏移假設(shè)，推導(dǎo)PC算法從條件獨立性測試中恢復(fù)因果圖的完整流程；進而講解因果表征學(xué)習(xí)，涵蓋線性ICA可辨識性理論、時間對比學(xué)習(xí)（TCL）對非線性ICA的突破、以及iVAE將可辨識性引入變分自編碼器；最后以不變因果預(yù)測（ICP）與穩(wěn)定學(xué)習(xí)作為落地應(yīng)用。第二部分聚焦大語言模型可解釋性：從Transformer電路框架出發(fā)，介紹電路追蹤與歸因圖；再到表示工程；最后覆蓋SelfIE與Patchscopes等自解釋框架。

學(xué)完本節(jié)內(nèi)容，你可以獨立運行PC算法、理解ICA類因果表征方法的可辨識性條件，并掌握用LAT干預(yù)語言模型內(nèi)部狀態(tài)的實操路徑。

課程大綱

1. Causal Learning

   1. Causal Machine Learning: Background and Principles

   2. Causal Discovery

   3. Causal Representation Learning

2. Model Interpretability

關(guān)鍵術(shù)語

• 結(jié)構(gòu)因果模型（SCM）：將數(shù)據(jù)生成過程形式化為帶外生噪聲的方程組，支持干預(yù)與反事實推理

• d-分離：DAG中判斷兩變量在給定條件集下條件獨立的圖形化準則

• Markov等價類：產(chǎn)生相同條件獨立關(guān)系的一組DAG，PC算法僅能恢復(fù)到此級別

• 獨立因果機制（ICM）原則：不同因果變量的生成機制相互獨立，局部干預(yù)不影響其余機制

• 時間對比學(xué)習(xí)（TCL）：利用時間分段信息解決非線性ICA可辨識性問題的方法

• iVAE：通過輔助觀測變量（如時間或領(lǐng)域標(biāo)簽）使VAE潛變量滿足可辨識性條件

• 殘差流：Transformer中信息在各層間傳遞的主干，所有組件以并行加法讀寫同一向量

• 表示工程（RepE）：通過讀取和控制模型內(nèi)部表示空間來干預(yù)模型行為，無需修改權(quán)重

• 線性人工層析成像（LAT）：對比正負刺激激活差異提取概念方向向量，用于行為監(jiān)控與控制

課程信息

課程主題：因果學(xué)習(xí)與模型可解釋性

課程時間：2026年5月25日（周一） 13:30-16:15

課程形式：騰訊會議（會議信息見群內(nèi)通知）/北師大海淀區(qū)線下授課（助教可協(xié)助入校）；集智學(xué)園網(wǎng)站錄播（3個工作日內(nèi)上線）

課程主講人

張江，北京師范大學(xué)系統(tǒng)科學(xué)學(xué)院教授，集智俱樂部、集智學(xué)園創(chuàng)始人，集智科學(xué)研究中心理事長，曾任騰訊研究院、華為戰(zhàn)略研究院等特聘顧問。主要研究領(lǐng)域包括因果涌現(xiàn)、復(fù)雜系統(tǒng)分析與建模、規(guī)模理論等。

個人主頁：https://jake.swarma.org/

課程適用對象

1. 理工科背景高年級本科生

2. 理工科背景碩士、博士研究生

報名須知

1. 課程形式：

1. 參與方式：付費學(xué)員可參與騰訊會議直播/北師大海淀區(qū)線下授課（助教可協(xié)助入校）

2. 授課形式：

1. 平時：課堂討論與內(nèi)容共創(chuàng)

2. 結(jié)課：項目匯報

2. 課程周期：2026年3月2日-2026年6月22日，每周一 13:30-16:15進行。

3. 課程定價：399元

課程鏈接：https://campus.swarma.org/v3/course/5684?from=wechat

付費流程：

2. 課程頁面添加學(xué)員登記表，添加助教微信入群；

3. 課程可開發(fā)票。

課程共創(chuàng)任務(wù)：課程字幕

為鼓勵學(xué)員深度參與、積極探索，我們致力于形成系列化知識傳播成果，并構(gòu)建課程知識共建社群。為此，我們特別設(shè)立激勵機制，讓您的學(xué)習(xí)之旅滿載收獲與成就感。

課程以老師講授為主，每期結(jié)束后，助教會于課程群內(nèi)發(fā)布字幕共創(chuàng)任務(wù)。學(xué)員通過參與這些任務(wù)，不僅能加深對內(nèi)容的理解，還可獲得積分獎勵。積分可兌換其他讀書會課程或?qū)嵨铼勂罚δ某掷m(xù)成長。

推薦課程

參考課程

1. 吳恩達：Build with Andrew https://www.deeplearning.ai/courses/build-with-andrew/

2. Jure Leskovec: Machine Learning with Graphs, StanfordCS224W.https://www.youtube.com/playlist?list=PLoROMvodv4rPLKxIpqhjhPgdQy7imNkDn

3. Steve Brunton: Data Driven Science and Engineering, University of Washingtonhttps://www.youtube.com/playlist?list=PLMrJAkhIeNNRpsRhXTMt8uJdIGz9-X_1-

4. Karthik Duraisamy: DATA-DRIVEN ANALYSIS AND MODELING OF COMPLEX SYSTEMS, Michigen institute for computational discovery and engineering, Michigen University.https://micde.umich.edu/academic-programs-old/data-driven-course/

5. Sergey Levine: Deep Reinforcement Learning, CS 285 at UC Berkeley.http://rail.eecs.berkeley.edu/deeprlcourse/

【集智學(xué)園網(wǎng)站資源】

1. 對復(fù)雜系統(tǒng)連續(xù)變化自動建?！狽eural Ordinary Differential Equations解讀https://campus.swarma.org/course/2046

2. 復(fù)雜網(wǎng)絡(luò)自動建模在大氣污染中的應(yīng)用https://campus.swarma.org/course/1998

3. 兩套因果框架深度剖析：潛在結(jié)果模型與結(jié)構(gòu)因果模型https://campus.swarma.org/course/2526

4. 穩(wěn)定學(xué)習(xí)：發(fā)掘因果推理和機器學(xué)習(xí)的共同基礎(chǔ)https://campus.swarma.org/course/2323

5. 因果強化學(xué)習(xí)https://campus.swarma.org/course/2156

6. 張江：因果與機器學(xué)習(xí)能夠破解涌現(xiàn)之謎嗎https://campus.swarma.org/course/4540

7. 因果涌現(xiàn)理論提出者：Erik Hoel主題報告https://campus.swarma.org/course/4317

8. 如何從數(shù)據(jù)中發(fā)現(xiàn)因果涌現(xiàn)——神經(jīng)信息壓縮器https://campus.swarma.org/course/4874

9. 標(biāo)準化流技術(shù)簡介https://campus.swarma.org/course/1999

10. 帶隱狀態(tài)的強化學(xué)習(xí)世界模型https://campus.swarma.org/course/4848