sciwork 2026

打開 AI 的黑盒子:機制可解釋性(Mechanistic Interpretability)的最新進展
2026-12-05, 09:40–10:10 (UTC), 402

這場演講將帶您穿透 LLM 黑箱,探索機制可解釋性(MI)的最新進展,它本質上是一項結合多個研究領域的挑戰。我們將援引各個假說來剖析模型內部的概念運作,討論如何近似手術般精準去觀察、操控模型,並理性展望延伸問題。


這場演講將帶您穿透 LLM 黑箱,探討「機制可解釋性(MI)」的最新進展。這本質上是一場結合電腦科學、數學、神經科學與語言學的跨領域挑戰。

面對高維空間中的幾何疊加態(superposition),研究社群正從多個層次提出假說——從單一概念的線性表徵(linear representations)、低維子空間(subspaces)的幾何流形(geometry of concepts;manifolds),到動態計算的神經迴路(circuits)與吸引子山谷(attractor basins)。這些假說並非互斥,而是層層交織成理解心智的拓撲地圖。

我們將剖析模型內部的概念運作,從「理論通則和單例事實,在模型內是如何被表徵(represented)?」、「能否為模型推理做出有語意的、概念化的解釋,而非停留在矩陣運算?甚至說明它跨領域類比能力如此強大?」這樣的問題出發,引用各個假說嘗試做出說明,也討論當下技術如何實現精準的模型觀察與操控,並理性反思相關的延伸問題,例如:LLM 的程式開發能力為何如此卓越。