資料再多也學不會因果：為什麼 AI 畫不對「貓把花瓶推下桌」

🐈 三張畫錯的圖：AI 兌現了錯的東西

2026 年 9 月，UCLA 純數與應用數學研究所（IPAM）的「可解釋性基礎」工作坊上，Columbia 大學因果 AI 實驗室主持人 Elias Bareinboim 開場先放了一張照片：桌上有貓、有花瓶、有一塊墊子。他問生成式模型一個反事實問題：「如果貓把花瓶推下桌，會怎樣？」生成的圖裡，花瓶摔碎了，墊子卻不見了——提示詞完全沒提到墊子。另外兩組：

• 檯燈：插頭沒插，問「如果把開關打開」——GPT Image 和 Nano Banana 都畫出亮著的燈。
• 可樂瓶：問「如果可樂瓶被打翻」——Nano Banana 把瓶蓋拿掉，讓可樂灑在漂亮的地毯上。「我根本沒要求拿掉瓶蓋。」

講者說這種圖他手上有好幾百張。10 歲小孩一看就知道兩張圖兜不起來，最強的 AI 卻看不出來。他的解讀：「推花瓶下桌」和「有東西摔碎」、「開關打開」和「燈亮」、「打翻」和「灑在地毯上」之間都有很強的相關。模型靠挖掘海量相關訓練出來，生成時非把這個訊號兌現不可，於是繞了一圈去兌現它。「這是它唯一有的訊號。它並不懂這個世界。」

Bareinboim 先肯定這一代 AI 的成績，再引 Ilya Sutskever（光靠放大規模不夠）、Yann LeCun（只靠規模做不出理解世界的系統）、Yoshua Bengio（少了因果理解，系統會壞得讓人料不到）的話，接著列出五個老毛病：講不出解釋、容易做出不公平的決定、太吃資料、換個環境就垮、難以控制。這是一袋各自獨立的問題嗎？他抱持多年的假說是：這些難題的核心，是缺少對世界穩固的因果理解——這些系統背後沒有因果模型，「它們連試都沒試」。

🪜 看、動手做、想像：Pearl 的三層因果階梯

Bareinboim 從 Turing 的一句話講起：我們要的是「能從經驗中學習的機器」。但「經驗」至少有三種：看（雙手背在後面，看世界自然發生——他估計今天的資料 99% 是這種）、動手做（跳進系統裡改變一些東西，從結果學習）、想像（在腦中演練現實的不同版本）。

三種經驗對應三層問題。Bareinboim 與合作者為了向他的博士指導教授 Judea Pearl（把因果推論寫成數學、拿到圖靈獎的那位）致敬，把它命名為 Pearl 因果階層（Pearl Causal Hierarchy，PCH）；Pearl 在《The Book of Why》裡叫它因果階梯。講者說，因果是計算與樣本之外的第三個維度：「就算我有全世界的算力、樣本數也夠，在因果問題上還是一公釐都動不了。」

第一層・看，P(y | x)：看到 X＝x，我對 Y 的判斷怎麼變。90 年代的貝氏網路、2000 年代的深度神經網路、今天的 Transformer，全部都在算這種式子，只是 x 變成十億維的一長串序列、y 是下一個 token。「這非常不簡單。但還是要看清楚：它做的就是這件事。」

第二層・動手做，P(y | do(x), c)。關鍵是多出來的 do：「看到 X＝x」是從資料裡挑出 X 剛好等於 x 的那些；「do(X＝x)」是你伸手把 X 設成 x，不管它本來會是多少。機器學習裡對應的是一種很特定的強化學習。

第三層・想像。Joe 吃了藥（x′），後來過世了（y′）；假如他當初沒吃藥（x），還會活著嗎（y）？這一層連原則上都取樣不到——Joe 已經走了，「除非能時光旅行」。但它極有意義：若能說「當初沒吃，Joe 有 97% 的機率會活著」，就能提告、能確定是藥造成的。功勞、責怪、責任都是這一層的問題，《The Book of Why》的「Why」也是。講者強調，一旦有了因果模型，三層的每個量都有確定的真值；怎麼從資料逼近它，是另一回事。

🎨 彩色數字：同一個問題，三層三種答案

為了讓三層具體一點，Bareinboim 畫了一個小小的因果模型：有顏色、有數字，拍一張照就得到一張小影像。這個世界裡 0 偏紅、5 偏青，因為兩者背後藏著一個沒觀察到的變數 U——U 先抽出一個值，再同時決定數字和顏色。對同一個問題「0 是什麼顏色？」，三層各取樣一次：第一層挑出數字是 0 的圖；第二層從外面伸手進去把數字設成 0，對顏色來說等於把 U 的各種值平均過一遍，「這就是介入分布，跟條件分布完全不同」；第三層拿一張原本是 5 的圖，在同一組 U 底下問「當初若是 0」——自然狀況下幾乎不會出現的圖。

難處就在這裡：Step 00 那五個老毛病，相關的問題大多在第二、三層，手上的資料卻幾乎都是第一欄。因果的數學研究的，就是怎麼用第一欄的資料，對長得完全不同的第二、三欄下結論。講者列了因果 AI 該有的五種能力（解釋、決策、類推、因果一致的生成、學出因果結構），這場只展開兩種：反事實生成（貓、檯燈、可樂瓶）與因果解釋（Step 04、Step 05）。

🧱 資料再多也爬不上去：因果階層定理

回到那隻貓。現實底下有一組觀察不到的機制，Bareinboim 稱為真正的因果模型 M*，它生出整套 PCH：一個觀察分布（投影片上的紅色）、指數多個介入分布（黃色）、更大指數個反事實分布（綠色）。在 AI 裡我們幾乎只看得到紅色。我們搭一個神經網路模型 M-hat，訓練到它模仿出紅色——「花掉幾個博士生的人生」——就說：很好，可以了。

可是問到它沒見過的介入呢？他稱之為生成式 AI 的根本問題：M-hat 的推論在什麼條件下成立？什麼時候還原得出黃色與綠色？從紅色推紅色，統計學花了 300 年，有大數法則、中央極限定理；從紅色推到黃色、綠色，結果非常少。這是清清楚楚的分布外問題——因果本身就是分布外。

這件事有個定理，叫因果階層定理（Causal Hierarchy Theorem），出自 Bareinboim 與 Correa、Ibeling、Icard 合寫的〈On Pearl's Hierarchy and the Foundations of Causal Inference〉：對幾乎任何一個因果模型，三層都不會塌成一層——某一層的資料，幾乎總是定不出更上層的答案。論文的比喻是：隨機抽一個因果模型，抽到「三層塌成一層」的機率是 0。中文版旁白用彩色數字補了一個對照：

這就是貓會畫錯的原因：那是第三層的問題，模型卻只被訓練到能重現第一層。Bareinboim 給的出路，是先把因果假設放進模型（例如一張因果圖），再用「反事實一致」的估計方法，保證答案落在一個範圍（bounds）內；怎麼做，這場沒有展開。

💰 14,000 美元的薪資差，是怎麼來的？

後半場，Bareinboim 拿同一座梯子去量「解釋」。理解有兩種：解釋外面的世界，以及解釋自己（「我是 AI，我為什麼這樣做？」）。先看第一種。

例子是美國人口普查的真實資料：X 是性別（受保護屬性），Y 是薪水，Z 是年齡、國籍這類混雜因子，W 是學歷、工作類型這類會受性別影響的中介變數。資料裡男女薪水的總差距（total variation，TV）是 14,000 美元。為什麼？講者強調他不判誰對誰錯，只說同一個差距可以來自三種機制：

1. 直接：人資看到性別，就改變了給薪決定。這當然不行，但可能發生。
2. 間接：性別影響了學歷（例如有沒有博士），公司看學歷給薪——「你有博士，我就多給你 10 萬美元」。
3. 假性相關：性別在這份資料裡和國籍相關，而公司拿國籍來壓薪——沒有綠卡就給比較少。年齡也可能這樣。

三條路徑在法律上待遇不同：來自學歷的差異，陪審團可能接受，法律上叫業務必要性（business necessity）；來自性別本身、年齡的就不行。哪條可以接受是社會的判斷，方法上的問題是：能不能把 14,000 美元精確拆開？他放了兩種拆法——一種說大部分是假性相關，一種說大部分是直接效應——然後指出 TV 是第一層的量，它分不出這兩者。要說哪個才對，得靠因果模型；講者說，這其實是一個第三層的解釋。

台下有人追問：給定 W 和 Z 之後，看 X 與 Y 的互資訊（知道 X 之後，對 Y 的不確定性少了多少）還剩多少，不就夠了？Bareinboim 答：不夠，幾十年來只用第一層運算的各種嘗試都算是失敗了，問題是欠定的——已知條件太少，不只一種答案都說得通。「第一層本身，裡面什麼都沒有。我在第一層裡怎麼變花樣都行，都沒辦法對另一個機率分布說出什麼。」

🔍 SHAP 看不出的兩個模型

第二種理解是解釋自己。Bareinboim 回到彩色數字：「教機器學習時能給學生最簡單的題目？MNIST。那就做彩色的 MNIST。」他訓練兩個預測數字的分類器：標準版，和把顏色拿掉、改成灰階的穩健版。在訓練分布上兩個準確率都很高；把數字和顏色的相關稍微挪動，穩健版不受影響，標準版大幅下滑——中文版旁白點出投影片上的數字：從 100% 掉到 18.1%。

問題來了：給你這兩個盒子，能不能事先打開檢查、看出它們不一樣？他拿這個領域最流行的歸因方法 SHAP（Lundberg 與 Lee，2017）來問「為什麼是 5」，兩個盒子都回答「因為數字是 5」，結果非常像——SHAP 分不出來，因為它只是在觀察分布上算統計量，屬於第一層。改用第三層的 Shapley 值（他說花了好幾年才做出來：Shapley 只是取平均，關鍵在「平均的是什麼」），標準版的答案變成「因為色調」，問題立刻現形：

由此他下了這場最重的評語：文獻裡大部分的機制可解釋性方法，都對因果視而不見，是在第一層上算統計量。「我們可以再砸幾十億美元、再多算力，成功的機率是零，因為我們瞄準的量是錯的。」

中文版只用旁白帶過的 Pong 實驗（細節依原講座補回）也是同一件事：打乒乓遊戲的 Agent 在世界模型裡訓練拿 21 分，換到畫面會隨機黑掉幾格的環境，掉到 15 分。不看因果的歸因把責任攤在一大片時間點上；反事實的版本只揪出 第 536 步與第 1311 步——球離球拍不遠不近，畫面一黑就來不及救（太遠還追得到，太近照樣打得到）。這套方法事先對 Pong 一無所知。

🧭 擬合不等於理解：還沒畫對的那隻貓

Bareinboim 的收尾：模型可以把資料擬合得非常好，把觀察到的一切都重現出來，卻完全不知道事情為什麼這樣發生。擬合，對應的是相關；理解，對應的是因果——是底下那些機制，生出了我們看到的相關。「今天大家忙的是怎麼擬合。我認為我們追錯了。」

他用兩條軸描述現況：流暢度（文字寫得好、貓圖畫得可愛——主流大型語言模型與 OpenAI、Anthropic 這些公司，都在這條軸上靠規模往前推），以及理解（做因果的人在這條軸上，精確但又脆又硬，幾乎沒有流暢度）。常有人問他：怎麼不把因果直接貼到語言模型上？他說這是兩種語言、講不上話，就像量子力學與廣義相對論，「不是有數學家就能寫成一套」。他希望大家去想：怎麼找到一種共同語言。

一句話總結

今天的 AI 是「看」的高手，所以被問「如果……會怎樣」時，會繞一圈去兌現相關——拿掉墊子、點亮沒插電的燈。因果階層定理說，這不是資料不夠多的問題：第一層的資料，原則上定不出第二層、第三層的答案；連「解釋」也一樣，只在第一層算出來的歸因，會把兩種完全不同的機制看成同一個樣子。