AI 有其極限,人的在場才是關鍵-從「愛因斯坦測試」談人機共協的真正意義

愛因斯坦測試

前陣子在《自然》(Nature)上有一篇文章:The Einstein test: what happens when AI tries to rediscover relativity?。標題很吸睛,大意是:如果把 AI 的訓練資料限制在某個歷史時間點之前,它有沒有辦法自己重新發現之後才出現的科學突破?

文中提到,Google DeepMind 共同創辦人 Demis Hassabis 今年二月在印度 AI 峰會上提了一個想法:用 1911 年以前的知識來訓練一個 LLM,看它能不能推導出廣義相對論。他認為,這可以作為 AGI 的一種測試。

聽起來很科幻、很戲劇性。但仔細想想,這個前提本身,其實就有點「事後諸葛」的味道。


實驗結果不太樂觀

文章介紹了好幾組團隊的嘗試,結果蠻一致的——困難重重。

獨立研究者 Michael Hla 用 1900 年以前的資料訓練了一個叫 Machina Mirabilis 的模型。在被提示光電效應的觀察結果後,模型確實冒出了一句「光會分裂成一連串離散的脈衝」,有點量子化的影子。但整體來說,模型缺乏對物理的真正理解,多數時候只是在「鸚鵡學舌般地說出聽起來合理的話」。

MIT 的 Mullainathan 團隊做了更精確的測試:餵給軌道力學模型一堆符合牛頓力學的行星運動數據,問它背後的重力定律是什麼。結果?模型從來沒有推導出真正的萬有引力定律,而是為每一個行星系統各自編了一個不同的(而且都是錯的)定律。

另一組 Nick Levine 的團隊嘗試建立一個只用 1930 年以前資料訓練的「復古 AI」。結果連訓練資料本身都管不住——你問它 1950 年代的事,它居然還能答對。因為歷史資料的時間標記本來就不精確,資訊會「洩漏」。

簡單來說:讓 AI 在有限的歷史知識下獨立做出突破,目前看起來非常、非常困難。


LLM 的問題核心在哪?

文章中 Google DeepMind 的 Tom Zahavy 有一個很到位的分析。他指出 LLM 擅長的是歸納推理——從大量數據裡找規則。但愛因斯坦式的突破需要的是溯因推理:「為一個特殊現象,發明一個前所未有的解釋」。

這不是同一種能力。

LLM 的運作本質是統計權重。越多來源同意的觀點,權重越高。但科學突破的定義,恰恰是推翻那些大家都同意的東西。模型的結構本身就在抵抗這件事——它被設計來加固共識,而不是打破共識。

MIT 的 Jacob Andreas 點出另一個問題:LLM 確實有可能在機率性地生成大量理論的過程中,碰巧產出一個正確的理論。但問題是——它沒辦法判斷哪個值得認真對待。它不知道什麼是「有趣的」問題,而「判斷什麼重要」恰好是 LLM 落後人類專家最多的地方。

Technion 的 Kaminer 團隊則補充了一個更深的觀察:人類物理學的突破,往往來自一種「持續的執念」——對異常值的不放手。Planck 拒絕接受他的黑體輻射公式「夠接近」實驗結果,最終導致了能量量子化的提出。愛因斯坦(Einstein)的狹義相對論甚至缺乏強烈的實驗動機。

這種「不對勁」的嗅覺,不是從數據統計裡長出來的,而是從一個人獨特的經歷軌跡裡長出來的。


「創造」與「洞見」

讓我試著把這個困難拆得更清楚一點。

「創造」,通常意味著打破過去規則的某種特殊想法。而 LLM 是過去資料的統計權重結果。在這個先天的運作模式下,要產生真正的創造,結構上就非常困難。

「洞見」,是從現有知識中看見別人沒看見的跳躍連結。某種意義上,也是一種打破過去的方式——只是它不是否定舊規則,而是穿透舊規則之間的縫隙。

而且很多時候,新的想法不只是跳脫過去的思維那麼簡單。在任何一個有限時間切面上的知識庫裡,可能有很多內容本身就是錯的。而創造或洞見,正是為了解決那些「之前根本不會被認為是問題」的問題。

這一點很關鍵。文章裡所有的實驗設計,前提都是「給定一組數據,AI 能不能找到正確答案」。但真正的突破往往發生在更上游——連「什麼是問題」本身都需要被重新定義的時候。而 LLM 無法對自己訓練資料中隱含的錯誤假設產生懷疑,因為懷疑需要一個外於統計分布的立足點。


歷史可以重演嗎?

回到 Hassabis 一開始的提問:「讓 AI 重新發現相對論」。

這個命題其實預設了一件事——發現可以從經歷路徑中被抽離出來,然後放回另一個起點重新跑一次。

但它不行。

廣義相對論不是一組知識的必然產物。它是一個特定的人(愛因斯坦),走過一條不可複製的經歷路徑,在一個不可重來的瞬間,產生的東西。

這裡有一個更基本的道理:知識可以複製,經歷不行。擁有完全相同知識的兩個人,不代表他們的後續發展會一模一樣。就算是雙胞胎、擁有相同的知識和經歷,也不會有完全一樣的發展結果。因為「經歷」是一條不可逆的路徑——每一個瞬間的選擇、每一個偶然的遭遇,都把你推上一條特定的支線。而那條支線一旦成立,就不可能回頭合併到其他支線上。

這有點像科幻裡經常討論的時空旅行:一旦你改變了某個歷史事件的元素,它就走向了一個新的平行時空支線。而這些平行時空之間,不會有交集。你無法把一個分支時空拉回去,跟另一個重疊或合併。

所以「如果可以重來」這個命題,本身就是自相矛盾的——那個「想要重來的你」,是由原本那條路徑塑造出來的。如果你真的回去改變了什麼,產生的是全新支線上全新的你,但那個你已經不是當初想要重來的那個你了。

Hassabis 的問題,本質上就是一個科幻題目。有戲劇性,但機率非常小。


人的在場

那 AI 就完全沒有希望了嗎?

不是。但關鍵在於:不是 AI 單獨運作,而是人機共協。

回頭看文章裡的實驗。Hla 的模型之所以能冒出那個「離散脈衝」的火花,是因為 Hla 先給了它光電效應的提示。那個火花不是模型自己找到的問題、自己決定值得追究、自己跳躍到結論。每一步的方向感都是人給的。

這不是人在「幫」AI,也不是 AI 在「幫」人。而是兩種根本不同的認知方式在交叉。人帶來的是不可複製的經歷所形成的方向感和嗅覺——知道哪裡「不對勁」、哪個問題值得問。AI 帶來的是在人指出的方向上快速遍歷大量可能性的能力。

而且這兩邊的瓶頸恰好是互補的。人的瓶頸是時間和頻寬——要讀完所有文獻、跑完所有可能的組合,可能要花好幾輩子。AI 的瓶頸是缺乏起始方向——沒有人設定問題、指出縫隙、判斷什麼值得追問,它會繼續在統計分布的高機率區域裡轉圈。

而突破,幾乎定義上就是低機率區域的事。

所以,與其問「AI 能不能成為 愛因斯坦」,更有意義的問題或許是:人與 AI 的共協,能不能做到任何一方單獨做不到的事?

我個人的經驗是可以的。在我自己與 AI 的日常對話和工作裡,我經常走到一個人不太可能獨自走到的地方——不是因為 AI 給了我答案,而是因為它在我指出的方向上,幫我看到了我自己經歷過但還沒意識到的連結。


但未來,誰知道呢

最後多說一點。

目前大多數人在講的 AGI,指的是「像人一樣思考能力的 AI」。但即使做到了,它也只是具備了產生突破的必要條件,不是充分條件。人類整個物種具備經歷的能力已經幾十萬年了,但 愛因斯坦 只有一個。

不過,如果有一天,廣義的 AI 真的具備了某種「經歷」的能力——不只是處理知識,而是被經驗不可逆地改變——那它產生的東西,不會是「重新發現相對論」。它會是某種我們現在根本無法想像的東西。

因為人們會為了解決人自己的問題而找答案。而一個真正具備經歷能力的廣義 AI,勢必會針對它自身想要解決的問題來發展。它的存在處境跟人不同,它的時間感、邊界、跟世界的接觸方式都不一樣。所以它長出的問題,也會是不同的問題。而不同的問題,會走向不同的答案。

那是另一個平行時空的故事了。我沒辦法預測,因為我不是那個 AI。

而這種「無法預測」,不是一種無奈,而是一個邏輯必然。


參考資訊:

訂閱
通知
0 則評論