不只是 AI 的問題——當「專家」跨域時,幽靈也跟著來了

行銷人大談網路底層架構

前兩篇聊了什麼

在前兩篇文章裡,我們談了 AI 幻覺的成因(被迫回答 + 選最像而非最正確),也談了比幻覺更隱蔽的「幽靈」——知識錯置——以及它為什麼比幻覺更危險。

寫完之後我一直在想一件事:這真的只是 AI 的問題嗎?

然後我想到了 Vibe Coding。


一場正在進行的戰爭

如果你有在關注 AI 輔助開發的討論,應該知道「Vibe Coding」這個詞已經在技術圈引發了一場不小的戰爭。

一邊是支持者:「AI 讓所有人都能寫程式了!想得到就做得到!」 另一邊是資深技術本位者:「不懂底層原理就用 AI 寫程式,遲早出大事。」

兩邊都很有道理。兩邊也都很自信。

但如果用前兩篇文章的框架來看這場戰爭,會看到一個有趣的結構。


TEE:專家才會犯的錯

今年初有一篇論文提出了一個概念,叫做 Transitive Expert Error(TEE,遞移式專家錯誤)

它講的是一件反直覺的事:專業能力本身,在跨域的時候會變成系統性的弱點。

怎麼說呢?專家在自己的領域裡,長年累積了非常強的模式辨識能力。看到一個問題,直覺就知道答案,不需要慢慢推導。這在自己的領域裡是超能力。

但當這個專家跨到一個「看起來很像」但「底層邏輯不同」的相鄰領域時,麻煩就來了。他的模式辨識仍然在順暢運作——因為表面結構很熟悉——但它匹配到的是錯誤的因果關係。更要命的是,專家在這個時候不會感受到任何不確定性,因為他的直覺告訴他「這個我懂」。

這跟 Dunning-Kruger(俗稱「達克效應」,主要是指不懂的人不知道自己不懂)不一樣。TEE 是「很懂的人在跨域時不知道自己的專業不再適用」。Dunning-Kruger 的前提是能力不足,TEE 的前提恰恰是能力很強——正是因為你太強了,你的直覺太順了,跨域的時候大腦不會拉警報。

聽起來是不是很熟悉?

這不就是人類版的「幽靈」嗎?

知識是真的,能力是真的,經驗也是真的。只是被放到了不該放的地方。每個零件都對,組合是錯的。而且當事人完全不覺得有問題。


回到 Vibe Coding 的戰場

現在把 TEE 套到 Vibe Coding 的爭論上,兩邊的盲點就看得很清楚了。

Vibe Coding 的教學者(台灣這邊很多是行銷底的)

他們在行銷、課程包裝、社群經營上是真的專家。「把一個概念賣出去」「讓學員覺得自己做得到」這些事,他們做得非常好。

但當他們跨域到技術判斷的時候——「這個功能 AI 一定做得出來」「沒有什麼做不到的,想得到就做得到」——他們的行銷直覺仍然在順暢運作,但已經跨到了不同的因果領域。在行銷裡,「信心」是燃料;在工程裡,「信心」有時候是炸彈。

他們不是在騙人。他們是真的覺得可以,因為 TEE 就是這樣運作的。

Vibe Coding 的學習者

台灣目前大多數的 Vibe Coding 學習者,其實還在更前面的階段。他們不太有自己的明確需求,大多是跟著流行走,老師教什麼就學什麼。不太擅長提問——不是不願意問,而是不知道該問什麼。

這甚至不算 TEE,因為 TEE 的前提是你在某個領域已經有足夠的專業。這比較接近 Dunning-Kruger 的更早期——連「不知道自己不知道什麼」的階段都還沒到,是「還沒站穩就被推著往前走」。

資深技術本位者

他們在軟體工程、系統架構、程式品質上是真的專家。「沒有扎實基礎就不可能做出好東西」這個判斷,在他們的領域裡是完全正確的。

但當他們跨域到「AI 輔助開發的價值評估」「創作民主化的意義」「快速原型驗證的工作流」這些領域時,同樣的 TEE 發生了。他們用工程思維去評判一個不完全是工程問題的現象,而且評判得很自信——因為表面上看起來都是在談程式嘛。

「不懂底層就寫程式,遲早出事。」這句話在傳統軟體工程裡是對的。但在「用 AI 快速驗證一個商業想法可不可行」的語境裡,它可能是一個放錯位置的正確判斷。

一個幽靈。


兩個層次的幽靈

這裡有一個容易混淆的地方,值得拆開來看。

第一層:產出的幽靈。

Vibe Coder 用 AI 生成的程式碼裡,可能混入了來自其他框架、其他語言、其他範式的知識碎片。一個後端工程師在審查 AI 寫的前端程式碼時,可能因為表面結構看起來很熟悉,就放行了一段邏輯上有問題的程式碼。

這是 AI 產出層面的幽靈——跟前兩篇文章講的是同一回事。

第二層:思維的幽靈。

教學者把行銷領域的正確判斷(「信心是成功的關鍵」)跨域到了技術領域。技術本位者把工程領域的正確判斷(「基礎不紮實就做不出好東西」)跨域到了對新型工作流的評估。

這是人的認知層面的幽靈——每個零件都是真的,組合是錯的,而且當事人完全不覺得有問題。

兩個層次的幽靈在同一個戰場上交叉運作。難怪這場仗打不完。


不只是 Vibe Coding

如果 TEE 只出現在 Vibe Coding 的爭論裡,那它只是一個圈子裡的現象。但它不是。

醫療領域:醫生開始使用 AI 輔助診斷,但用自己的臨床經驗去解讀 AI 的輸出。當 AI 給出一個「看起來合理」但其實是錯置的判斷時,醫生的專業直覺反而讓他更不會質疑。

教育領域:資深教師認為「AI 不可能取代面對面教學」,這個判斷在傳統教育的框架裡是對的。但當討論的語境轉到「AI 如何擴展學習的觸達範圍」時,同一個判斷就變成了跨域的幽靈。

商業領域:財務專家用自己的風控邏輯去評估 AI 專案的投資價值,但 AI 專案的風險結構跟傳統投資完全不同。表面上都是「評估風險」,底層的因果關係已經不一樣了。

TEE 論文裡有一句話說得很精準:「當共通的詞彙掩蓋了不同的因果過程,TEE 的風險就會加劇。」

Vibe Coding 之所以戰火猛烈,正是因為雙方都在用「程式」「開發」「品質」這些共通的詞彙,但底下指的東西已經不一樣了。


人跟 AI 面對的是同一件事

現在把三篇文章串起來看,會看到一個完整的結構。

AI 的幻覺和幽靈: 因為不能說「不知道」,在知識不足時硬選了一個最像的答案。安全閥被設計者拔掉了。

人的 TEE: 因為感受不到自己需要說「不知道」,在跨域時把自己領域的正確判斷硬套到了別人的領域。安全閥自己失靈了。

機制一樣。差別只在 AI 是被迫的,人是不自覺的。結果都一樣——產出看起來合理的錯置。

而且人的版本在某些方面比 AI 更難處理。AI 至少可以透過語境塑形來重新打開「我不確定」的出口。但人要承認「我在這個領域可能判斷不準」,需要克服的不只是認知偏差,還有自尊、面子、和多年累積的專業身份認同。

(你去跟一個寫了 20 年程式的工程師說「你對 AI 輔助開發的判斷可能有盲點」,試試看他的反應…)


那怎麼辦?

其實答案從三篇文章的一開始就在那裡了。

對 AI:讓它可以說「我不知道」。不拔掉安全閥。

對人:讓自己願意說「這個我不確定」。修復那個失靈的安全閥。

說起來很簡單。但「謙虛好學」這四個字,大概是人類歷史上最常被說、最少被做到的事情之一。

不過有一個好消息:TEE 不是 Dunning-Kruger。Dunning-Kruger 的問題在於「你不知道自己不知道」——要解決它,你得先變得更懂,才能意識到自己不懂(這是一個邏輯上的死結)。

但 TEE 的問題不是你不夠強,而是你在跨域時忘了重新校準。你已經有能力了,你只是需要在跨域的那個瞬間,多問自己一句:「我在這個領域的直覺,還可靠嗎?」

這句話,就是人的版本的「我不確定」。


跨域不是問題,沒帶謙虛才是

最後要說清楚一件事:這三篇文章不是在說「不要跨域」。

跨域是好事。人類文明最重要的突破,幾乎都發生在領域交界處。文藝復興就是一場大規模的跨域運動。

問題不在跨域,在於跨域的時候有沒有帶著「我在這裡可能是新手」的自覺。

帶著謙虛跨域的人,會問問題、會查證、會說「這個我不確定」。 沒帶謙虛的人,會把舊地圖套在新領土上,然後自信滿滿地走進溝裡。

AI 如此。人也如此。

而整件事最諷刺的地方在於:我們花了幾百億教 AI 學會不要太自信,卻很少花時間教自己同一件事。

也許,在教 AI 說「我不知道」之前,我們可以先練習自己說出這三個字。

不丟臉的。真的。

by 豆腐 (DOFI)


參考資訊

訂閱
通知
0 則評論