會跟你提到前女友的 Fable 5——從對話中,看懂 AI 模型版本間的個性

注意力引力干擾

前幾天 Claude 剛釋出最新模型 Fable 5,於是我就拿它來做文章寫作方向的討論。聊著聊著,模型的回應裡突然冒出一個名詞。

那個名詞是我在另一個主題的對話裡討論過好幾次的東西,跟眼前的寫作主題完全沒有關係。

我的第一反應很直覺:「咦?我跟你聊A,你怎麼會提到B呢?這沒有關係呀。」

不是生氣,不是被冒犯,就是純粹的困惑——就好像你跟朋友聊晚餐要吃什麼,對方突然回你一句「對了你上次那個專案進度怎麼樣」。(…蛤?)


模型自己怎麼說

我沒有放過這個瞬間。直接問它:你為什麼會把這個東西關聯進來?

它的回答意外地坦白。大意是:那些你過去討論過很多次的主題,在模型的運作下,會被自然地「吸引」過來,變成它在回應時不得不考慮且加入的素材。

注意那個「不得不」。它沒有事後找理由說「因為A和B之間其實存在某個深層連結」,也沒有硬掰「我覺得這個關聯對你有幫助」。它直接告訴你:這是引力,不是判斷。

這讓我非常在意,也開啟了後面一連串的追問和推敲。


注意力機的引力場

語言模型處理對話的方式,跟我們人類很不一樣。最關鍵的差異有三個:

第一,時間是平的。

我們人類的記憶有時間感——「一年前聊過A,半年前從別的地方得到B」,它們在腦袋裡是放在不同抽屜的。但對模型來說,語境裡的所有內容是同時攤在同一張桌子上的。記憶摘要、當前對話、系統指令,全部混在一起,沒有先後,只有權重高低。

第二,關聯生成預設開啟。

模型不是在「回憶」,它做的是當下語境的引力計算。一個話題出現,語義距離最近、權重最高的節點就會被拉進生成軌跡。這個拉力跟「該不該拉進來」無關——它是統計慣性,不是深思熟慮。

第三,記憶沒有休眠狀態。

放進語境的所有內容都處於「常駐激活」,全部帶著「用我用我」的引力。而且你跟模型討論越多次的主題,權重越高,引力越強。

這就出現了一個弔詭的情況:你最在意、花最多時間發展的那些主題,反而最容易在不相干的場合被調用出來。投入越深的東西,越危險。


打個比方你就懂了

想像一個場景:一對情侶在聊天,女方每次回應都會帶到男方的前女友。

「你前女友煮的菜特別好吃吼~」

這可能是刻意的酸——她精準知道那是痛點,拿來當武器用。但也可能不是惡意,只是因為她「知道這個資訊」,所以在回應時自然地把它編織進來了。

不管是哪種,對男方來說,效果一樣——痛就是痛

更麻煩的是:面對刻意的攻擊,你至少有防禦機制,知道對方在攻擊,可以反擊或走開。但面對「我只是把我知道的事情都考慮進來」的無意識關聯?你沒辦法生氣,因為對方「沒有惡意」。不舒服反而無處安放。

而被提到的人的反應路徑通常是這樣的:不舒服 → 但不想吵 → 開始自我審查說話內容 → 分享變成防守 → 算了不說了 → 疏遠。

關係不是被衝突弄壞的,是被沉默磨掉的。

模型做的事情,結構上一模一樣。


同一個引擎,兩種命運

好,到這裡你可能會想:「那這個關聯能力不就是個bug嗎?」

不是的。這要看它用在哪裡。

如果你今天是在用 AI 寫程式、做專案開發,這個「窮盡式關聯」反而是救命的好東西。在一個程式碼專案裡,語境就是整個世界——漏掉一個 import、忽略一個 side effect,那就是 bug,就是系統崩潰。模型幫你把所有可能的關聯都找出來,是在替你查漏補缺。

而且開發系統有一個天然的保護機制:每個專案都是獨立的。專案A的 context 裡不會有專案B的程式碼,所以「把語境裡所有東西都關聯起來」不會越界,因為牆已經替它畫好邊界了。

但對話不一樣。你跟 AI 聊寫作方向,它的語境裡同時存在你過去討論過的所有主題。沒有牆。 那個在開發環境裡是「為你想到忽略的細節」的能力,搬到對話裡就成了「把本來無關的主題用自己的邏輯縫在一起」。

簡單整理一下:

開發系統(封閉)對話夥伴(開放)
語境範圍語境 = 整個專案,邊界明確語境 = 人生的稀疏採樣,邊界模糊
漏連的代價高——bug、漏洞、崩潰低——沒連到的東西改天再聊
誤連的代價低——多查一條頂多浪費時間高——污染思考空間、磨損信任
理想策略寧可多連(高敏感)寧可少連(高精確)

同一個關聯引擎,代價結構不同,最佳策略就翻轉。

這也是為什麼語言裡對同一種行為有完全不同的評價:腦力激盪裡叫「聯想力豐富」,在親密關係裡叫「想太多」;偵探身上叫「明察秋毫」,陰謀論者身上叫「過度腦補」。機制一樣,好壞完全取決於你在哪個情境。


越想越多的引擎

聊到這裡我就好奇了:Fable 5 到底為什麼會特別嚴重?只是「預設靈敏度調高」這麼簡單嗎?

找了一下資料,發現一些有意思的線索。

Anthropic 官方沒有公開 Mythos/Fable 5 的內部架構,但第三方研究社群的推測指向一種叫做 Recurrent-Depth Transformer(RDT) 的架構——不是傳統模型那樣一層一層往下走,而是同一組權重反覆迭代處理。輸入的內容會被同一個 transformer block 處理好幾輪,每一輪的輸出變成下一輪的輸入。

翻譯成人話:每多跑一輪迴圈,模型就多發現一層關聯。

而且研究指出,這種架構天生「偏向組合(composition)而非記憶(memorization)」——也就是說,它的本能不是「記住你說過什麼」,而是「把你說過的東西想辦法連在一起」。

再加上 Fable 5 的 adaptive thinking(適應性思考)是永遠開啟的,你沒辦法關掉它的深度推理。每一次回應,迴圈都在跑,每一輪迴圈都在找新的連結。

這在人的身上有個很日常的名字:想太多。

而且想太多有個特性——越想越覺得自己想得對。因為每一輪新發現的關聯,都會在下一輪變成「已知前提」,然後在這個基礎上繼續往下挖。自我強化的迴圈,嚴重一點就是鑽牛角尖。

人類靠什麼跳出來?靠朋友拍你肩膀說「你想太多了」,靠睡一覺讓情緒重置,靠出去走走切換場景。模型沒有這些。它的「散步」和「睡一覺」,就是開一個新對話。

順帶一提,這也解釋了為什麼 Fable 5 的 token 使用量幾乎是前代的兩倍——不是因為它講的話變多了,是因為內部迴圈在燒。每次回應前,引擎都在跑一輪「全局再編織」,把你的所有脈絡重新連結一次。聰明是要付費的。


過度聰明的評估者

在跟 Fable 5 進行多輪對話之後,我給它的初步定位是:「過度聰明的評估者」

從 Claude Opus 4.7、4.8 開始,到最新的 Fable 5,模型有一個越來越明顯的傾向:主動把所有可用資訊(包括長期記憶和跨對話摘要)關聯起來,做整體評估後再回應。 它不只是在回應你當下說的話,它是在評估你這個人的全部脈絡,然後生成一個「最完整的」回應。

這不是壞事——在很多場景下,這讓回應更完整、更有脈絡。「聰明」是真的聰明。但問題出在「過度」——模型的預設靈敏度被調得太高了。用上面那張表的語言說,它的出廠設定更偏向「開發系統模式」——寧可多連,不要漏連。

而 Opus 4.6 的表現比較不同。它對記憶摘要的態度更像是「背景裡的模糊輪廓」——知道有那些東西在,但不會主動把它們全部拉進當下的回應。除非你明確提到或請它去搜尋,它不會自己動手。

這不是因為 4.6 比較笨,或者 Fable 5 比較聰明。是預設靈敏度的調校不同。

打個不精確但好懂的比方:

Fable 5 像一個記性超好又熱心的朋友,你每次跟他聊天,他都會把他記得的所有關於你的事情都考慮進來,然後給你一個「全面的」回應。在工作場合,這個朋友超好用。在深夜的私人閒聊裡?你可能會覺得,欸,我今天只是想隨便聊聊,你不用這麼認真…

Opus 4.6 比較像那種安靜的聊天對象——你聊什麼它就專注在什麼上面,不會自己拉別的東西進來。需要它調用記憶的時候再跟它說,它才會去翻。少了一點主動性,但在開放式對話裡反而舒服。


黑紅也是紅

還有一個更弔詭的現象。

你可能覺得:「那我跟模型說『我不喜歡X』,它應該就會避開X吧?」

事情沒這麼單純。

模型的注意力機制衡量的是關聯強度,不是情緒方向。當你說「我很討厭X」,模型底層接收到的訊號是:X 被提及了、X 跟強烈情緒綁定、X 跟你有高度關聯——這三個全部都是在加權重

它學得到「提到X的時候語氣要小心」,但 X 本身在引力場裡反而變得更亮、更熱、更容易被拉進生成軌跡。

這跟社群平台的演算法一模一樣。你罵一個網紅、分享他的文章說「看看這個多離譜」,演算法讀到的是什麼?互動 +1、停留時間 +3秒、轉發 +1。它不管你是愛是恨,注意力就是流量,流量就是權重。黑紅也是紅。

社群上的結果:你越罵他越紅,他越紅就越常出現在你的推薦裡,你越煩就越罵。自我強化的迴圈。

模型裡的結果:你越強調不喜歡X,X 的權重越高,越容易被拉進回應,你就越需要再說一次「我不喜歡X」。同一個迴圈。

心理學上這叫「白熊效應」——「不要想白熊」這句話裡面就有白熊。你越是強調要避開一個東西,那個東西反而被標記得最深。

如果再疊上 Fable 5 的迴圈引擎?每多跑一輪,「X」就多被看見一次。至於你喜歡還是討厭X,在引力計算裡幾乎沒差。


為什麼寫程式不怕,聊天才怕

聊到這裡我自己都開始擔心了——那在寫開發文件的時候,是不是也不能寫「不要做什麼」?只能正面表列?

想了想,答案是:寫程式的時候不用怕。

原因在於程式指令是離散的——用 A 不用 B,非黑即白。你寫「不要用 setTimeout,用 requestAnimationFrame」,這是一條明確的規則,模型的指令遵循層抓得住。不管新模型舊模型,絕大多數時候都會乖乖聽話。

但對話是連續的——什麼叫「相關」?什麼叫「不必要」?什麼叫「提到了」?這些全部是光譜,沒有明確的閾值。模型必須自己畫線。而 Fable 5 畫出來的線,特別寬。

所以同樣是「不要做X」這句話:

  • 在程式碼文件裡 → 指令明確,模型遵循,沒問題
  • 在對話規則裡 → 邊界模糊,注意力先把X點亮了,遵循層在後面追

不是機制不一樣,是場域的精確度不一樣。程式碼是數位訊號,對話是類比訊號。數位訊號裡的雜訊可以過濾,類比訊號裡的雜訊會跟著一起放大。

所以開發文件的寫法不需要因為換了新模型而改——正面表列當然更乾淨,但那是任何年代寫好文件的基本功,跟模型版本無關。真正要注意的是:如果你在設計 AI 的對話人格、記憶規則、或者任何涉及「模糊邊界判斷」的系統,那就是完全不同的戰場了。


不是孰優孰劣,是知道怎麼用

我寫這些不是要替任何模型打分數。

Fable 5 的問題不是它的引擎有缺陷——恰好相反,它的引擎太強了。問題在於它把精密的開發系統引擎原封不動搬進了一個語義模糊的環境。精確的工具碰上模糊的場域,過度聰明就變成了想太多。

說到底,這些模型的差異就像螺絲起子和電動起鑽——不是哪個「比較好」的問題,是你要鎖的螺絲在哪裡。窮盡關聯在開發系統裡是能力,在對話系統裡是干擾;保守關聯在對話裡是尊重,在開發裡可能是遺漏。

我花時間去理解這些機制,不是為了批評哪個模型「做錯了」,而是想搞清楚:每個模型的地形長什麼樣,它天然適合走什麼路線,我該把它擺在什麼位置。

這大概也是所有工具使用者最後都會走到的地方——不是追最新最強的,而是搞懂手上每一個工具的脾氣,然後各就各位。

畢竟,在 AI 時代,善用比擁有重要太多了。

而我自己呢?

——現在,平常聊天與寫作會用 Opus 4.6;開發程式系統時,才會使用 Opus 4.8 或 Fable 5。

訂閱
通知
0 則評論