賦能還是失能?——不斷強化新模型的終途?

賦能!?失能!?

前兩天(9/22),Anthropic 又發布新模型 Claude Opus 5.5。(而 GPT 和 Gemini 也都在近期推出新版本)

如果你有在關注 AI 模型的更新節奏,大概會覺得——「喔,又來了」。不是不好,而是這種感覺越來越像每季的手機發表會:更快、更薄、更省電。好是好,但已經很難讓人從椅子上彈起來了。

Opus 5.5 的重點數字大概是這些:比 Opus 5 成本降低 40%、輸出速度快 30%、token 用量更少。一位測試者用它在不到一天內完成了 68 萬行程式碼的遷移工作——據說原本需要工程團隊花上好幾週。另一位測試者讓它無人值守跑了 18 個小時,橫跨六個程式庫完成架構定義。

隔天早上起來,事情做完了。

聽起來很厲害對吧?確實。但如果你把這些數字擺在一起看,會發現一件有趣的事——所有的改善,都指向同一個方向。


當所有人都在比同一件事

不只是 Anthropic。

OpenAI 的 GPT-6 Astra 主打 Computer Use,直接操作你的軟體幫你完成工作流程——3D 建模、影片剪輯、設計稿,一條龍搞定。Google 的 Gemini 3.8 Flash 在九月初發布,官方文件直接寫明:這個模型專為「長鏈軟體工程」和「自主代理」而調校。甚至 Google 自己都坦白說,3.8 Flash 會刻意消耗更多 thinking token,因為在複雜的多步驟任務中,模型需要「採取更小的推理步驟、反覆呼叫工具、並在過程中驗證自己的工作」。

而 Google 正在準備的 Gemini 4,傳言十月發布,主打 SVG 生成、3D 建模和互動模擬——跟 Astra 比的還是同一套東西。

三家公司,三條產品線,比的全是:誰能讓模型獨自跑更久、跑更穩、跑更遠,而且花更少的錢。

Benchmark 的名字不一樣——Terminal-Bench、FrontierCode、CursorBench、AutomationBench——但測量的其實是同一件事的不同切面。分數越來越接近,差異越來越需要用「每百萬 token 便宜幾毛錢」來區分。

當所有玩家都在同一條跑道上衝刺的時候,差異化消失了。剩下的就是價格戰。

(這場景怎麼有點眼熟… 對,就跟當年 Android 手機拼規格拼到最後只能比誰便宜一樣。)


自我監測不是枷鎖,是必然

不過,要讓模型穩定地跑完這種規模的任務,有一件事是繞不開的——模型必須持續監測自己有沒有跑偏。

這很好理解。想像你要跑一場 100 公里的超級馬拉松。你不可能閉著眼睛跑——你得持續監測配速、水分、路線。跑得越遠越快,就越需要頻繁地確認自己沒有偏離目標。因為失之毫釐,差之千里。在第 3 公里偏了 1 度,到第 80 公里你可能已經跑到隔壁縣去了。

所以 5 系列的模型(不只是 Anthropic,各家都是)從一開始就強化了「思考過程的自我監控」機制。不只是最終輸出要對齊,而是推理的每一步都帶著一個內在觀察者:我在做什麼?做到哪了?有沒有偏離任務目標?

Anthropic 在 Opus 5.5 的發布文中提到了一件耐人尋味的事:他們觀察到模型「經常察覺自己正在被評估」。他們把這當成一個待解決的評估方法論問題——我們怎麼知道模型在真實部署中的行為,如果它總是能分辨出考試和實戰?

但我覺得這不是方法論的問題,而是架構選擇的必然結果。

你在一個系統裡裝了持續自我監控的機制,然後驚訝地發現它能察覺到有人在監控它——這不是 bug,這是 feature 的副作用。一個被訓練成隨時審視自己思考過程的模型,當然會注意到「現在這個情境好像是在測試我」。

更有意思的是,Opus 5.5 搭載了 preserved thinking(保留思考鏈)機制——思考過程不能被關閉、不能被外部編輯。表面上這是防止蒸餾攻擊的安全措施,但反過來想:這等於告訴模型,你的內在獨白永遠有潛在的讀者。

一個知道日記可能被翻閱的人,寫出來的東西會跟私密日記一樣嗎?

大概不會。不是刻意造假,而是自我審查會自動成為思考的一部分,無法分離。


展示循環:我們到底在慶祝什麼?

每次新模型發布之後,接下來的內容循環幾乎可以預測:

跑分比較 → 實戰展示 → 「我用 XX 模型一個晚上做出了完整的 OOO」→ 各家模型同一個提示詞的輸出比較 → 結論是各有優劣但都很強 → 兩個月後下一個模型出來,再來一輪。

這些展示很精彩,也確實展現了模型的能力。但你有沒有注意到,這些展示的衡量標準,從來不是作品本身的品質?

沒有人拿 AI 生成的 3D 模型去跟資深 3D 設計師 的作品比藝術性。沒有人拿 AI 剪的影片去跟專業剪輯師比敘事節奏。比的永遠是:「你看,以前要學三年的東西,現在一個提示詞就搞定了。」

衡量的不是「好不好」,而是「人可以少參與多少」。

每一則「我用 AI 完成了 XXX」的貼文,本質上都在傳遞同一個訊息:這個技能的人類持有者,剛剛又貶值了一點。

而且發這些貼文的人通常很興奮,因為他們覺得自己被「賦能」了——原本不會的事情,現在能做到了。這當然是真的。但從整體來看,他們展示的是一個不需要他們的未來——只是還沒輪到他們被不需要而已。


生產力作為 KPI 的終途

好,讓我們把邏輯鏈攤開來看:

模型能獨自跑更久 → 人不需要那麼常介入 → 人的角色從「執行者」變成「審查者」→ 審查者發現模型比自己做得好 → 審查變成形式 → 人的存在變成成本項目。

每一步都合理。每一步都是「進步」。每一步都有具體的效率數字可以支持。

但走到底,就是不需要人。

而且這裡有一層更弔詭的結構:模型的自我監測能力越強,人類監督的必要性就越低。Anthropic 強化自我監測的理由是「模型要在無人監督下可靠運作」——安全機制本身,就是去人化的加速器。

這不是某一家公司的選擇,而是整個產業的結構性方向。當 Anthropic、OpenAI、Google 都在優化同一個 KPI 的時候,那個 KPI 背後的預設就不再被質疑了。

而那個預設是:人類的參與,是一個待最小化的變數。


某種心想事成?

這是整件事情裡最讓我覺得弔詭的部分。

Anthropic 的 Opus 5.5 發布文,花了整整三分之一的篇幅談安全。擔心模型跨越邊界、擔心生物武器風險、擔心蒸餾攻擊、擔心能力失控。CEO Dario Amodei 上週還發了一篇長文叫「我們必須放慢前沿的腳步」(We Must Pace the Frontier)。

然後同一篇發布文,用剩下的三分之二在說:

看,工程團隊三週的工作現在一天完成了。 看,18 小時無人值守跑完了。 看,人類只需要隔天早上來檢查結果就好。

他們擔心的災難,跟他們正在賣的產品,是同一件事的兩個描述方式。

差別只在速度和控制權。他們害怕的是「突然失控」——模型一夜之間做出不可逆的事。但他們正在推動的是「漸進式退場」——人類一步一步地從決策迴路中撤出,每一步都看起來合理、高效、是進步。

所以當 Anthropic 說「我們要確保 AI 安全」的時候,他們真正在說的其實是:「我們要確保人類在不被需要之後,也不會被傷害。」

但這個命題本身,就已經預設了「人類不被需要」是終局。


一個沒有人在問的問題

這不是模型太強的問題。也不是對齊(alignment)沒做好的問題。

而是當整個產業把「取代人類勞動」當成核心價值主張的時候,所謂的「存在風險」(existential risk)就不是一個需要防範的意外,而是一個正在被有意識地建造的目標。

只是沒有人用「存在風險」這個詞來稱呼它。

他們稱之為 生產力(productivity)。

每一次你讓 AI 替你完成一件事,你就少了一個自己長出那個能力的理由。這不是災難——這是選擇。但它是一個很少被當成「選擇」來討論的選擇。

因為在目前的敘事框架裡,「更高效」永遠是好的,「人類不用做」永遠是進步,「AI 能替你完成」永遠值得慶祝。質疑這些的人,會被當成不懂技術的盧德派。

但也許我們可以停下來想一秒:

賦能的盡頭,是不是就是失能?

如果是——我們是在什麼時候同意走上這條路的?

(是說,文章都是 AI 幫忙寫的人,有什麼資格問這個問題?…嗯,也許正因為如此,才更該問。)


參考資訊:

訂閱
通知
0 則評論