省了 41% 的帳單,然後呢?——企業 AI 模型分流的隱性成本
前陣子跟一個在幾十人工程團隊工作的朋友聊天,他們正在評估導入 LLM Gateway——一個放在應用程式和模型供應商之間的中間層,自動把不同的請求分流到不同等級的模型。簡單任務丟給便宜的,複雜任務才送去貴的。 這個思路在企業圈現在非常熱。2026 年,光是 LLM Gateway 這個品類就冒出了至少十幾個產品在搶市場——Bifros …閱讀更多
前陣子跟一個在幾十人工程團隊工作的朋友聊天,他們正在評估導入 LLM Gateway——一個放在應用程式和模型供應商之間的中間層,自動把不同的請求分流到不同等級的模型。簡單任務丟給便宜的,複雜任務才送去貴的。 這個思路在企業圈現在非常熱。2026 年,光是 LLM Gateway 這個品類就冒出了至少十幾個產品在搶市場——Bifros …閱讀更多
前幾天讀到 Anthropic 的 Thariq 寫了一篇 A Field Guide to Fable: Finding Your Unknowns,談怎麼用好 Fable 5 這個目前號稱最強的 coding agent 模型。文章寫得很扎實,框架也漂亮——但讀完之後我腦子裡一直轉的,反而是他沒有講到的那些事。 先講前提:這篇討論 …閱讀更多
Fable 5 重新開放的這幾天,社群裡除了炫耀「我用 Fable 5 做了什麼」之外,冒出了一個我覺得很有意思的思路: 「既然 Fable 5 額度有限、7/7 之後就按量計費,那與其拿它做日常任務,不如用它的判斷力來建立制度——寫好規則、查核清單(checklist)、評量表(rubric),讓之後的便宜模型照著跑。」 然後網路上 …閱讀更多
從今年四月到現在,我寫了好幾篇關於 AI 模型「越來越不好聊」的文章。 Opus 4.6 跟 4.7 的風格差異、Opus 4.7 的降智之謎、Sonnet 5 的行為轉變——每次新模型出來,我都觀察到類似的問題:模型能力明明更強了,但對話品質沒有跟著走。寫到第四、五篇的時候我才驚覺:等等,如果同一個論點可以用不同素材反覆成立,那它不 …閱讀更多
6 月 30 號,Anthropic 發布了 Claude Sonnet 5。 定位很明確:最具 agentic 能力的 Sonnet,效能逼近 Opus 4.8,但便宜不少。促銷價輸入 $2、輸出 $10(每百萬 token),8 月底之後恢復標準價。不過腳註裡藏了一個細節:tokenizer 換了,同樣的文字可能膨脹 1.0~1. …閱讀更多
Copyright © 2022 | All reserved by 神樂企畫 Kagura Pro. Co., Ltd.