AT&T 為何把 40% AI 用量轉向開源模型?企業 hybrid routing 案例
8 月 20 日,@Hesamation 在社群媒體整理了 AT&T 內部 AI 部署資料,提供了目前企業混合路由策略最清楚的一份公開樣本。

8 月 20 日,@Hesamation 在社群媒體整理了 AT&T 內部 AI 部署資料,提供了目前企業混合路由策略最清楚的一份公開樣本。核心數字:AT&T 員工 AI 用量中已有 40% 路由到開源模型,目標是拉到 60-70%;在程式開發任務上,成本降了 56%,品質只降了 2%,整體日耗量達 45B tokens。這幾個數字合起來說明了一件事:AT&T 已在生產規模驗證,大多數企業的 AI 需求並不需要最貴的模型,前沿閉源模型只要留給最不能出錯的任務就好。
這套路由架構的分工邏輯很簡單。難度高、容錯低的任務留給前沿閉源模型;例行性、重複量大的需求,包含大部分程式開發工作,交給開源替代。用 2% 的品質折損換取 56% 的成本節省,這個交換比率已經在程式開發上得到驗證。而 45B tokens 的日消耗量更證明了規模:這不是某個部門的 PoC(概念驗證),而是橫跨大量員工的正式生產部署,代表 AT&T 整個組織都接受了這個折損條件。
@amir 認為這份資料對 OpenAI 與 Anthropic 的定價權釋出了警訊。結構上的問題很直接:當企業有六到七成的 AI 用量轉向開源,閉源前沿模型就只能靠剩下三到四成最難的任務來撐起訂閱收入。照 AT&T 的路由邏輯推算,一旦達成目標,「值得付全價」的任務比例恐怕不超過四成。隨著開源模型能力持續追趕,這個比例看起來只會繼續縮,不會擴。對工程主管來說,AT&T 的數字把選擇變成操作:路由策略(難題走閉源、常規走開源)已是可直接參照的成本結構,56% 降本、2% 品質折損是具體的校準點。接下來的問題是:自家有哪些工作流程,已跨過開源替代的品質門檻?
標籤


