行情
…

AT&T 為何把 40% AI 用量轉向開源模型?企業 hybrid routing 案例

8 月 20 日,@Hesamation 在社群媒體整理了 AT&T 內部 AI 部署資料,提供了目前企業混合路由策略最清楚的一份公開樣本。

AT&T 為何把 40% AI 用量轉向開源模型?企業 hybrid routing 案例

AT&T 為何把 40% AI 用量轉向開源模型?企業 hybrid routing 案例

8 月 20 日,@Hesamation 在社群媒體整理了 AT&T 內部 AI 部署資料,提供了目前企業混合路由策略最清楚的一份公開樣本。核心數字:AT&T 員工 AI 用量中已有 40% 路由到開源模型,目標是拉到 60-70%;在程式開發任務上,成本降了 56%,品質只降了 2%,整體日耗量達 45B tokens。這幾個數字合起來說明了一件事:AT&T 已在生產規模驗證,大多數企業的 AI 需求並不需要最貴的模型,前沿閉源模型只要留給最不能出錯的任務就好。

這套路由架構的分工邏輯很簡單。難度高、容錯低的任務留給前沿閉源模型;例行性、重複量大的需求,包含大部分程式開發工作,交給開源替代。用 2% 的品質折損換取 56% 的成本節省,這個交換比率已經在程式開發上得到驗證。而 45B tokens 的日消耗量更證明了規模:這不是某個部門的 PoC(概念驗證),而是橫跨大量員工的正式生產部署,代表 AT&T 整個組織都接受了這個折損條件。

@amir 認為這份資料對 OpenAI 與 Anthropic 的定價權釋出了警訊。結構上的問題很直接:當企業有六到七成的 AI 用量轉向開源,閉源前沿模型就只能靠剩下三到四成最難的任務來撐起訂閱收入。照 AT&T 的路由邏輯推算,一旦達成目標,「值得付全價」的任務比例恐怕不超過四成。隨著開源模型能力持續追趕,這個比例看起來只會繼續縮,不會擴。對工程主管來說,AT&T 的數字把選擇變成操作:路由策略(難題走閉源、常規走開源)已是可直接參照的成本結構,56% 降本、2% 品質折損是具體的校準點。接下來的問題是:自家有哪些工作流程,已跨過開源替代的品質門檻?

標籤

#at&t ai#開源模型 企業採用#hybrid routing#開源 vs 閉源 llm#企業 ai 成本
→

繼續閱讀

查看全部 →
NewsAI 快訊

LegalOn 如何砍 65% Codex 成本?按任務路由 Astra/Sol/Luna 的做法

LegalOn 把 Codex 的 Astra、Sol、Luna 按任務分工,日費估算砍 65%、速度持平

DeltaMedia 編輯部2 分鐘
NewsAI 快訊

用 AI agent 自己蒸餾小模型:16 美元做一個 0.8B 模型的完整做法

2026 年 10 月 8 日,Hugging Face 部落格記錄一位開發者透過 ML Intern 將 Qwen-Image 2.1 的 9B 提示詞改寫器蒸餾成 0.8B 版本,從下達需求到取得可部署模型只花了一天。

DeltaMedia 編輯部5 分鐘
NewsAI 快訊

AI 推理成本為何史上下降最快?Epoch 數據與 20 億 AI agent 的算力帳

截至 2027 年出貨的 AI 晶片,理論上可同時支撐 3000 萬至 1.7 億個前沿模型智慧代理不間斷執行,換算全職工時約等同於 1.4 億至 7.2 億名全職員工

DeltaMedia 編輯部6 分鐘
NewsAI 快訊

AI 算力狂飆可養活 20 億個 agent,但市場真有這麼大需求?

Epoch AI 研究顯示,截至 2027 年出貨的 AI 晶片可支援 3000 萬至 1.7 億個前沿模型 agent,若改用低成本模型則可達近 20 億個,但需求是否存在仍是開放問題。

DeltaMedia 編輯部7 分鐘