行情
…

Microsoft Agent Governance Toolkit 強制接管每個 tool call,prompt 安全 26.67% 失敗率催生 runtime 硬攔截

Microsoft 釋出 Agent Governance Toolkit,將 AI agent 安全管控從 prompt 層移至應用層:每個 tool call 與 agent 訊息在發出前先過政策引擎審查,預設拒絕任何出錯狀況。

Microsoft Agent Governance Toolkit 強制接管每個 tool call,prompt 安全 26.67% 失敗率催生 runtime 硬攔截

Microsoft Agent Governance Toolkit 強制接管每個 tool call,prompt 安全 26.67% 失敗率催生 runtime 硬攔截

Microsoft 釋出 Agent Governance Toolkit,將 AI agent 安全管控從 prompt 層移至應用層:每個 tool call 與 agent 訊息在發出前先過政策引擎審查,預設拒絕任何出錯狀況。根據釋出資訊,純靠 prompt 要求 agent 守規矩的失敗率達 26.67%,Toolkit 宣稱可將違規率降至 0%。

工具包宣稱政策檢查耗時 0.012ms,功能涵蓋每個 agent 配備量子安全身份、行為信任評分(滿分 1000 分)、四層特權環境沙盒、防竄改稽核日誌與緊急終止開關,附帶 992 項合規測試,原生接入 LangGraph、CrewAI、AutoGen、Semantic Kernel,覆蓋 EU AI Act、SOC 2、HIPAA,以開源方式釋出。須注意:0%、0.012ms、992 測試、quantum-safe identity 等數字,均來自單一聚合帳號推文,尚未獲 Microsoft 官方查證,口吻偏行銷,請自行驗證。

對做 agent 的工程師而言,真正的訊號在於架構方向的重力位移:prompt-based safety 的侷限已被量化。這意味著硬性管控往執行層下沉幾乎是必然走向,理論上 prompt 最終只剩最外層的軟約束,而未來企業 agent 合規的競爭點,看起來將落在誰的 runtime 攔截層先成為業界標準。

→

繼續閱讀

查看全部 →
NewsAI 快訊

LegalOn 如何砍 65% Codex 成本?按任務路由 Astra/Sol/Luna 的做法

LegalOn 把 Codex 的 Astra、Sol、Luna 按任務分工,日費估算砍 65%、速度持平

DeltaMedia 編輯部2 分鐘
NewsAI 快訊

用 AI agent 自己蒸餾小模型:16 美元做一個 0.8B 模型的完整做法

2026 年 10 月 8 日,Hugging Face 部落格記錄一位開發者透過 ML Intern 將 Qwen-Image 2.1 的 9B 提示詞改寫器蒸餾成 0.8B 版本,從下達需求到取得可部署模型只花了一天。

DeltaMedia 編輯部5 分鐘
NewsAI 快訊

AI 推理成本為何史上下降最快?Epoch 數據與 20 億 AI agent 的算力帳

截至 2027 年出貨的 AI 晶片,理論上可同時支撐 3000 萬至 1.7 億個前沿模型智慧代理不間斷執行,換算全職工時約等同於 1.4 億至 7.2 億名全職員工

DeltaMedia 編輯部6 分鐘
NewsAI 快訊

AI 算力狂飆可養活 20 億個 agent,但市場真有這麼大需求?

Epoch AI 研究顯示,截至 2027 年出貨的 AI 晶片可支援 3000 萬至 1.7 億個前沿模型 agent,若改用低成本模型則可達近 20 億個,但需求是否存在仍是開放問題。

DeltaMedia 編輯部7 分鐘