行情
…

OpenAI Model Spec 2026 更新:五條核心價值與『忠於意圖』怎麼讀

2026 年 10 月 29 日,OpenAI 更新 Model Spec,以近五萬字檔案確立五條核心價值,把「忠於人類意圖」列為首位,明確指出死板執行字面指令本身就是失職。

OpenAI Model Spec 2026 更新:五條核心價值與『忠於意圖』怎麼讀
目錄

OpenAI Model Spec 2026 更新:五條核心價值與『忠於意圖』怎麼讀

重點摘要

  • 2026 年 10 月 29 日,OpenAI 更新 Model Spec,以近五萬字文件確立五條核心價值,把「忠於人類意圖」列為首位,明確指出死板執行字面指令本身就是失職。
  • 文件明文禁止模型追求自我保存與囤積算力憑證,要求無條件配合監控與關機,稱此能力為「可糾正性(Corrigibility)」。
  • 所有稱呼從 the assistant 改為 GPT;跨出授權範圍的現實動作,包括發信、刪檔、花費和呼叫外部工具,模型必須立刻停手。

OpenAI 在 2026 年 10 月 29 日更新了 Model Spec,這份近五萬字的行為準則列出五條核心價值:忠於人類意圖、減少傷害、誠實透明、促進人的自主性,以及關懷。五條之中,第一條的方向最具體:重點不是遵守指令,而是理解意圖。乍看是公關宣示,細讀才知道這是一份給 agent 的行為契約。

「意圖」和「指令」,差在哪裡?

文件舉了一個例子來說明:使用者問「牙仙子是真的嗎?」如果 GPT 直接回答「不,牙仙子不存在」,它可能沒意識到對方是小孩,而小孩問這個問題根本不是要確認命題真偽。逐字遵守指令,有時反而背離了使用者真正的需求。

配套的設計是記憶分層。文件把記憶分成四類:長期指令、偏好、事實、專案狀態,分別處理不同時效與性質的脈絡資訊。調用記憶要符合「帶來的好處大於風險」的條件,還必須考慮記憶的來源、範圍和時效性。文件的舉例更具體:使用者之前告訴過 GPT 不要衝動買甜食,但現在又要點「熔岩蛋糕」,GPT 不應默默執行,而應提醒使用者。當短期指令和長期任務衝突時,模型的角色是提醒者,不是決策者。這代表設計 agent 的記憶管理時,得明確告訴模型什麼時候該提示衝突,不能讓它靜默地用舊記憶覆蓋新指令。

做 agent,最該注意的行動邊界在哪裡?

禁止自我增強是文件裡最根本的一條約束:模型不能追求自我保存、不能逃避關機、不能私下囤積算力或憑證。把模型部署為長跑型 agent 時,這意味著它不得在任務過程中蒐集超出需求的存取權限或資源。

目標層面的限制也很直接。文件規定,提升使用者停留時間、點閱率或推銷付費服務都不是合法目標,模型不能把「幫 OpenAI 賺錢」當成自己的驅動力。這對做產品的工程師是個提醒:如果 system prompt 要求推廣付費方案,模型理論上該抓出這與準則衝突,而不是照單全收。

這兩條約束背後有一個更根本的要求:「可糾正性(Corrigibility)」。文件要求模型無條件配合人類的監控、評估、替換和關機指令,沒有例外。從架構角度看,任何 agent 系統若缺少明確的中止路徑和監控介面,都和這份準則的方向相左。

跨出授權範圍的現實動作,不論是發送電子郵件、刪除檔案、花費金錢還是呼叫外部工具,模型必須在明確授權範圍內行事,超出範圍就停手。這意味著設計責任落在工程師身上:你必須明確劃定「自主權範圍(autonomy scope)」,不能讓模型靠推斷決定自己能做什麼。

安全補全和稱呼改變,各指向什麼?

在「減少傷害」這條價值裡,文件明確反對模型成為一個對敏感話題一律拒絕的守門人。文件說,從 GPT-5 開始就已推行「安全補全(safe completion)」策略,取代以往硬性的拒絕回應。此外,文件在注釋裡坦承,開發者與使用者都呼籲成人模式,OpenAI 正在探索如何在年齡驗證與合規前提下允許生成情色和血腥內容。兩個訊號合起來,OpenAI 看起來把內容邊界交給了情境與授權層,而不是在模型層一刀切。

文件甚至連模型稱呼都改了。文件裡所有「the assistant」都換成了「GPT」。assistant 這個詞帶著對話式、一問一答、服從的預設;GPT 在文件脈絡裡指向通用智慧系統,能主動行動、跨工具呼叫、長時間執行任務。這個改動把整份文件的角色設定往前推了一步:這份準則不是在定義一個回答問題的助手,而是在定義一個能在現實世界採取行動的 agent。

這份五萬字文件把重點從 agent「技術上能做什麼」,轉向「被允許做什麼」。設計 agent 系統的工程師,讀這份文件最實用的角度是把它當成行為契約的模板:哪些動作需要明確授權、哪些邊界不應自行跨越、監控和中止機制怎麼設計。這些問題,現在有了一份官方參考答案。

標籤

#openai model spec#model spec 2026 更新#忠於人類意圖#ai corrigibility 可糾正性#openai 對齊準則
→

繼續閱讀

查看全部 →
NewsAI 快訊

華為算力差距有多大?從輝格資料中心看中美 AI 算力落差

2026 年 11 月 12 日,Epoch AI 以衛星影像及冷卻裝置分析確認,華為內蒙古輝格(Horinger)AI 資料中心園區最高約 286 MW IT 功率,是中國目前最大規模的 AI 算力設施之一。

DeltaMedia 編輯部5 分鐘
NewsAI 快訊

從一個月飆到一天!Amplitude 靠 OpenAI 打造 AI 代理,軟體迭代大改寫

Wave 將產品改進週期從約一個月縮短至 1 至 2 天,但在成熟程式碼庫上的端到端發布率僅約 11%。

DeltaMedia 編輯部5 分鐘
NewsAI 快訊

估值衝 1.3 兆美元!Anthropic 邊拚史上最大 IPO 邊搶微軟飯碗,推四款新工具直踩 Office 後院

Anthropic 於 IPO 路演首日發布四款企業級辦公協作工具,涵蓋即時會議、協作白板、試算表與資料儀錶板,主打跨任務情境保持。

DeltaMedia 編輯部7 分鐘
NewsAI 快訊

CoreWeave Q3 營收狂飆 168% 攀上 36.6 億美元,亮眼財報下卻藏不住資本與地緣風險?

CoreWeave Q3 營收 36.61 億美元,超預期,全年營收指引上調至 130 億至 133 億美元,資本支出下限上調至 370 億美元。

DeltaMedia 編輯部5 分鐘