Sequent 是什麼？前 AISI 成員的 AI 對齊新創與研究路線

重點摘要

• 2026 年 6 月 15 日，前英國 AI Security Institute 對齊團隊成員與對齊理論新創 Timaeus 的研究者，共同創立非營利研究機構 Sequent，初期目標募資 1 億至 1.5 億美元
• Sequent 明確批評各大前沿 AI 實驗室的對齊方法「本質上是反應式」，主張在訓練 ASI 之前，現行路線無法給出原則性的安全信心
• 組織計畫兩年內聘用 40 至 80 名全職人員，並表示若能展示多條平行研究路線的探索成果，準備再追加至少一個數量級的資金規模

2026 年 6 月 15 日，根據 Import AI 電子報的報導，一批來自英國 AI Security Institute（英國 AI 安全研究所，下稱 UK AISI）對齊團隊，以及對齊理論新創 Timaeus 的研究者，正式宣布成立非營利研究機構 Sequent。這個組織的核心立場直接挑戰當前主流路線：他們認為，人工超智慧（Artificial Superintelligence，ASI）可能在數年內出現，而對齊研究能否趕上這個時間點，目前看來並不確定。更直接地說，他們的判斷是：以大廠現行的對齊方法，沒有辦法在 ASI 實際訓練出來之前，給出有原則支撐的安全保證。

Sequent 的創辦背景值得留意。UK AISI 曾是英國政府在 AI 安全領域的主要研究機構，Timaeus 則是少數以對齊理論為核心的新創之一。兩個背景的人走到一起另起爐灶，看起來不只是個別研究者的選擇，而是一種集體性的評估：他們在現有機構內做了夠多，然後決定現有的結構不足以推進他們認為最重要的問題。

大廠的對齊方法，問題出在哪？

Sequent 的出發點是一份批判。他們認為，目前各大前沿 AI 實驗室的對齊研究本質上是「反應式」的：發現問題就設計對策，出現安全疑慮就加入新的調整機制。這些方法「雖然能用」，卻無法在訓練 ASI 之前，給出任何有原則支撐的理由，說明為什麼這套方法一定有效，或者在什麼條件下會失敗。

核心問題可以用一個具體的問句來描述：在受控環境（例如訓練過程、或是實驗室內的評估情境）觀察到的對齊行為，真的會泛化到無法輕易控制的場景嗎？比如大規模執行、長時程任務，或是在現實世界中自主展開的行動。目前沒有人能在訓練前就嚴謹地回答這個問題，只能靠事後觀察。

這個缺口正是 Sequent 要填補的。他們的目標不是「讓模型在測試集上通過安全評估」，而是找到有原則支撐的理由，說明「在受控環境觀察到的對齊，會泛化到我們無法輕易控制的場景」。把這個問題從一個隱性假設，變成可驗證的命題，是他們整個研究計畫的起點。

Sequent 押注哪些研究方向？

Sequent 的策略是投資組合式的研究押注，而非集中在單一路線。他們點名的幾個方向，都偏向理論和數學工具，而非純粹的實驗性方法。

可擴展監督（Scalable Oversight）探討的是：當 AI 能力超越人類判斷範圍時，如何維持有效的監督？這個問題在業界已有討論，但尚未有公認的解法。學習理論（Learning Theory）試圖從統計學習和最佳化的角度，在訓練過程與模型行為之間建立更嚴格的理論連結，目標是理解「為什麼某個對齊方法有效」，而不只是觀察到它在某個基準上有效。啟發式論證（Heuristic Arguments）介於嚴格數學證明和純粹實驗觀察之間，試圖在無法完整形式化的情況下，建構有說服力的安全論證。博弈論（Game Theory）則處理多個 AI 系統之間、以及 AI 與人類之間的策略性互動，對齊問題在多代理人環境下有不同的結構性挑戰。

Sequent 同時說明，他們不打算只靠自己的研究，計畫與在對齊理論上有不同押注的「姐妹機構」合作。這個姿態，看起來是在承認：沒有任何一個團隊能確定哪條路是對的，所以分散佈局比集中賭注更合理。

規模計畫的邏輯是什麼？

初期資金目標是 1 億至 1.5 億美元，計畫兩年內建立 40 至 80 人的全職研究團隊。Sequent 同時說明，若能在多條平行研究路線上展示有效探索，準備再追加「至少一個數量級」的資金，即初期規模的十倍以上。

這個順序安排本身就是一種立場：先以相對精簡的規模驗證研究方向，有具體突破再放大。和許多 AI 新創「先拿大錢、用規模換進展」的模式相比，Sequent 的邏輯看起來是，對齊研究的瓶頸目前不是計算資源，而是思路，專注理論的小團隊比大規模的實驗工廠更可能解決他們所定義的問題。這個假設本身是否成立，目前是開放的。

值得對照的是：40 至 80 人是個相對精簡的規模，和各大前沿 AI 實驗室的安全團隊相比，Sequent 顯然不打算在人力規模上競爭。他們要打的牌，是理論深度而不是工程廣度。如果這個判斷是對的，那麼每個研究者的選題和方法論選擇，都比一般 AI 機構更為關鍵。

對做對齊與安全微調的工程師，這代表什麼？

在 AI 實驗室或新創公司做對齊、RLHF、安全微調的工程師，Sequent 的出現有幾個值得直接面對的含義。

首先，這是一張對現行方法的體制性質疑票。當一批在體制內做對齊研究的人選擇另起爐灶，並把現行方法的根本限制寫進創立聲明，這不是外部批評，而是內部診斷：以目前的方法，沒有原則性的理由相信 ASI 出現時對齊問題已被解決。

其次，Sequent 要回答的核心問句，同樣是目前所有做安全評估的工程師都沒有嚴格答案的問題：訓練時的對齊，部署後還算數嗎？如果 Sequent 的理論研究找到可操作化的答案，現行的安全評估框架可能需要對應的補強；如果他們找不到，這個問題的難度本身就是一個有用的信號。

第三，Sequent 的研究方向和目前工程師在產品端做的安全工作有一段距離。短期內產出很可能是論文和理論框架，而不是可以直接接進訓練 pipeline 的工具。追蹤他們的方式，應該是看理論是否逐漸有可操作化的路徑，而不是等待開箱即用的技術降落。

對齊領域從來不缺「我們需要更好的理論」這樣的聲音。Sequent 的意義，在於這句話終於由一批決定自己去做的人說出來，而且附上了具體的資金規劃、人員規模和研究方向。他們能否真的把「可控環境的對齊是否泛化」從一個開放問題變成可驗證命題，是接下來兩年最值得盯緊的對齊研究線索之一。