全球 AI 暫停為何不可能？與核武管制的五個關鍵差異

1/

核爆發生之後，各國才達成核武條約；AI 暫停卻必須在 ASI（超級人工智慧）存在之前就完成。2026 年 6 月 14 日，LessWrong 一篇文章把這個時序矛盾攤開來，逐一拆解為何全球暫停幾乎不可能發生。核心論點是：暫停這個工具和問題本身的結構幾乎不匹配。風險存不存在是另一道題。

2/

核武風險一句話說完：「一顆炸彈炸平一座城市。」ASI 風險要說清楚，大概需要兩個小時加一份 PowerPoint，說完對方還可能把你當科幻小說作者。在 ASI 造成可見傷害之前，跨國政治共識幾乎無從形成。風險抽象，是暫停第一個站不住的地方。

3/

核武條約限制的是武器；AI 暫停要限制的是一套可用於寫程式、藥物研發、材料科學、物理數學和機器人的工具。冷戰時期沒有企業靠賣核彈賺錢，AI 卻早已滲透商業基礎設施。雙重用途（dual-use）使暫停的執行代價極高，技術持續擴散只會推高這個代價。

4/

核武競賽有隱性天花板：能摧毀敵方城市就夠了，沒有人真的需要讓整顆地球報廢的武器。AI 不同，智能沒有「夠強就好」的上限。如果 ASI 的能力可以遠超人類最頂尖的個體，各方繼續往上推的誘因不會自然消退，暫停協議也沒有收斂的著力點。

5/

2026 年，連被稱為「AI 教父」的研究者之間也沒有共識：Bengio 和 Hinton 認為 p(doom)（AI 引發災難的機率估計）偏高且 ASI 時間點相對近，LeCun 兩點都不同意。政策制定者要在這種分歧下達成緊迫性共識，難度只會更高。

驗證問題更根本。核爆測試今天幾乎無法隱瞞，地下測試也難逃偵測；前沿 AI 訓練從外部看只是普通資料中心活動，演算法改進根本不留物理痕跡。有效暫停需要「站在你肩膀後面」等級的實地稽核，在地緣政治現實下幾乎不可能落地。

6/

暫停要成立，需要：風險能示範給人看、代價各方能吸收、競爭有天花板、專家達成共識、違規查得到。目前看來，這幾個條件沒有一個真正成立。ASI 風險很重要。但認真想解決問題的人應該知道，暫停幾乎肯定不是對的工具。