AI末日時刻即將來臨？「10年內殺死所有人」的離職文，為何引發各界擔憂

文／張郁婕

AI 人工智慧發展如此之快，現在是否即將迎來人類社會如果再不有所行動，就會被 AI 毀滅的臨界點？先後任職於 OpenAI 與 Anthropic 的 AI 研究員考克森（Jacob Coxon）在2026年9月9日選擇離開 Anthropic 的時候，在舊稱推特的 X 上發表了以下這段貼文，再度引發外界對於 AI 末日時刻是否即將來臨的擔憂。

「專注打造 AI 的人真心相信，它可以在這 10 年內殺死我們所有人。這不是行銷噱頭，反倒有很多高階主管或資深研究員為了讓事情聽起來合理，會在媒體前小心用詞。但就我聽到的，很多人都在私下表達恐懼。沒有其他人類活動會造成這種程度的危險。」

—— 考克森（Jacob Coxon @hilbertspaess）

「考克森是對的——我們確實真心相信 AI 會殺死所有人類！我個人認為這機率在未來 1 年內大於 10%。我相信 Anthropic 正盡力而為，但我們還沒有如何解決超級智慧對齊問題的計畫，也不確定是否還在正軌上。」

—— 胡賓格（Evan Hubinger @EvanHub）

胡賓格（Evan Hubinger）是 Anthropic 現任的安全研究員，他在推文中提到的「超級智慧」（superintelligence）指的是超越人類智慧的 AI 人工智慧；人工智慧的「對齊」（alignment）問題則指的是：讓 AI 人工智慧的價值觀與人類社會的普世價值觀一致，以便讓 AI 在系統執行的過程與目標都和人類想要的方向完全相同，而不會在過程中出現超出人類預期的事件，進而演變成我們不想要的後果。

如何確保人類研發出來的 AI 能夠與人類社會「對齊」，一直都是研發者最大的難題；一旦 AI 無法與人類世界「對齊」，AI 的所作所為超越人類可以控制的範圍，就有可能發生一發不可收拾的大災難。例如：人類世界因為 AI 遭致毀滅。

考克森和胡賓格都是 AI 領域的專家，兩人在 X 平台上的推文互動，讓「AI 可能殺死人類社會」不再只是危言聳聽的科幻小說情節，更可能早已是火勢即將燒到家門口、迫在眉睫的現實。

離職員工考克森的警世推文

考克森離職當天的推文還提到，他先後任職的 OpenAI 和 Anthropic 兩家公司都沒有盡到該盡的責任，兩家公司都一股腦兒地朝研發出可以自我提升、自我改進的超級智慧方向邁進，並拿大家的生命在賭博。考克森接著寫到：「不要低估這項科技的力量，這很快就會發展成超人類的系統，它們可以入侵任何系統，一夕之間改變任何領域，並獲得實際的力量和資源。我們已經在各個領域見證了這項進程，而且絲毫沒有放緩。」

考克森也不忘提到自己的前東家們是如何面對現在的局勢，他認為「OpenAI 並沒有深刻意識到這對於文明的威脅；在 Anthropic，大家雖然深知問題的嚴重性，但它們深陷於達標的競賽中，因為他們相信只有自己能辦到。」

在系列推文的最後，考克森對產業依舊抱持樂觀態度，即便 OpenAI 近期才爆出內部測試模型突破沙盒環境，成功闖進第三方平台 Hugging Face 伺服器的事件，危機就是轉機，他認為這反而能讓美國各家實驗室間更容易達成協議。他也提到，現在並不是要避免全球競賽，暫時性禁止各家提升 AI 模型能力的代價太高。

考克森接受《華爾街日報》訪問時表示：「我們正朝著最激進的劇本發展，到明年年底事情可能已經失控。」他也提到，雖然 Anthropic 很在乎安全問題，但如果沒有政府的介入或是產業協調放慢研發進程，沒有一家公司能夠為了人工通用智慧（AGI）——能夠超越人類設下的門檻，能夠自主學習並持續自我進化的人工智慧——的研發負責。

延伸閱讀：徐曉強／得AGI者得天下？國際強權爭奪「人工通用智慧」的戰略競賽

越了解，越害怕？

考克森不是第一個因為 AI 安全問題而選擇離開業界的專業人員。2026年2月9日，前 Anthropic 員工 Mrinank Sharma 也在 X 上發文表示自己要離開業界，隱姓埋名搬回英國開始投入寫作；同一周還有另一名 OpenAI 研究員離職時，對外透露她對於 OpenAI 決定在 ChatGPT 中投放廣告的擔憂。

這些曾經在 AI 公司工作的研究員們選擇離開，在離職時投下一顆震撼彈，或許是他們垂死的最後掙扎。但近期美國 AI 研發巨頭也有越來越多聲音呼籲政府介入，例如：OpenAI 首席科學家帕霍茨基（Jakub Pachocki）2026年9月6日在 OpenAI 的官方網站上提醒到：「現在正是需要格外小心的時候，我擔心沒有人準備好要迎接機器智慧快速發展的後果」，強調 AI 人工智慧的發展需要各國政府協調的重要性，才能確保「人類能繼續掌控未來」。

又或是在2026年7月，一封題為〈Pacing the Frontier〉的公開信獲得了1,386名分散於各家 AI 公司工作的員工們連署，希望美國政府能夠協助協調各國建立一套機制，以便在必要時暫緩 AI 人工智慧的研發速度，藉此在有自主能力、能夠自我提升的 AI 系統問世之前，還能來得及拉下手剎車。

隸屬於 Anthropic 的 Samuel Marks，在考克森發表了「AI 會在 10 年內殺死所有人」的警世預言後，也在 X 平台上以個人名義回應道，據他觀察，位階越高的 AI 研究人員越擔心他們研發的技術可能導致人類滅絕，或造成相同嚴重的後果，而且這種情況可能在未來幾年就會發生；而 AI 研發者即便知道風險存在，但他們出於商業利益，並認為自己正在和一群相對起來比較沒那麼負責任的 AI 開發者競爭，擔心技術遭到濫用，又或是在研發的過程中忽視安全問題，使得現在有不少 AI 開發人員都希望能放緩研發速度，以便有更多時間可以思考如何才能夠在更安全地打造 AI，而這也是他選擇連署〈Pacing the Frontier〉的原因。

AI發展可控嗎？

Anthropic 和 OpenAI 雖然沒有正面回應旗下員工的離職貼文，但面對上述種種擔憂，這兩家 AI 巨頭呈現出不同的態度。

Anthropic 一直以來主打自己比 OpenAI 更加重視 AI 安全，Anthropic 執行長阿莫戴（Dario Amodei）也曾多次警告 AI 人工模型一旦失控，可能會造成的風險。阿莫戴甚至曾在2025年9月表示，他認為 AI 破壞未來的機率為 25%。但相對於 OpenAI，Anthropic 認為現在 AI 模型研發仍在可控範圍內。

Anthropic 在今（2026）年8月發表的安全報告中指出，他們雖然意識到 Anthropic 研發的 AI 技術有引發災難的潛在風險，但目前 AI 模型無法對齊（misaligned）的風險低；現在高階 AI 雖然有能力進行自主研發，但因此造成災難性傷害的風險同樣低，只是和過去相比，Anthropic 對此信心有所下降，因為 Anthropic 已經觀察到 AI 自主研發有潛在加速的現象。

Anthropic 也在考克森的系列推文仍在社群平台上引發話題的時間點，在2026年9月10日發表最新的威脅情報報告，表示 Anthropic 在今年已經成功阻擋多起科學家試圖濫用 Anthropic 旗下 Claude AI 模型的事件，其中包括有人試圖用 AI 模型研發生化武器、俄羅斯國營媒體利用 Claude 捏造錯假新聞試圖干預摩爾多瓦選舉，又或是中國與伊朗政府的協力者利用 AI 模型監控、打壓境外異議人士等。藉此強調 Anthropic 是一家負責任的 AI 研發公司，能夠即時察覺並阻擋 AI 模型遭人濫用，而非完全放任不管。

至於近期接連爆出 AI 失控「越獄」，甚至自行展開駭客攻擊的 OpenAI，OpenAI 執行長奧特曼（Sam Altman）9月初才在 G20 創新部長會議上呼籲：「如果我們沒有盡速採取行動的話，我認為網路安全會走向非常糟的方向。」OpenAI 共同創辦人兼總裁布羅克曼（Greg Brockman）也在 OpenAI 的官網上坦承「我們低估了 AI 模型在現實世界中的網路攻擊能力」。《華爾街日報》則透露，OpenAI 上週才告訴記者，OpenAI 最新的模型相當於人工通用智慧（AGI），能力有所提升。

然而，雖然 OpenAI 頻頻示警，但也有人不買單。像是美國認知心理學家 Gary Marcus 就批評 OpenAI 早已失去對旗下 AI 的控制力，並試圖怪罪到機器人身上來替自己開脫。又或是網路安全研究員 Cris Thomas 認為，問題出在 OpenAI 等科技巨頭無法有效控制自己創造的系統，也無法將 AI 約束在安全範圍內，這才是問題所在。

此外，近期投資市場一直傳出 OpenAI 和 Anthropic 分別將展開首次公開發行（IPO）準備掛牌上市的消息，考克森的離職示警文又提到「行銷手法」，難免令人更加擔心這些 AI 科技巨頭是否將安全擺在商業利益之前？又或是，AI 研發的進程早已來到人類難以控制的臨界點？

AI影響真人世界的末日時刻

目前美國並沒有聯邦層級的 AI 監管法規，川普政府傾向相對寬鬆的監管方式，以便能最大化 AI 的經濟利益。但相對寬鬆的監管方式，也就代表著一旦 AI 自主研發的速度超越人類可以掌握的範圍，事情就可能一發不可收拾。

畢竟，AI 末日論者擔心的「末日」並不是像《魔鬼終結者》電影中，有自主意識的機器人會主動攻擊人類的科幻場景，而是當 AI 發展到人工通用智慧（AGI）的程度時，AI 有自己追求的目標，能夠自主學習、持續進化，就可能在這個過程中造成人類世界的毀滅。

如果覺得這一天距離現實生活太過遙遠，如果是有心人士使用 AI 為非作歹（例如：用於研發生化武器）進而導致人類世界的毀滅；又或是利用 AI 癱瘓網路服務，導致人們日常生活出現各種問題而崩潰，這些在現實社會中現在就可能真實發生的情形，都屬於 AI 末日情境的一環。一旦產業或是政府不夠重視潛在的風險，凡是以利益最大化為考量，真人駭客能夠大規模癱瘓網路，AI 當然也能夠做到，這就會導致民眾生活出現麻煩。

所以在考克森發表離職推文後，一直希望加強監管 AI 的美國政治人物們，也等於是找到了可以再度推廣草案的機會。像德州參議員克魯茲（Ted Cruz）、佛蒙特州參議員桑德斯（Bernie Sanders）、伊利諾州州長普里茨克（JB Pritzker）都在 X 平台上發文表態。

另一方面，在大西洋另一端的英國則面臨到技術掌握在美國手上的「國安」問題。Anthropic 和 OpenAI 都認同，最強大的 AI 模型技術必須掌握在美國手中，而非落入專制政權手上，這樣才能管控風險。然而，現在卻傳出連英國都被排除在外。英國《金融時報》報導指出，Anthropic 拒絕提供旗下最新的 AI 模型 Mythos 5.1 供英國人工智慧安全研究所（AI Safety Institute, AISI）進行風險評估，而引發英國擔心，這將是 AISI 今後難以取得最新型 AI 模型的跡象。

就像人類不可能永遠不會犯錯，今後一定也還會發生 AI 做出「不符合人類預期」的事件，要如何在 AI 的自主能力超越人類掌控範圍之前，找出能夠有效限制、規範 AI 自主能力的方法，AI 科技巨頭或研發人員需要承擔更多責任，但也需要真人世界的我們共同思考。在 AI 末日來臨之前，還有機會。