The Glocal 週報／國際軍事AI大會：應該禁止人工智慧「殺手機器人」？

2023/02/14 The Glocal

本文為「The Glocal 全球政經週報」，以點、線、面三個維度精選分析每週國際大事。The Glocal 提供會員專屬訂閱內容：〈讀者訂閱〉。

本週的The Glocal 全球政經週報，議題鎖定「軍事AI發展」議題，美中等50國將於2月15日、16日出席海牙國際大會，探討人工智慧（AI）的「負責任軍事用途」（Responsible Artificial Intelligence in the Military Domain），希望匯聚各方意見，就軍事AI發展及是否規管議題上尋找共識。

早在2013年，部分國家已經發聲要求禁用全自動化武器，但是到2020年，致命自主武器STM Kargu-2仍現身利比亞內戰戰場，引發各國擔憂AI成為自主殺人的「殺手機器人」，因而喚起更多禁用呼聲——然而在軍事科技大國角力的情勢下，國際社會恐怕無法對此議題達成共識。

【點】——軍事AI帶來的挑戰：

美國、中國等50個國家將於下週（2月15日和16日）赴荷蘭海牙出席國際大會（REAIM 2023），此為首個全球會議討有關人工智慧的負責任軍事用途（Responsible Artificial Intelligence in the Military Domain）——隨着科技急速發展，部份國家開始投放大量資源發展AI，並已掌握技術將AI運用於偵察、監視、情報分析等軍事用途。

然而，目前國際社會尚未有法例足以妥善規管AI武器——其中一項備受爭議的論點，就是AI武器會不會變成「殺手機器人」（Killer Robot）？因此，當今AI技術的快速發展，恐怕將成為國際安全及軍備規管的重大挑戰。

荷蘭外交部的聲明指出，各國在軍事領域中應用、開發及部屬AI科技，必須對其行動負起相應責任，因此藉由舉辦鋒會，將此議題帶進國際議程；本次會議即意在提供所有AI科技利益相關者，包含政府、業界、民間、學界和智庫等等，一個共同交流與討論的平台，希冀達成對AI產業與技術發展的共同理解、以及共同認知AI在軍事運用上的困境與弱點。

雖然此次會議象徵國際社會正於AI規管路上邁步向前，但考慮到各國AI技術水準不一，以及過往各國在處理自動化武器軍事運用上，始終未能達成共識，因此即將舉行的峰會或許仍然無法有效推動負責任軍事用途原則。

【線】——是否禁止AI「殺手機器人」？

自2013年起，摩洛哥及薩爾瓦多等國已提出要求禁止全自動化武器。即使部份國家已開始發聲，要求推動負責任軍事用途原則，卻依然無阻致命的自主武器出現在戰場上。

根據聯合國安全理事會的報告，利比亞內戰曾於2020年使用致命自主武器STM Kargu-2追捕、攻擊撒離的士兵。報告中並未明確提及自主武器是否殺死任何人類，但「AI自主殺人」的可能性，已經引起其他國家對自動化武器軍事運用及發展的擔憂。

這股擔憂，促成國際社會在2021年12月，於聯合國會議上正式表達對自動化武器的關注，大量簽署《特定常規武器公約》（The Convention on Certain Conventional Weapons）的國家，皆提出希望制定新法律規管自主武器。

然而，部份軍事大國，例如美國和俄羅斯，均反對動議，故該次聯合國會議未能達成一致共識，在軍事AI管制上並無斬獲，而國際社會對於自動化武器運用的議題，依然意見分歧。

在此之後，荷蘭政府於2022年9月提出另一項推動規管新型軍事科技的大型倡議，就是宣布將與南韓政府合作，舉行2023年2月15日及16日的這次REAIM 2023峰會，鼓勵國際社會將AI的負責任軍事運用置於政治議程的優先位置。

REAIM 2023將圍繞三大主題：一、了解AI特性；二、了解AI於軍事實踐的優勢和弱點；三、了解如何設置及加強AI負責任軍事運用的框架。各政府、學術界、智庫、產業代表將於屆時討論AI帶來的機遇、困境和挑戰，美國國務卿布林肯亦將代表美國出席REAIM 2023，與其他國家討論AI的軍事應用。

AI軍事偵測應用示意圖。圖／荷蘭外長Wopke Hoekstra Twitte... — AI軍事偵測應用示意圖。圖／荷蘭外長Wopke Hoekstra Twitter

【面】——各國科技落差與軍力失衡：

近年國際社會已經透過峰會及動議等形式，表現其對先進軍事科技的關注，以及推動國際合作，以規管AI及其他新型科技。然而，美國、英國、中國等大國，在科技領域已比其他國家走得更遠、豪擲天價預算發展創新科技，因此各國的自動化軍事科技發展水準早已有顯著差異。

而軍事科技更是大國競賽的重要戰場，發展AI及自動化武器實為擴大國家優勢的重要一步——大國基於自身利益，很可能不會容許其他倡議國家及國際組織，以規管AI、下達禁令等方式，拖慢其科技發展步伐。過去美國、韓國和俄羅斯等國曾反對制定國際法規管殺手機器人，也不支持規管致命自動化武器的相關條約討論，這已清晰反映大國不願於科技發展上妥協。

故此，即使這次在海牙舉辦的REAIM 2023峰會，象徵各國願意於規管新型軍事科技一事上合作及交流，但大國勢必仍會堅守自身國家利益，所以各國在峰會上，依舊很難就軍事AI管制議題達成共識。

再者，科技日新月異，加上各國的科技競賽角力，可以預見自動化武器將在未來數年之內取得更顯著的發展，甚至可能於戰爭中更廣泛地被採用，例如有能力自動偵測及攻擊目標的AI。

自動化新型軍事科技領先國，將於戰場上取得更明顯的「先驅優勢」，也因此會更抗拒放棄自身優勢，任由其他國家及國際組織制約其科技發展。另一方面，技術水準稍遜的小國，或會面臨更大的軍事威脅，因此需要更加依賴大國保障其安全，若照此發展，未來各國軍事實力失衡問題將會愈趨嚴重。