當心終結者！反對「AI武器化」，全球學者抵制韓國KAIST大學

【2018. 4. 05 南韓】

當心終結者！反對「AI武器化」，全球學者抵制韓國KAIST大學

南韓最頂尖的理工大學「KAIST」（譯：韓國科學技術院），日前與韓國軍火工業的龍頭「韓華集團」，針對人工智慧技術的國防化使用，簽字成立了產學合作研究所。然而相關合作，卻遭學界質疑「開啟了AI武器化的潘朵拉盒子」。因此4月4日，全球57名頂尖的AI學者——包括政治大學資科系的劉昭麟教授在內——也共同連署，對誤入歧途的KAIST發起學術抵制。

位於大田廣域市的KAIST大學，是韓國的強人總統朴正熙，為了發展國家科技實力，而於1971年下令成立的頂尖理工學府。至今，KAIST不僅被部分外媒稱作「韓國MIT」而享譽國際，也是南韓國內前五志願的菁英名校。

今年2月份，KAIST宣布與南韓軍火龍頭——韓華集團——旗下的「韓華系統公司」（Hanwha System），簽署了產學合作協議，並成立「國防與人工智慧整合研究中心」，欲結合韓華的軍事經驗與60名KAIST專家學者的科技技術，將韓國的國防AI發展「拓展至世界級的頂尖規模」。

然而KAIST與韓華的合作，卻引發了全球學界的強力譴責，其中長期反對並警告「AI軍事化」的澳洲新南威爾斯大學AI專家托比．威爾許教授（Prof Toby Walsh），4日就與全球57位頂尖的領域專家學者，共同對KAIST發出抵制聲明，要求主事的申星哲校長「回頭是岸」。

聲明指出，韓華KAIST研究中心成立時，曾有報導指稱雙邊產學合作的終極目的，是為了「將AI技術，應用在軍事武器上，並以之加入自動化兵器的全球競爭」；但AI武器化的結果，卻可能引發「全球軍火市場的第三波革命」，並開啟科技災難的潘朵拉盒子。

目前在全球軍火業界，美國、俄羅斯、中國、以色列與南韓，都是致力於AI武器化的積極國家；但像是Tesla的執行長馬斯克（Elon Musk）、知名AI公司「DeepMind」的共同創辦人穆斯塔法．蘇萊曼（Mustafa Suleyman），卻都極力警告軍事化AI，可能會對人類造成「存亡威脅」，因此聯合國也準備將在4月中旬，在日內瓦召開會議，討論防堵AI武器化的可能共識與協定方案。

抵制派學者們的連署書認為，AI武器化將大幅擴張軍事武器的殺傷力與破壞效率，無論是被科技集團與政府壟斷，還是被恐怖組織、有心人士持有，都是極為駭人的光景。因此，威爾許等人才主張，AI兵器化的研究，應該比照1995年聯合國《關於雷射致盲武器的議定書》一般，「趁我們還有機會的時候，阻止災難。」

目前，學界抵制的行動，包括凍結一切與KAIST的學術交流與研討；但在接獲消息後，KAIST校長申星哲，卻不打算撤銷與韓星的既定合作，反澄清KAIST與韓華「並沒有要研究『戰鬥機器人』的意思」，雙邊研究雖是國防需求，但都是以「防衛為主」的應用計畫。

《金融時報》報導，韓華與KAIST的國防AI應用，目前已公佈有四大方向，分別是（1）AI化的指揮與決策性統；（2）無人水下載具（潛艇）的導航演算法技術；（3）AI化的智慧型飛行模擬器；（4）AI化的智慧型目標追蹤與辨識科技。

與KASIT合作的韓華系統公司，原本是三星集團旗下的軍火單位，但在2014年三星少主李在鎔決定放棄三星軍火部門後，各單位才統一賣給了從火藥製造起家的韓華集團。其中韓華系統公司，負責的則是雷達、電戰與作展指揮系統等產品。

根據瑞典「斯德哥爾摩國際和平研究所」（SIPRI）去年年底的數據報告，在2017全球百大軍火企業中，韓華旗下就有3家軍火分公司上榜——假若結合3者產值，韓華也將成為南韓第一大的軍火龍頭。

目前在韓國，軍工企業「DoDAAM Systems」，已向市場推出了名為「超級神盾二式」（Super aEgis II）的機槍機器人，據稱能自動辨識、精準射擊3公里以內的敵意目標。目前超級神盾二式已展開商業外銷，但製造商卻表示：「所有買家都要求系統必須增列人工授權開火的『強制防火牆』機制，因此實務銷售上，超級神盾二世還未達到全自動化、AI化的程度。」