電馭新疆的「AI暴政」：中國數位恐怖的維吾爾監控再進化

2020/12/21 Kita

「以 AI 分辨種族面譜、針對維吾爾人執行監控」是否只是天馬行空？由於維吾爾人與... — 「以 AI 分辨種族面譜、針對維吾爾人執行監控」是否只是天馬行空？由於維吾爾人與漢人的臉孔特徵十分不同，AI辨識技術難度並沒有想像中高。中國當局所企圖構築的，是一個什麼樣的社會控制圖像？是怎麼樣的一個美麗新世界？圖／美聯社

2009 年 7 月，中華人民共和國成立以來新疆最嚴重的族群衝突事件——「七五事件」爆發，事件爆發一週後，烏魯木齊仍實施宵禁，南疆處於半緊急狀態，公路上每個進城的路口都安了哨口和滿滿的武裝警察，我自中巴邊境的塔什庫爾干縣下山，預備進入喀什市區，輾轉休息後前往墨玉縣。

劇降兩千多米的海拔落差教我頭直發疼，一股腫脹的炸裂感填塞了頭蓋骨內緣。只見進喀什的哨口亂哄哄的，層層鐵網路障前，人們被趕下車，人車分離地接受盤檢。我不以為意，下了車、打開台胞證，在幾個持槍的武警的眼前，晃了晃，過了關。

短短的通關過程，我注意到檢查台旁卻有人沒像我這般好運，是個 20 出頭的年輕男人，戴著眼鏡：

「……我是新疆大學的學生，學校放暑假才會來這裡的，放假了去塔縣轉轉，為什麼不能讓我進城？」

他又指了指已擺在桌上的學生證辯解，正和盤檢哨口的武警爭得面紅耳赤。

不知道他缺了什麼文件，顯然武警不輕易放人，我過了關，他仍是卡在那兒，曬著熱辣辣的艷陽，任憑斗大的汗珠落下，屢屢將隨之滑落的眼鏡給推回鼻樑，狼狽至極地解釋，繼續那無盡地盤問、紀錄、檢驗、上報的監控程序。我輕易過了關，只因為在容貌上我被定義為漢人；他無法輕易過關，因為他是維吾爾人。

「……我是新疆大學的學生，學校放暑假才會來這裡的，放假了去塔縣轉轉，為什麼不能讓... — 「……我是新疆大學的學生，學校放暑假才會來這裡的，放假了去塔縣轉轉，為什麼不能讓我進城？」圖為一名中國武警坐在烏魯木齊市二道橋一帶的卡車上。圖／路透社

時序移至 2016 年冬日，我再訪了烏魯木齊的天山區，當年七五事件的爆發地。武警撤哨了，解放南路上的街容看上去與其他省份城市越來越為相像；大路旁，好幾個街廓正在進行拆遷——那些當年漢人們叮囑千萬不要靠近的「維吾爾區的暗巷」。大路岔口重複播放著高頌社會主義價值觀的政令歌曲，只有和平南路底，接近二道橋清真寺的拐角，鎮著一輛武警武裝車、幾頂軍帳、幾只武警。似乎，社會控制的施行手段正發生著看不見的演進。

時間再移至 2020 年末，日前《華盛頓郵報》報導，華為和臉部辨識新創公司曠視（Megvii）曾於 2018 年合作測試一組人工智慧監控系統，以在人群影像中，自動識別出每一個個體的年紀、性別與種族，並配有針對性的「維族告警」（Uyghur alarm）：一旦該系統自人群中甄別出突厥裔群體的臉孔，將通知有關監控單位。為此，法國足球球星格里茲曼（Antoine Griezmann）在國際人權日，發表聲明譴責並中止與華為的合作，引起軒然大波。

同樣出自於與全球影像監控技術研究機構 IPVM 的合作報導，《紐約時報》指出科技巨頭阿里巴巴在旗下產品「阿里雲」的指南網站中，指導用戶使用其產品內建的維吾爾人臉部辨識工具，用以檢測圖像與影片。

政府是如何盤檢、抓捕維吾爾族人的？近期媒體、非政府組織所發佈的訊息，或可協助我們理解新疆社會控制的新一輪趨勢，甚或，我們正目睹著一個科技極權治理模式的誕生？

2009 年 7 月位於喀什市區艾提尕爾清真寺前駐守的武警隊伍。圖／作者攝影提... — 2009 年 7 月位於喀什市區艾提尕爾清真寺前駐守的武警隊伍。圖／作者攝影提供

2009 年 7 月，貼遍新疆各公共場所的政府公告，鼓勵民眾舉報「暴力犯罪份子」... — 2009 年 7 月，貼遍新疆各公共場所的政府公告，鼓勵民眾舉報「暴力犯罪份子」。圖／作者攝影提供

▌「維族告警」辨識系統是什麼？

IPVM 的報告指出，華為與曠視合作出品的攝錄監控系統，以及阿里巴巴的雲計算產品，均針對維族臉部影像進行研發測試，但目前尚無法獲知這類技術被實際應用的廣泛程度。

然而，華為、曠視及阿里巴巴等公司均不否認維族臉部系統測試項目的存在。華為發言人 Gleen Schloss 僅表示：「這只是一個未實際應用的簡單測試。」且保證「華為並不會為客戶提供客製化的演算法或應用程式」。

事實上，2019 年初即有相關人士，向《紐約時報》揭露中國政府正在進行類似的計畫，該報導稱多筆其他省份的政府採購案，正在找尋「可以識別出維吾爾人」的解決方案，且，該報導稱，由於維吾爾人與漢人的臉孔特徵十分不同，該計畫的技術難度並沒有想像中高。

由於維吾爾人與漢人的臉孔特徵十分不同，AI辨識技術難度並沒有想像中高。圖／路透... — 由於維吾爾人與漢人的臉孔特徵十分不同，AI辨識技術難度並沒有想像中高。圖／路透社

「以 AI 分辨種族面譜、針對維吾爾人執行監控」是否只是天馬行空？

《華盛頓郵報》向麻省理工學院的人工智慧實驗室詢問，研究人員 Jonathan Frankle 證實，儘管目前美國並未應用具有族群身份偵測功能的軟體，且該判定技術深受光線、角度、個體差異的影響，但具特定演算法的 AI ，確實可以甄別出特定臉部特徵與個體種族身份之間的關聯性，且其敏銳度可以透過大量的臉部影像來進行訓練、累積、改善。而這類技術將致使「自動化族群歧視」（automating ethnic discrimination）成為可能。

然而，這類系統的開發需要大量資本投注，以維繫 AI 精進演算法所需的大量運算需求，還需要大量的人臉資訊以提高精準度。Frankle 語重心長地表示：

「人們不會希望因為毫無目的地開發這種功能而陷入（財務）困境，人們燒錢投資不可能只是為了取樂。如果他們做了（開發該技術），一定是心裡有非常明確的企圖。」

或許政府當局的野心，對於生活在新疆的人們而言，可說是毫不意外。更甚於 2009 年的滿城安檢哨點，類似概念的舉措早已貫徹在新疆的日常之中，例如系統性地採集部分維吾爾人的基因資訊，每個小區、巴札、百貨商場無所不在的查證與「刷臉」，早已建立起類似的「結界」。

此外自治區政府也早已於硬體層面積極佈局。

據《紐約時報》報導，隸屬自治區政府的烏魯木齊雲計算中心自 2016 年起投入營運，成立目的在於「在雲計算、大數據、深度學習等技術的幫助下，智能視頻分析引擎可以整合視頻錄像、Wi-Fi 熱點、檢查站信息、人臉識別分析等警方數據和應用，支持各部門行動。」

該中心的服務供應商中科曙光如此宣傳，以將工作思維「從事後追蹤升級為事前預測性警務，提高維護社會穩定的能力」。中科曙光具有解放軍資金背景，也是中國軍用設備重要供應商。目前該中心已躋身全球最快計算機榜單前兩百位之內。

自動化地辨識出政府所欲監管的人士，以維護所謂的「社會穩定」，這類技術也越來越受商用市場、極權國家歡迎，也是中國政府口中，中國技術對於全球安全所做出的「重大貢獻」。

▌「阿克蘇名單」披露的監控內情

與「維族告警」新聞釋出同日，國際組織「人權觀察」（Human Rights Watch）發表了以〈新疆穆斯林成為大數據計劃目標〉為題的長篇分析報告，指出該組織取得一份自新疆阿克蘇地區流出的被拘留人士資料，繼去年首發的研究報告及年初的「墨玉名單」後，再次證實中國政府使用名為「一體化聯合作戰平台」（Integrated Joint Operations Platform, IJOP）的大數據計畫，以監控、標示（flag）、篩選並進而拘禁突厥裔人士。

該報告指出，中國政府部門使用「一體化平台」，整合各類監控系統所搜集來的資訊，諸如醫療資訊、通聯紀錄、居住遷移史、工作史、車輛紀錄、親友往來紀錄等等，而後進行初步的資訊比對，依據官方設定的標準、篩選出可疑人物清單，讓有關單位執行後續判處。這次流出名單的兩千多位阿克蘇居民即是於 2018 年期間被該平台篩選出，評估後被收入所謂的「職業培訓機構」。

除外界所知的大批常見理由外，本次名單中，個體被該平台標示為可疑人物的理由還包括：「沒有固定居住地址」、「一再更換手機」、「使用不是自己名字登記的手機門號或身分證」、「屬於 80 後、90 後不放心人員」、「平時行為可疑、社會關係複雜，或者思想不穩定，或（性）關係不正常者」等等。

近似於年初的「墨玉名單」，「阿克蘇名單」呈現了新疆警務體系的日常監控過程：將資訊整合過濾，決定是否拘禁個體，以及日後的拘留期程是否延長；在這兩個決策過程中，「一體化聯合作戰平台」皆扮演提供必要決策資訊的角色。

2018年12月3日，人們在新疆的阿圖什市職業技能教育培訓服務中心。圖／路透社... — 2018年12月3日，人們在新疆的阿圖什市職業技能教育培訓服務中心。圖／路透社

相對於過往的社會控制過程，高度仰賴大量警務基礎建設投注、安插多面向的舉報管道一類的預防措施，「維族告警」與「一體化作戰平台」等政府治理意志的數位實踐均讓我們再次確認，自治區當局的治理思維已由「事發防範」，升級成為種族針對性的「事前預警」，針對被設定為「具有潛在威脅」的特定族群，施以自動化的數位監控、篩選。

「人民反恐戰爭」的最前沿，不再是武警或路障，而是臉孔辨識演算法和大數據平台；安檢人員自然不再需要聽取任何的辯解，查證刷臉後一切交給「大數據」決定。

且已有越來越多學術研究指出，中國的數據產業發展和政府的治理意圖緊密相關，兩者合作的背後涉及了大量國家資本投注、數據共享，彼此相互增強——在合作實務中增強產業技術、增強社會控制。

中國當局所企圖構築的，是一個什麼樣的社會控制圖像？是怎麼樣的一個美麗新世界？我們該如何理解這一系列發生在新疆的改變？

「人民反恐戰爭」的最前沿，不再是武警或路障，而是臉孔辨識演算法和大數據平台；安檢... — 「人民反恐戰爭」的最前沿，不再是武警或路障，而是臉孔辨識演算法和大數據平台；安檢人員自然不再需要聽取任何的辯解，查證刷臉後一切交給「大數據」決定。圖／法新社

▌數位圍場與恐怖資本主義

在這個議題上，目前走得最遠的是人類學家 Darren Byler。

基於 2011 年起在首府烏魯木齊與南疆的田野工作，以及近三年與大量拘留營當事者所做的訪談，他提出了「數位圍場」（Digital Enclosure）與「恐怖資本主義」（Terror capitalism）等兩個概念，來理解眼下新疆的景況。

上週，Byler 在期刊《Society & Space》的論壇集中，提出〈突厥裔穆斯林的數位圍場〉（The Digital Enclosure of Turkic Muslims）一文，簡要的解析他對於當前政府數位化監控的見解。

他認為當前政府以警務設施、拘留營體系，乃至於各樣的「就業安置」、「勞務轉移」，佐以影像監控、一體化平台等科技工具所施行的社會控制系統，可統稱之為「數位圍場」，其目的在於種族式地針對突厥裔住民，將他們圈限、監控、改造成為一個以產業工人為主的永久下層階級（permanent underclass）。

圖為新疆的「就業安置」現場。當前政府以警務設施、拘留營體系，乃至於各樣的就業安置... — 圖為新疆的「就業安置」現場。當前政府以警務設施、拘留營體系，乃至於各樣的就業安置、勞務轉移，佐以影像監控、一體化平台等科技工具所施行的社會控制系統，可統稱之為「數位圍場」。圖／美聯社

透過人工智慧、大數據、自動化資訊平台等科技所建構起的「數位圍場」，對於政府和高科技財團而言，是一個全新、具多重意義的數位「新疆（域）」（new frontiers）：一方面，獲取其疆域內「壞穆斯林們」所產生的行為監控數據，進行各樣的數據徵用以改良既有監控分析技術，一方面，則可更不受阻礙地以權力使人們成為國家、產業所需的勞動力。

經過這樣長期的控制，維吾爾將成為一個以受政府擺佈的低階勞務階層，數位圍場內的維吾爾生活，將具有三重彼此相關的核心意義：

順服黨與國家、產生數據、成為勞動力。