親愛的網友:
為確保您享有最佳的瀏覽體驗,建議您提升您的 IE 瀏覽器至最新版本,感謝您的配合。

電馭新疆的「AI暴政」:中國數位恐怖的維吾爾監控再進化

2020/12/21 Kita

「以 AI 分辨種族面譜、針對維吾爾人執行監控」是否只是天馬行空?由於維吾爾人與...
「以 AI 分辨種族面譜、針對維吾爾人執行監控」是否只是天馬行空?由於維吾爾人與漢人的臉孔特徵十分不同,AI辨識技術難度並沒有想像中高。中國當局所企圖構築的,是一個什麼樣的社會控制圖像?是怎麼樣的一個美麗新世界? 圖/美聯社

2009 年 7 月,中華人民共和國成立以來新疆最嚴重的族群衝突事件——「七五事件」爆發,事件爆發一週後,烏魯木齊仍實施宵禁,南疆處於半緊急狀態,公路上每個進城的路口都安了哨口和滿滿的武裝警察,我自中巴邊境的塔什庫爾干縣下山,預備進入喀什市區,輾轉休息後前往墨玉縣

劇降兩千多米的海拔落差教我頭直發疼,一股腫脹的炸裂感填塞了頭蓋骨內緣。只見進喀什的哨口亂哄哄的,層層鐵網路障前,人們被趕下車,人車分離地接受盤檢。我不以為意,下了車、打開台胞證,在幾個持槍的武警的眼前,晃了晃,過了關。

短短的通關過程,我注意到檢查台旁卻有人沒像我這般好運,是個 20 出頭的年輕男人,戴著眼鏡:

「……我是新疆大學的學生,學校放暑假才會來這裡的,放假了去塔縣轉轉,為什麼不能讓我進城?」

他又指了指已擺在桌上的學生證辯解,正和盤檢哨口的武警爭得面紅耳赤。

不知道他缺了什麼文件,顯然武警不輕易放人,我過了關,他仍是卡在那兒,曬著熱辣辣的艷陽,任憑斗大的汗珠落下,屢屢將隨之滑落的眼鏡給推回鼻樑,狼狽至極地解釋,繼續那無盡地盤問、紀錄、檢驗、上報的監控程序。我輕易過了關,只因為在容貌上我被定義為漢人;他無法輕易過關,因為他是維吾爾人

「……我是新疆大學的學生,學校放暑假才會來這裡的,放假了去塔縣轉轉,為什麼不能讓...
「……我是新疆大學的學生,學校放暑假才會來這裡的,放假了去塔縣轉轉,為什麼不能讓我進城?」圖為一名中國武警坐在烏魯木齊市二道橋一帶的卡車上。 圖/路透社

時序移至 2016 年冬日,我再訪了烏魯木齊的天山區,當年七五事件的爆發地。武警撤哨了,解放南路上的街容看上去與其他省份城市越來越為相像;大路旁,好幾個街廓正在進行拆遷——那些當年漢人們叮囑千萬不要靠近的「維吾爾區的暗巷」。大路岔口重複播放著高頌社會主義價值觀的政令歌曲,只有和平南路底,接近二道橋清真寺的拐角,鎮著一輛武警武裝車、幾頂軍帳、幾只武警。似乎,社會控制的施行手段正發生著看不見的演進。

時間再移至 2020 年末,日前《華盛頓郵報》報導,華為和臉部辨識新創公司曠視(Megvii)曾於 2018 年合作測試一組人工智慧監控系統,以在人群影像中,自動識別出每一個個體的年紀、性別與種族,並配有針對性的「維族告警」(Uyghur alarm):一旦該系統自人群中甄別出突厥裔群體的臉孔,將通知有關監控單位。為此,法國足球球星格里茲曼(Antoine Griezmann)在國際人權日,發表聲明譴責並中止與華為的合作,引起軒然大波

同樣出自於與全球影像監控技術研究機構 IPVM 的合作報導,《紐約時報》指出科技巨頭阿里巴巴在旗下產品「阿里雲」的指南網站中,指導用戶使用其產品內建的維吾爾人臉部辨識工具,用以檢測圖像與影片。

政府是如何盤檢、抓捕維吾爾族人的?近期媒體、非政府組織所發佈的訊息,或可協助我們理解新疆社會控制的新一輪趨勢,甚或,我們正目睹著一個科技極權治理模式的誕生?

2009 年 7 月位於喀什市區艾提尕爾清真寺前駐守的武警隊伍。 圖/作者攝影提...
2009 年 7 月位於喀什市區艾提尕爾清真寺前駐守的武警隊伍。 圖/作者攝影提供

2009 年 7 月,貼遍新疆各公共場所的政府公告,鼓勵民眾舉報「暴力犯罪份子」...
2009 年 7 月,貼遍新疆各公共場所的政府公告,鼓勵民眾舉報「暴力犯罪份子」。 圖/作者攝影提供

▌「維族告警」辨識系統是什麼?

IPVM 的報告指出,華為與曠視合作出品的攝錄監控系統,以及阿里巴巴的雲計算產品,均針對維族臉部影像進行研發測試,但目前尚無法獲知這類技術被實際應用的廣泛程度。

然而,華為、曠視及阿里巴巴等公司均不否認維族臉部系統測試項目的存在。華為發言人 Gleen Schloss 僅表示:「這只是一個未實際應用的簡單測試。」且保證「華為並不會為客戶提供客製化的演算法或應用程式」。

事實上,2019 年初即有相關人士,向《紐約時報》揭露中國政府正在進行類似的計畫,該報導稱多筆其他省份的政府採購案,正在找尋「可以識別出維吾爾人」的解決方案,且,該報導稱,由於維吾爾人與漢人的臉孔特徵十分不同,該計畫的技術難度並沒有想像中高。

由於維吾爾人與漢人的臉孔特徵十分不同,AI辨識技術難度並沒有想像中高。 圖/路透...
由於維吾爾人與漢人的臉孔特徵十分不同,AI辨識技術難度並沒有想像中高。 圖/路透社

「以 AI 分辨種族面譜、針對維吾爾人執行監控」是否只是天馬行空?

《華盛頓郵報》向麻省理工學院的人工智慧實驗室詢問,研究人員 Jonathan Frankle 證實,儘管目前美國並未應用具有族群身份偵測功能的軟體,且該判定技術深受光線、角度、個體差異的影響,但具特定演算法的 AI ,確實可以甄別出特定臉部特徵與個體種族身份之間的關聯性,且其敏銳度可以透過大量的臉部影像來進行訓練、累積、改善。而這類技術將致使「自動化族群歧視」(automating ethnic discrimination)成為可能。

然而,這類系統的開發需要大量資本投注,以維繫 AI 精進演算法所需的大量運算需求,還需要大量的人臉資訊以提高精準度。Frankle 語重心長地表示:

「人們不會希望因為毫無目的地開發這種功能而陷入(財務)困境,人們燒錢投資不可能只是為了取樂。如果他們做了(開發該技術),一定是心裡有非常明確的企圖。」

這類系統的開發需要大量資本投注,以維繫 AI 精進演算法所需的大量運算需求,還需...
這類系統的開發需要大量資本投注,以維繫 AI 精進演算法所需的大量運算需求,還需要大量的人臉資訊以提高精準度。 圖/路透社

或許政府當局的野心,對於生活在新疆的人們而言,可說是毫不意外。更甚於 2009 年的滿城安檢哨點,類似概念的舉措早已貫徹在新疆的日常之中,例如系統性地採集部分維吾爾人的基因資訊,每個小區、巴札、百貨商場無所不在的查證與「刷臉」,早已建立起類似的「結界」。

此外自治區政府也早已於硬體層面積極佈局。

《紐約時報》報導,隸屬自治區政府的烏魯木齊雲計算中心自 2016 年起投入營運,成立目的在於「在雲計算、大數據、深度學習等技術的幫助下,智能視頻分析引擎可以整合視頻錄像、Wi-Fi 熱點、檢查站信息、人臉識別分析等警方數據和應用,支持各部門行動。」

該中心的服務供應商中科曙光如此宣傳,以將工作思維「從事後追蹤升級為事前預測性警務,提高維護社會穩定的能力」。中科曙光具有解放軍資金背景,也是中國軍用設備重要供應商。目前該中心已躋身全球最快計算機榜單前兩百位之內。

自動化地辨識出政府所欲監管的人士,以維護所謂的「社會穩定」,這類技術也越來越受商用市場、極權國家歡迎,也是中國政府口中,中國技術對於全球安全所做出的「重大貢獻」。

自動化地辨識出政府所欲監管的人士,以維護所謂的「社會穩定」。 圖/路透社
自動化地辨識出政府所欲監管的人士,以維護所謂的「社會穩定」。 圖/路透社

▌「阿克蘇名單」披露的監控內情

與「維族告警」新聞釋出同日,國際組織「人權觀察」(Human Rights Watch)發表了以〈新疆穆斯林成為大數據計劃目標〉為題的長篇分析報告,指出該組織取得一份自新疆阿克蘇地區流出的被拘留人士資料,繼去年首發的研究報告及年初的「墨玉名單」後,再次證實中國政府使用名為「一體化聯合作戰平台」(Integrated Joint Operations Platform, IJOP)的大數據計畫,以監控、標示(flag)、篩選並進而拘禁突厥裔人士。

該報告指出,中國政府部門使用「一體化平台」,整合各類監控系統所搜集來的資訊,諸如醫療資訊、通聯紀錄、居住遷移史、工作史、車輛紀錄、親友往來紀錄等等,而後進行初步的資訊比對,依據官方設定的標準、篩選出可疑人物清單,讓有關單位執行後續判處。這次流出名單的兩千多位阿克蘇居民即是於 2018 年期間被該平台篩選出,評估後被收入所謂的「職業培訓機構」。

除外界所知的大批常見理由外,本次名單中,個體被該平台標示為可疑人物的理由還包括:「沒有固定居住地址」、「一再更換手機」、「使用不是自己名字登記的手機門號或身分證」、「屬於 80 後、90 後不放心人員」、「平時行為可疑、社會關係複雜,或者思想不穩定,或(性)關係不正常者」等等。

近似於年初的「墨玉名單」,「阿克蘇名單」呈現了新疆警務體系的日常監控過程:將資訊整合過濾,決定是否拘禁個體,以及日後的拘留期程是否延長;在這兩個決策過程中,「一體化聯合作戰平台」皆扮演提供必要決策資訊的角色。

2018年12月3日,人們在新疆的阿圖什市職業技能教育培訓服務中心。 圖/路透社...
2018年12月3日,人們在新疆的阿圖什市職業技能教育培訓服務中心。 圖/路透社

相對於過往的社會控制過程,高度仰賴大量警務基礎建設投注、安插多面向的舉報管道一類的預防措施,「維族告警」與「一體化作戰平台」等政府治理意志的數位實踐均讓我們再次確認,自治區當局的治理思維已由「事發防範」,升級成為種族針對性的「事前預警」,針對被設定為「具有潛在威脅」的特定族群,施以自動化的數位監控、篩選。

「人民反恐戰爭」的最前沿,不再是武警或路障,而是臉孔辨識演算法和大數據平台;安檢人員自然不再需要聽取任何的辯解,查證刷臉後一切交給「大數據」決定。

且已有越來越多學術研究指出,中國的數據產業發展和政府的治理意圖緊密相關,兩者合作的背後涉及了大量國家資本投注、數據共享,彼此相互增強——在合作實務中增強產業技術、增強社會控制。

中國當局所企圖構築的,是一個什麼樣的社會控制圖像?是怎麼樣的一個美麗新世界?我們該如何理解這一系列發生在新疆的改變?

「人民反恐戰爭」的最前沿,不再是武警或路障,而是臉孔辨識演算法和大數據平台;安檢...
「人民反恐戰爭」的最前沿,不再是武警或路障,而是臉孔辨識演算法和大數據平台;安檢人員自然不再需要聽取任何的辯解,查證刷臉後一切交給「大數據」決定。 圖/法新社

▌數位圍場與恐怖資本主義

在這個議題上,目前走得最遠的是人類學家 Darren Byler

基於 2011 年起在首府烏魯木齊與南疆的田野工作,以及近三年與大量拘留營當事者所做的訪談,他提出了「數位圍場」(Digital Enclosure)與「恐怖資本主義」(Terror capitalism)等兩個概念,來理解眼下新疆的景況。

上週,Byler 在期刊《Society & Space》的論壇集中,提出〈突厥裔穆斯林的數位圍場〉(The Digital Enclosure of Turkic Muslims)一文,簡要的解析他對於當前政府數位化監控的見解。

他認為當前政府以警務設施、拘留營體系,乃至於各樣的「就業安置」、「勞務轉移」,佐以影像監控、一體化平台等科技工具所施行的社會控制系統,可統稱之為「數位圍場」,其目的在於種族式地針對突厥裔住民,將他們圈限、監控、改造成為一個以產業工人為主的永久下層階級(permanent underclass)。

圖為新疆的「就業安置」現場。當前政府以警務設施、拘留營體系,乃至於各樣的就業安置...
圖為新疆的「就業安置」現場。當前政府以警務設施、拘留營體系,乃至於各樣的就業安置、勞務轉移,佐以影像監控、一體化平台等科技工具所施行的社會控制系統,可統稱之為「數位圍場」。 圖/美聯社

透過人工智慧、大數據、自動化資訊平台等科技所建構起的「數位圍場」,對於政府和高科技財團而言,是一個全新、具多重意義的數位「新疆(域)」(new frontiers):一方面,獲取其疆域內「壞穆斯林們」所產生的行為監控數據,進行各樣的數據徵用以改良既有監控分析技術,一方面,則可更不受阻礙地以權力使人們成為國家、產業所需的勞動力。

經過這樣長期的控制,維吾爾將成為一個以受政府擺佈的低階勞務階層,數位圍場內的維吾爾生活,將具有三重彼此相關的核心意義:

順服黨與國家、產生數據、成為勞動力。

透過人工智慧、大數據、自動化資訊平台等科技所建構起的「數位圍場」,對於政府和高科...
透過人工智慧、大數據、自動化資訊平台等科技所建構起的「數位圍場」,對於政府和高科技財團而言,是一個全新、具多重意義的數位「新疆(域)」(new frontiers)。 圖/美聯社

而為了將數位圍場的概念放置在更全球性的歷史脈絡來理解,Byler 和社會學者 Carolina Sanchez Boe 將這類新崛起的治理模式稱為「恐怖資本主義」

乘著後 911 席捲全球的反恐風潮,恐怖資本主義係指國家以消滅潛在恐怖活動和維繫國家安全為由,運用科技與數據積累,合理化並強化國家與財團對特定邊緣群體的勞動剝削,這樣的合謀關係的目的,在於社會控制且擴展潛在的廉價勞動力來源。

其獲益模式可簡述為:國家宣稱特定族群涉及恐怖活動、可能顛覆國家安全,政府提供價格可觀的承包合約予科技財團,建立相關警務設備,監控、管理國家所設定的目標群體,例如無所不在的檢查哨、監視儀器、臉部辨識系統等。

運用取自於目標群體的大量的生物資訊數據與社群網絡數據,相關產業藉此改善、精進現有的科技水平,並將更精準的設備轉賣給其他客戶,包括私人企業或其他政府客戶。

政府提供價格可觀的承包合約予科技財團,建立相關警務設備,監控、管理國家所設定的目...
政府提供價格可觀的承包合約予科技財團,建立相關警務設備,監控、管理國家所設定的目標群體,例如無所不在的檢查哨、監視儀器、臉部辨識系統等。 圖/美聯社

最後,無論是透過直接的國家暴力,或是間接的污名,將目標群體轉化成為國家或資本家所需要廉價勞動力來源。該特定群體經此過程,往往被改造成沒有主體性,任由國家擺佈、且難以抵抗國家體制的低階勞動力。以新疆的例子而言,即為大量被「職業培訓」後、安置到石化產業、紡織業工廠的維吾爾工人們。

值得注意的是,監控、資本與國家的合謀主要源自於 911 後,美國對尋求庇護的外來移民的監控實踐經驗,但這類運作模式,目前也廣泛為各國政府所應用,如北印度的孟加拉裔住民和巴勒斯坦的阿拉伯裔住民,但新疆的案例卻是最能夠闡述其精髓,且是涉及規模最大、仍在進行中的駭人案例。

相關學者也開始擔憂,這套於新疆發展已臻成熟的數位治理技術——繼菲律賓辛巴威之後——將輸出至更多以「反恐」為名,行擴權統治之實的專制政權手中。

2019年7月11日,一名巴勒斯坦男子在耶路撒冷穿越使用指紋壓印的生物識別門。 ...
2019年7月11日,一名巴勒斯坦男子在耶路撒冷穿越使用指紋壓印的生物識別門。 圖/路透社

▌科技極權實驗場,終將走到何處?

2020 年末,對於華為疑似正在開發的「維吾爾警報」系統,以及格里茲曼的解約通告,中國外交部發言人華春瑩僅冷淡回應:「有關人士想跟誰合作,這是他的事情。」

對於人權觀察提出的阿克蘇名單,那些行使合法、不涉及暴力的行為的人們,卻因被一體化平台標示,而被為當局所拘禁一事,另一位發言人趙立堅僅不屑地回應:「這個所謂的人權組織一向充滿偏見、搬弄是非,有關言論不值一駁。」

相形於當局反應的雲淡風輕,長期關注科技監控與極權主義之間關係的學者們,則逐漸透過商業報告、被拘留者的證詞、外洩的受害者名單、政府文件,拼湊出一個愈加完整的、當代新疆的數位圖像。也據此警告,新科技與社會控制在中國,毫無節制的合謀,以及該技術模式的擴張輸送,將是未來全球社會所需面對的全新議題。

從高度仰賴人工攔檢、查證登記,到掃碼刷臉,十餘年過去了,維吾爾人的家園早已滄海桑田,而那位在喀什市郊、跟武警爭論著的維吾爾青年,現在人會在哪裡呢?我不大敢細想。

新科技與社會控制在中國,毫無節制的合謀,以及該技術模式的擴張輸送,將是未來全球社...
新科技與社會控制在中國,毫無節制的合謀,以及該技術模式的擴張輸送,將是未來全球社會所需面對的全新議題。 圖/路透社


收看更多文章,請訂閱轉角國際facebook專頁:

推薦閱讀

新疆演算法的暴政:格里茲曼足球挺身與「華為-維吾爾告警系統」風暴

不准拆的絕育環:從敷衍到殘酷...中國在新疆的「維吾爾計畫生育」

強行「民族改造」的殘酷邏輯?新疆再教育營「墨玉名單」曝光

Kita

試圖理解綠洲與沙漠之間發生的事。七五事件後,開始關注維吾爾社會文化、新疆議題與南疆環境史。

作者文章

維吾爾法庭為所發生的憾事留下證詞,是當代維吾爾人尋求公義的第一步,更是為日後將臨...

用命控訴的維吾爾法庭(下)新疆的民族改造理論?

2021/06/30
維吾爾法庭今年6月初於英國倫敦召開為期四日的公開聽證會,總計有 23 位當事證人...

用命控訴的維吾爾法庭(上)中國暴怒的「反華鬧劇」?

2021/06/30
維吾爾族的困境屢屢成為西方世界與中國政府往來拉鋸的人權議題,與此同時,新的社群媒...

從血淚拘留營到我愛新疆棉:漢人與維吾爾人還有對話可能?

2021/03/30
人權運動者哈瑞·哈爾木拉提·維吾爾醫生是較早站上風口浪尖的海外維吾爾族人士之一。...

新疆「#MeTooUyghur」滅絕證言:專訪維吾爾人權運動者哈瑞

2021/03/30
中國對新疆一系列高壓與懷柔並施的控制手段,從脫貧幫扶政策、送往再教育營、再到近期...

讓維吾爾人養豬?(下)狂奔脫貧必須「解散故鄉」

2021/01/08
2020 年末,《半島電視台》報導中共正積極於新疆發展「生豬養殖產業」、《BBC...

讓維吾爾人養豬?(上)以 「反恐扶貧」為名的新疆生豬戰略

2021/01/08

最新文章

伊朗在1979年爆發伊斯蘭革命後,萊希在國內西南部的大城市擔任總檢察長,然後在1...

伊朗的美國謀算:當制裁「革命屠夫」選上了新總統?

2021/07/28
2020年初聲援台灣加入WHO的阿多美納(左)與1991立陶宛一月事件。
 圖...

大老遠激怒中國的理由?立陶宛援台灣的「冰島時刻」

2021/07/27
近年馬來西亞國內政治動盪與外在的中國崛起,使得華人在族群認同和國家認同出現和過往...

大馬「華人」與中國的距離(上):尊嚴受創的精神慰藉?

2021/07/21
圖為馬來西亞歌手蔡恩雨在2018年上中國節目《中華情》,分享其到天安門觀看升旗儀...

大馬「華人」與中國的距離(下):失望民主找錯了出口?

2021/07/21
「大辭職潮」一詞登上歐美熱門話題,點出了後疫情時代就業市場即將出現的劇烈轉變,也...

WFH萬歲:疫後人力荒?歐美職場煞不住的「大辭職潮」

2021/07/17
南韓政府緊急踩剎車,調頭轉向最嚴格的第4級。圖為7月15日的首爾PCR篩檢站。 ...

南韓疫情第4波衝擊...當「防疫疲勞」撞上Delta與疫苗大亂

2021/07/15

回應

Top