親愛的網友:
為確保您享有最佳的瀏覽體驗,建議您提升您的 IE 瀏覽器至最新版本,感謝您的配合。

《監控資本主義時代》:社會信用請給分?數位極權下的中國症候群

2020/09/19 轉角說

圖為北京公車站。 圖/美聯社
圖為北京公車站。 圖/美聯社

▌本文為《監控資本主義時代》(時報出版,2020)書摘

如今我們不難想像,這個以確定性取代社會的潮流會導向哪種符合邏輯的結果。中國政府已發展一套全面的「社會信用」系統,一名中國學者形容該系統是中國網路議題的「核心」。這個系統的目的是「利用個人數據的爆炸性成長……來改善公民的行為……個人與企業的行為都會按照不同方面(去哪裡、買什麼、認識誰),逐一評分,這些分數將整合進一個全面的資料庫,此資料庫不僅連接政府資訊,也連接民間企業收集的數據」。

這個系統會追蹤「好」與「壞」的行為,範疇涵蓋各種財務與社會活動,自動指派懲罰與獎勵,果斷地塑造個人行為,在經濟、社會、政治生活中逐步「建立誠信文化」:「目標是讓每個中國公民都擁有一個檔案,累積來自公共與民間來源的數據……用指紋和其他生物辨識特徵即可搜尋。」

中國北京地鐵站。 圖/美聯社
中國北京地鐵站。 圖/美聯社

儘管中國的社會信用願景不約而同被稱為「數位極權主義」,也經常拿來與歐威爾《一九八四》的世界相比,但它不如說是機器控制力量的完美典範,以公共與私人數據來源餵養,並由集權國家掌控。關於其前導計畫的描述正是非常強力的例子,展現了監控資本主義的行動經濟與超大規模行為修正手段的精細建構。

系統的目標是實現社會自動化,藉由校準、驅趕、制約,讓民眾產生預先選擇好、國家想要的行為,如此一來就能「預先消除不穩定性」(套用一位戰略研究專家的說法)。換言之,目標是要運用機器控制主義的行為修正手段,來保證社會結果,而非市場結果;於是出現了這個系統,讓我們能夠一窺機器控制主義與國家權力全面融合所引發的一種未來。

中國這個願景,是為了解決中國獨有的社會瓦解詛咒。記者艾咪.霍金斯(Amy Hawkins)在《外交政策》(Foreign Policy)上刊登文章,解釋社會信用系統被當成一種解藥,來解決在中國蔓延的社會缺乏信任之疾病:

在今時今日,身為中國人,等於是居住在缺乏信任的社會,任何機會都是潛在的詐騙,任何慷慨之舉都隱含遭人利用的風險。

圖為北京密雲區住宅前的毛澤東像。 圖/路透社
圖為北京密雲區住宅前的毛澤東像。 圖/路透社

有一份針對當代中國社會信任情形的實證研究相當有意思,該研究發現,其實「內團體」當中存在高度的信任,可是這卻和負面的健康狀況相關。結論是,許多中國人僅信任對他們來說有名的人,他們對其他人際關係皆抱持懷疑與焦慮,這對社會信任與身心健康造成的後果自不在話下。

這種廣為傳播的不信任感,通常歸咎於高速現代化、轉型為準資本主義國家帶來的創傷,但同時也是中國極權主義遺留下來的影響。中國共產黨拆毀傳統領域,包括人際關係、身分認同、社會意義(家庭、宗教、公民社會、知識論述、政治自由),像極了鄂蘭所言那摧毀信任羈絆的「單原子化」過程。如霍金斯所述:

然而,中國政府所做的不是逐步重新引介傳統道德倫理,來降低缺乏信任的情況,反倒偏好將心力投注在科技解方……大眾已經受夠了不知道該信任誰,於是加以歡迎……一部分的原因是他們別無選擇了。

中國政府意圖徵用機器控制力量,以必然結果取代一個破滅的社會。

春節期間的北京購物中心前。 圖/路透社
春節期間的北京購物中心前。 圖/路透社

二○一五年,中國央行宣布展開一項前導計畫:各大電子商務企業將主導數據整合與軟體研發,以供個人信用評分之用,其中的佼佼者是阿里巴巴旗下的螞蟻金服,該公司推出的「個人信用評分」服務稱為「芝麻信用」。芝麻信用系統能產生關於一個人「性格」的「全盤」評分,搭配演算式學習,範疇遠遠不止於準時繳帳單與貸款,演算法會衡量消費習慣(買電動還是童書)、學位、交友的數量與「品質」,藉此評等。

一名記者曾描述她的芝麻信用體驗,警告這套演算法簡直「不可理喻」,一一評估她的社會接觸、開什麼車、做什麼工作、念什麼學校、諸如此類的不明確行為因素,聲稱這些都「與良好的信用有關」。影子文本依舊遙不可及,使用者落得只能猜測如何提高分數,包括與評分低的朋友斷絕往來,廣為結交評分高的人,有些人認為這有助於提升評等。

螞蟻金服董事長宣稱,這套評分系統「可以讓這個社會的壞人無處可逃,好人暢通無阻」。分數高的人可以在行為未來市場當中,從芝麻信用的客戶得到榮譽與獎勵:無須押金即可租車,貸款和租屋可取得較優渥的條件,辦理簽證可享有快速服務,在交友軟體上擁有特殊待遇等各式各樣的好處。然而,報導指出,高信用帶來的特權也可能因為與消費行為無關的原因,轉眼消失無蹤,例如在大學考試中作弊。

 圖/芝麻信用官網
圖/芝麻信用官網

二○一七年,央行停止支持民間企業發展的個人信用計畫,原因可能是這些計畫實在太成功了,集中了過多資訊與力量。短短兩年內,芝麻信用便累積逾四億用戶,控制了這些用戶各方面的生活。一名記者以螞蟻金服為主題寫了一本書,預測政府正準備接收整個系統:「這項人民信用的建設太重要了,政府不希望它落在什麼大公司的手裡。」中國政府似乎明白,擁有行為修正手段,就能逐漸累積權力,行為參數是由行為修正手段的擁有者設定,如此即可定義保證結果。於是,公私力量開始融合。

如果想知道機器控制力量與國家權力結合,將產生什麼樣的社會,可以先從所謂的「失信被執行人名單」(judgment defaulter’s list,俗稱「黑名單」)開始。《經濟學人》(Economist)曾形容該名單是社會信用系統的核心,或許可說是衡量社會信用系統遠大企圖的最佳指標,名單內含債務人與任何曾違抗法院命令的人:

名單上的被執行人不能購買機票、高鐵票、火車一等座與商務座車票,不能買賣或建造房屋,子女不得就讀高收費學校。被執行人將限制入黨、入伍、在黨內與軍中晉職晉級、接受表揚及擔任職務。假如被執行的對象是一間公司,該公司可能不得發行證券、接受外資投資、參與政府工程。

圖為中國火車。 圖/路透社
圖為中國火車。 圖/路透社

根據一份《中國日報》的報導,自從黑名單在二○一三年生效,已自動履行被執行人限制購買機票六百一十五萬人次,藐視法庭者限制購買高鐵票兩百二十二萬人次,約七萬一千人由於債務而錯失在企業擔任管理職的機會。

中國工商銀行表示,該行已拒發逾六十九億七千萬人民幣(約十億一千萬美元)給名單上的被執行人。沒人被送進再教育營,但被執行人不得購買奢侈品。根據商務部研究院信用研究所所長所言:「由於這些不便,名單上約有百分之十的被執行人開始自主償還銀行欠款,這表示社會信用系統是有用的。」行動經濟完全按著計畫走。

對於芝麻信用的四億用戶而言,機器控制力量與國家權力結合帶來的衝擊不小。登錄在黑名單上的人發現,信用體系的設計令他們陷入向下沉淪的螺旋,一去不回:

剛開始,你的分數下降,接著朋友聽說你被加入黑名單,怕自己受影響,於是悄悄把你從聯絡人刪除,這件事被演算法注意到,結果你的分數便再度驟降。

 圖/路透社
圖/路透社

中國政府的願景飽含難以企及的雄心壯志:利用演算法篩選無止無盡的公共與私人數據洪流,包括來自各領域的線上與線下體驗,再進入十五億人的個人生活,讓演算法獎勵、懲罰、塑造行為,連最新的公車票也不放過,藉此將社會行為給自動化,實現徹底覺察與絕對確定性的大夢。

目前,這項計畫打散成許多個前導計畫,不只散布於多間科技公司,也散布在各個城市之間,因此難以掌握政府希冀達成的規模。眾多專家相信,要將這等浩大、複雜的系統合而為一是很困難的,甚至不可能辦到。

我們也有理由認為,社會信用系統對本書主題未必有那麼關鍵。一個顯而易見的理由是,中國並非民主國家,中國文化與西方文化天差地遠。雪城大學(Syracuse University)研究員汪洋(Yang Wang,音譯)認為,中國文化不如西方文化重視隱私,況且多數中國人都已對政府的網路監控和審查有一定的了解,在一九九○年代中期以前,中文辭典甚至不存在「隱私」這個詞

圖為參與中國國慶日活動的民眾。 圖/美聯社
圖為參與中國國慶日活動的民眾。 圖/美聯社

中國人民早已接受身分證內含生物辨識晶片,接受「計畫生育」,如今又接受了社會信用評等,畢竟中國社會的監控與資料蒐集持續了數十年。比方說,「人事檔案」就是內容涵蓋廣泛的個人檔案,累積數百萬公民一生中從小到大的資訊,這套「始於毛澤東時代的系統記錄每個人最私密的小事」,由教師、共產黨官員、單位人員更新,一般公民無權閱覽檔案內容,遑論改正。

這套控制行為的行政體系無遠弗屆、行之有年,滲透了日常生活,時而封賞,時而懲處,人事檔案只不過是其中一二。隨著網路發展,社會控制計畫一同擴張,比如說「金盾工程」就是個廣大的線上監控系統,一旦使用者傳送的訊息夾帶敏感詞,像是「西藏獨立」或「天安門事件」,中國的網路偵測器就會停用該人的網路或社群媒體帳戶。

即使我們的政治與文化天差地遠,但中國社會信用計畫有愈來愈多證據顯示監控資本主義的邏輯,以及其創造的機器控制力量。芝麻信用加強了監控資本主義計畫的每個面向,自動化的行為修正機器將上億人捲入其中,逐漸浮現的行為未來市場持續分送利益與獎章,有如揮灑著寶可夢精靈粉,藉此換取保證結果。

中國人臉辨識系統。 圖/路透社
中國人臉辨識系統。 圖/路透社

中國使用者每接觸一次數位裝置,便受到轉換、分類、排入佇列供預測之用,但我們也一樣。我們在Uber、eBay、臉書、許許多多網路事業上受到評等,這些還只是我們看得見的評區分。中國使用者會得到一個「人格」分數,美國政府則要求科技公司訓練演算法,計算「基進」分數。

影子文本的工作是以無數方式來評估、分類、預測我們的行為,我們對此一無所知,無從對抗──這些就是我們的數位人事檔案。在信用評分這方面,英美的銀行與金融服務會挖掘、分析社群媒體的數據,建立浮動商業模型,據此給予信用分數,臉書本身就曾暗示對這方面的興趣,還申請了專利,這些打算之所以作罷,全是因為聯邦貿易委員會警告要介入規管。

牛津大學中國研究學者羅傑.克雷默(Rogier Creemers)是最早翻譯社會信用相關文件的人之一,他觀察到:

邁向社會工程、「鼓勵」一個人做出「良好」行為的潮流,正好與矽谷的觀點相仿,這種觀點認為透過科技的破壞性力量,可以一勞永逸解決人類的問題……就這個角度而言,或許最令人震驚的部分不是中國政府的意圖,而是這與其他國家的科技發展方向多麼類似。

正在使用手機的中國共產黨黨員。 圖/路透社
正在使用手機的中國共產黨黨員。 圖/路透社

二○一七年,一場監控科技博覽會於深圳舉行,會場擠滿來販售最新產品的美國企業,尤其是裝設人工智慧與臉部辨識功能的監視器。英國監視設備經銷商CCTV Direct的總經理也身在其中,他一方面慨嘆道,相較於中國監控設施的技術,「西方國家落後太多了」,另一方面又深感安慰:「生於此地的科技,最終落腳於美國的家庭、機場與公司。」

西方的監控資本主義與中國逐漸成形的社會信用體系,兩者之間的差異在於機器控制力量國家權力相互糾葛與結合的模式,這是結構上的差異。在西方,如我們所見,模式有許多類型,最初國家扮演了搖籃和避風港的角色,隨後轉變為熱切的學生與嫉妒的親戚;監控資本主義與其機器已然成熟,兩者的合作關係儘管時斷時續,卻又是必要的。關鍵的機器控制能力掌握在監控資本主義大企業手裡,國家非得與這些公司合作,透過他們來使用國家追求的力量。

在中國的脈絡中,國家主掌一切、擁有一切,這並不是市場計畫,而是政治計畫,用機器解決方法來形塑自動化行為的新社會,以取得政治和社會上的保證結果:無恐怖的確定性。所有供應鏈的各個管道,都會把行為剩餘傳送至這個複雜的行為修正新手段,國家化身為行為之神,一手掌握影子文本,決定由影子文本塑造的增強時制與例行行為。自由遭到知識剝奪,然而這些知識由國家享有,不為牟利,而為延續國家本身的生命。

圖為中國天安門的監視器。 圖/路透社
圖為中國天安門的監視器。 圖/路透社


監控資本主義時代(上卷:基礎與演進;下卷:機器控制力量)

作者:Shoshana Zuboff

出版社:時報出版

出版日期:2020/07/28

內容簡介:在監控資本主義世代中,價值來自於隨著理解人類所有行為,讓企業得以建立模型,預測並引導人類的行為而獲利。這種方式是否會威脅到個人自治與民主權利,並造成新的社會不平等模式?數位化時代是否可以承諾個人賦權和民主化?本書論述縝密,探討這份不受民主監督、前所未有的權力引發了什麼威脅,剖析新型資本主義對社會、政治、商業與科技的影響,直指這場鬥爭將決定資本主義的走向,以及資訊文明的意義。



收看更多文章,請訂閱轉角國際facebook專頁:

推薦閱讀

中國「作戰App」:新疆官民全面監控的天網牢籠

中國電文:新疆再教育營的黑幕揭露

中國天網進攻世界?深圳「振華數據」解密...政要到罪犯的250萬人跨國監控

打擊電玩成癮的絕招?中國嚴令:晚上10點18歲以下「強制下線」

蘇州文明碼事件:中國「黑鏡」夢想的社會積分...為何總不行?

轉角說

轉角國際編輯台:「在國際新聞之後,讀懂新聞;世界趨勢之前,掌握趨勢。」

作者文章

「這是我人生第一次投票,感覺超讚!」黑人球星俠客歐尼爾在今年10月7日時表示,終...

#黑人票:美國總統大選的BLM變數與「非裔投票學」迷思

2020/10/24
佛羅里達成為川普造勢的第一站。這絕非巧合、也絕不僅是川普熱愛陽光沙灘,佛州意味的...

#佛羅里達:我佛得天下?又老又難搞的「美國終極搖擺州」

2020/10/24
「我們都是老師。」10月16日,法國巴黎西北郊區一名47歲的歷史老師薩莫爾.帕蒂...

「衝擊效應」帶來的怪物:法國中學歷史老師被斬首事件

2020/10/19
「成吉思汗」踩在了中國哪條的紅線上? 圖/蒼郎與白鹿;繪師:生賴範義

禁談「成吉思汗」?中國審查法國蒙古展...被收緊的草原民族敘事

2020/10/17
中國文革期間,共產黨在內蒙古自治區發動了大規模種族屠殺(genocide)。圖為...

血染大草原:中國文革屠殺...內蒙古萬死的「內人黨」悲劇

2020/10/16
藏族女性拉姆,9月14日在父親家直播時,遭前夫唐姓男子持刀闖入,潑灑汽油造成全身...

拉姆的悲劇:中國藏族網紅命案後...依然無望的家庭暴力陰影?

2020/10/09

最新文章

中國持續崛起,其戰狼外交、南海軍事化、至乎以一帶一路等政策持續擴大的影響力,已動...

「川普治世」的榮耀與哀愁(下):圍堵中國...卻遠離亞洲?

2020/10/28
回顧川普四年任期間的外交政策,自2016年起,川普帶領下的美國已成為一個能力有限...

「川普治世」的榮耀與哀愁(上):分手歐洲的猜忌四年

2020/10/28
10月24日,不滿政府因武漢肺炎實施宵禁、以及長期的經濟衰退,義大利極右派政黨新...

以毒攻毒的政治再進化:歐洲「民粹政黨」要滅絕了嗎?

2020/10/27
「大阪都構想」是希望能夠給予關西第一大都市——大阪——特別市的位階,能像1943...

構造改革決戰關西第一?「大阪升格公投」掀起的政略風雲

2020/10/26
「這是我人生第一次投票,感覺超讚!」黑人球星俠客歐尼爾在今年10月7日時表示,終...

#黑人票:美國總統大選的BLM變數與「非裔投票學」迷思

2020/10/24
佛羅里達成為川普造勢的第一站。這絕非巧合、也絕不僅是川普熱愛陽光沙灘,佛州意味的...

#佛羅里達:我佛得天下?又老又難搞的「美國終極搖擺州」

2020/10/24

回應

Top