臉孔強盜？以舊金山「人臉辨識」的監控禁令為例

2019/06/26 徐子軒

AI人臉辨識的「全民監控時代」，是否會像科幻電影一樣成真？在相關法制尚未完善之下... — AI人臉辨識的「全民監控時代」，是否會像科幻電影一樣成真？在相關法制尚未完善之下，人臉監控的各種疑慮也在多國掀起侵犯隱私、自由等爭議。圖／電影《全民公敵》

5月中，美國舊金山市立法禁止警察和其他市政機構在公共場合使用「AI人臉辨識」（FR）技術，主要理由是FR有腐蝕公民權利和自由之虞，因為其錯誤會對某些族群社區造成不符比例的影響。根據舊金山監督委員會通過的《禁止秘密監控條例》（Stop Secret Surveillance Ordinance），若市政機構想要取得新監視技術，必須尋求議會批准。

無獨有偶，加州奧克蘭市的公共安全委員會，也準備提出將FR禁令納入城市監管技術的建議。其他灣區城市如柏克萊、帕羅奧圖（Palo Alto）等，都有規定政府採買FR等監控技術前，必須經過議會審查；密西根州參議院正在考慮禁止執法部門使用FR的法案、華盛頓州則仍在審議FR和數據隱私法。

FR究竟是甚麼？為什麼有越來越多的美國人擔心這項技術、尋求節制的方法呢？

▌政府好幫手，企業有賺頭

簡單來說，FR就是由AI比較兩個臉部圖像，以確定它們是否代表同一個體的自動過程。它是第四波工業革命中發展較為成熟的技術，可應用在國土安全、刑事調查、身份管理、身體檢查、商業智能，以及照片索引等方面。

根據估計，2018年FR市場價值45億美元（約1,413億台幣），到2024年可翻倍達90億美元（約2,826億台幣），科技巨頭們紛紛投入，各國政府也投入資源進行研究或引進系統。目前北美是最大的市場、歐洲緊接在後，未來隨著中國、印度、東南亞等亞洲國家大量採用，此區域也將更具商業潛力。

對政府來說，社會穩定是執政目標；對企業來說，公司營利是至高指標。雙方合則兩利，在這塊因科技而開創出的FR新天地恣意妄為。以技術處於尖端、法律相對完善的美國為例，尚且仍無規範商業或政府FR技術用途的聯邦法律，遑論全心維穩的專制政權。

特別是一些公民缺乏基本法治保護，且有違反人權行為的國家，FR使其政府如虎添翼。如長期處於一人專政、黨國體制的辛巴威，即便處於國家經濟崩潰之際，也不忘佈署FR。這些技術主要來自中國，中國FR業者近年來突飛猛進，不只獲得政府支持，在全球佈局更有斬獲。在辛巴威，中國雲從科技提供全國識別計畫、海康威視提供閉路監視系統（CCTV）等監控平台，增強了政府壓制民主活動的能力。

▌你的臉孔不是你的？「自願」提供的人臉資料

由於欠缺因應FR技術發展而制定的法規，政府機構得以便宜行事，民主國家尚不能抵禦此類擴權的誘惑。像是近年來FR技術日益普及，美國政府責任署（GAO）就對聯邦調查局（FBI）的FR系統提出一系列建議，主要是確認其技術是否符合FBI內規，以免侵害美國公民的隱私與自由，但建議並無強制力。

迄今FBI究竟掌握多少美國公民的面貌資料，外界仍不清楚。如果以FBI和16個州的協議觀之，這些州允許FBI使用「駕駛執照數據庫」，代表著握有6,400萬人的臉部資料；如果以國務院的「護照數據庫」協議觀之，即是1.25億人的資料。無論何者，都可確定FBI已大量使用公民臉部資料。

這即是為何GAO對FBI提出建議，欲確保其FR技術合乎隱私法律和相關政策。因為FBI（與司法部）並未及時公佈隱私影響評估，與各州協議建立的照片系統也不透明，GAO認為至少要進行年度審查。但FBI以國安威脅為由，並未遵守全數建議，甚至聲稱要進一步使用虹膜（iris）識別系統於犯罪紀錄。

如此不難了解，若無法律約束，政府得以逕行解釋，究責就會變得困難。為審視FR在美國應用的狀況，美國國會近年接連召開聽證會，評估是否需立法約束，無論共和或民主黨議員都表示對FR的憂心。今年的聽證會上，更特別提到憲法修正案，也就是關於警察對公民使用FR技術的合憲性，這部分仍有待最高法院針對實際案例作出解釋。

美國政府責任署（GAO）提出一系列建議，欲確保FBI的FR技術合乎隱私法律和相關... — 美國政府責任署（GAO）提出一系列建議，欲確保FBI的FR技術合乎隱私法律和相關政策，並至少要進行年度審查。但FBI以國安威脅為由，並未全數遵守，甚至聲稱要進一步使用虹膜（iris）識別系統於犯罪紀錄。圖為電影《關鍵報告》中，湯姆克魯斯（Tom Cruise）所飾演的約翰，為免遭身分追蹤而接受換眼球手術。圖／電影《關鍵報告》

一個顯而易見的爭議是，美國執法部門要建立生物識別數據庫，得依循相關法律。像是FBI的「國家DNA數據庫」，幾乎完全由刑事逮捕或法醫調查所得的DNA組成；「指紋數據庫」雖擴及非犯罪記錄，包括移民和公務員的指紋，仍以被捕者為主——但FR則相反，其數據絕大多數來自於無涉犯罪的公民。

FBI主張所使用的照片，是公民「自願」向各州政府提供的駕照照片，而他們透過合法協議取得。問題是，這些駕照照片是否真是依合法途徑傳送到FR資料庫，進行刑事搜索比對？執法人員往往認定公民「自願」提供照片，但很多時候其實都是警察自我解釋。

根據美國隱私法律，在使用個人資訊之前，主管數據系統的官員應先通知人民，且個人數據的用途不應該超出政府數據系統的既定目的。像是駕駛照片，除非已明確獲得個人的知情同意書，否則不能以個人理解合理化用途。如要追究，恐怕沒有多少照片真正合法。

一個顯而易見的爭議是：FBI的「國家DNA數據庫」，幾乎完全由刑事逮捕或法醫調查... — 一個顯而易見的爭議是：FBI的「國家DNA數據庫」，幾乎完全由刑事逮捕或法醫調查所得的DNA組成；「指紋數據庫」雖擴及非犯罪記錄，包括移民和公務員的指紋，仍以被捕者為主——但FR則相反，其數據絕大多數來自於無涉犯罪的公民。圖／電影《關鍵報告》

▌FR爭議：辨識準確度

另一爭議點在於FR技術的準確度。以「MegaFace Challenge」為例，這是全球首個大型FR演算法競賽，2015年各家廠商的臉部識別率多在六成到七成之間，到2018年幾乎都是九成多以上，比拚的是小數點後幾位。然而，即使可達99.9％的準確度，若應用於數千萬人的資料庫，還是會造成數萬人的疏誤。

依照美國國家標準與技術研究院（NIST）的研究，也證明FR已有相當明顯的進步。從2010年開始，NIST針對FR開發商的演算法進行評估，方法是將一些人的臉部圖像輸入識別軟體，看是否能成功匹配在數據庫中的面部資料，2010年的失敗率為5％、2014年為4％，到了2018年只有0.2％。

透過卷積神經網路（CNN）的機器學習架構，FR得以飛速成長，照這個進度下去，2022年再測將可能可以達到0.01％或更低。但不管失敗率多低，都無法做到滴水不漏，意味執法程序必然會出現瑕疵，這就需要相關立法規範。一方面既要提升FR的準確度，一方面也得兼顧瑕疵程序中受損的公民權益，像是目前FR對女性與深膚色人種的誤判，都是亟待改進之處。

FR即使可達99.9％的準確度，若應用於數千萬人的資料庫，還是會造成數萬人的疏誤... — FR即使可達99.9％的準確度，若應用於數千萬人的資料庫，還是會造成數萬人的疏誤。像是目前FR對女性與深膚色人種的誤判，更是亟待改進之處。圖／美聯社

▌FR時代來臨：如何混淆人臉辨識系統？

在沒有立法保障隱私權前，普通人能怎麼做？一名德國藝術家曾推出名為「CV Dazzle」的偽裝技術，利用各種髮型、髮色與臉部貼片、妝容，試圖瞞過FR。但變裝風格太過強烈，恐怕沒有多少人會接受，且偽裝效果似乎也不顯著，只能視為是商業宣傳。除非在特殊條件下，例如監視器的鏡頭有汙損，否則基本上還是無法騙過FR。

有心人士則利用某些技術欺瞞FR系統，尤其是涉及身份證明的文件，例如附有照片的護照、身份證、簽證等。這類技術被稱為「臉部合成」（Morphing），即是使用兩張不同人的照片，透過複雜的演算合成兩張照片，創造出一張帶有兩人面貌特徵的新照片，如此兩人都可持這張照片騙過FR。

若不想捲入違法情事，一位主張「公民有道德義務混淆FR等監視技術」的記者，提出這樣的建議：出門戴上超大的太陽眼鏡。因為FR技術是從最基本的人臉T字部位辨識起，眼鏡足以破壞臉部架構。也就是說，只要售價百元的眼鏡，就可以阻擋估值百億的FR，可謂划算之至。