親愛的網友:
為確保您享有最佳的瀏覽體驗,建議您提升您的 IE 瀏覽器至最新版本,感謝您的配合。
側欄選單

臉孔強盜?以舊金山「人臉辨識」的監控禁令為例

2019/06/26 徐子軒

AI人臉辨識的「全民監控時代」,是否會像科幻電影一樣成真?在相關法制尚未完善之下...
AI人臉辨識的「全民監控時代」,是否會像科幻電影一樣成真?在相關法制尚未完善之下,人臉監控的各種疑慮也在多國掀起侵犯隱私、自由等爭議。 圖/電影《全民公敵》

5月中,美國舊金山市立法禁止警察和其他市政機構在公共場合使用「AI人臉辨識」(FR)技術,主要理由是FR有腐蝕公民權利和自由之虞,因為其錯誤會對某些族群社區造成不符比例的影響。根據舊金山監督委員會通過的《禁止秘密監控條例》(Stop Secret Surveillance Ordinance),若市政機構想要取得新監視技術,必須尋求議會批准。

無獨有偶,加州奧克蘭市的公共安全委員會,也準備提出將FR禁令納入城市監管技術的建議。其他灣區城市如柏克萊帕羅奧圖(Palo Alto)等,都有規定政府採買FR等監控技術前,必須經過議會審查;密西根州參議院正在考慮禁止執法部門使用FR的法案、華盛頓州則仍在審議FR和數據隱私法。

FR究竟是甚麼?為什麼有越來越多的美國人擔心這項技術、尋求節制的方法呢?

▌政府好幫手,企業有賺頭

簡單來說,FR就是由AI比較兩個臉部圖像,以確定它們是否代表同一個體的自動過程。它是第四波工業革命中發展較為成熟的技術,可應用在國土安全、刑事調查、身份管理、身體檢查、商業智能,以及照片索引等方面。

根據估計,2018年FR市場價值45億美元(約1,413億台幣),到2024年可翻倍達90億美元(約2,826億台幣),科技巨頭們紛紛投入,各國政府也投入資源進行研究或引進系統。目前北美是最大的市場、歐洲緊接在後,未來隨著中國、印度、東南亞等亞洲國家大量採用,此區域也將更具商業潛力。

對政府來說,社會穩定是執政目標;對企業來說,公司營利是至高指標。雙方合則兩利,在這塊因科技而開創出的FR新天地恣意妄為。以技術處於尖端、法律相對完善的美國為例,尚且仍無規範商業或政府FR技術用途的聯邦法律,遑論全心維穩的專制政權。

特別是一些公民缺乏基本法治保護,且有違反人權行為的國家,FR使其政府如虎添翼。如長期處於一人專政、黨國體制的辛巴威,即便處於國家經濟崩潰之際,也不忘佈署FR。這些技術主要來自中國,中國FR業者近年來突飛猛進,不只獲得政府支持,在全球佈局更有斬獲。在辛巴威,中國雲從科技提供全國識別計畫、海康威視提供閉路監視系統(CCTV)等監控平台,增強了政府壓制民主活動的能力。

以技術處於尖端、法律相對完善的美國為例,尚且仍無規範商業或政府FR技術用途的聯邦...
以技術處於尖端、法律相對完善的美國為例,尚且仍無規範商業或政府FR技術用途的聯邦法律,遑論全心維穩的專制政權。中國FR業者近年來突飛猛進,不只獲得政府支持,在全球佈局更有斬獲。 圖/路透社

▌你的臉孔不是你的?「自願」提供的人臉資料

由於欠缺因應FR技術發展而制定的法規,政府機構得以便宜行事,民主國家尚不能抵禦此類擴權的誘惑。像是近年來FR技術日益普及,美國政府責任署(GAO)就對聯邦調查局(FBI)的FR系統提出一系列建議,主要是確認其技術是否符合FBI內規,以免侵害美國公民的隱私與自由,但建議並無強制力。

迄今FBI究竟掌握多少美國公民的面貌資料,外界仍不清楚。如果以FBI和16個州的協議觀之,這些州允許FBI使用「駕駛執照數據庫」,代表著握有6,400萬人的臉部資料;如果以國務院的「護照數據庫」協議觀之,即是1.25億人的資料。無論何者,都可確定FBI已大量使用公民臉部資料。

這即是為何GAO對FBI提出建議,欲確保其FR技術合乎隱私法律和相關政策。因為FBI(與司法部)並未及時公佈隱私影響評估,與各州協議建立的照片系統也不透明,GAO認為至少要進行年度審查。但FBI以國安威脅為由,並未遵守全數建議,甚至聲稱要進一步使用虹膜(iris)識別系統於犯罪紀錄。

如此不難了解,若無法律約束,政府得以逕行解釋,究責就會變得困難。為審視FR在美國應用的狀況,美國國會近年接連召開聽證會,評估是否需立法約束,無論共和或民主黨議員都表示對FR的憂心。今年的聽證會上,更特別提到憲法修正案,也就是關於警察對公民使用FR技術的合憲性,這部分仍有待最高法院針對實際案例作出解釋。

美國政府責任署(GAO)提出一系列建議,欲確保FBI的FR技術合乎隱私法律和相關...
美國政府責任署(GAO)提出一系列建議,欲確保FBI的FR技術合乎隱私法律和相關政策,並至少要進行年度審查。但FBI以國安威脅為由,並未全數遵守,甚至聲稱要進一步使用虹膜(iris)識別系統於犯罪紀錄。圖為電影《關鍵報告》中,湯姆克魯斯(Tom Cruise)所飾演的約翰,為免遭身分追蹤而接受換眼球手術。 圖/電影《關鍵報告》

一個顯而易見的爭議是,美國執法部門要建立生物識別數據庫,得依循相關法律。像是FBI的「國家DNA數據庫」,幾乎完全由刑事逮捕或法醫調查所得的DNA組成;「指紋數據庫」雖擴及非犯罪記錄,包括移民和公務員的指紋,仍以被捕者為主——但FR則相反,其數據絕大多數來自於無涉犯罪的公民。

FBI主張所使用的照片,是公民「自願」向各州政府提供的駕照照片,而他們透過合法協議取得。問題是,這些駕照照片是否真是依合法途徑傳送到FR資料庫,進行刑事搜索比對?執法人員往往認定公民「自願」提供照片,但很多時候其實都是警察自我解釋。

根據美國隱私法律,在使用個人資訊之前,主管數據系統的官員應先通知人民,且個人數據的用途不應該超出政府數據系統的既定目的。像是駕駛照片,除非已明確獲得個人的知情同意書,否則不能以個人理解合理化用途。如要追究,恐怕沒有多少照片真正合法。

一個顯而易見的爭議是:FBI的「國家DNA數據庫」,幾乎完全由刑事逮捕或法醫調查...
一個顯而易見的爭議是:FBI的「國家DNA數據庫」,幾乎完全由刑事逮捕或法醫調查所得的DNA組成;「指紋數據庫」雖擴及非犯罪記錄,包括移民和公務員的指紋,仍以被捕者為主——但FR則相反,其數據絕大多數來自於無涉犯罪的公民。 圖/電影《關鍵報告》

▌FR爭議:辨識準確度

另一爭議點在於FR技術的準確度。以「MegaFace Challenge」為例,這是全球首個大型FR演算法競賽,2015年各家廠商的臉部識別率多在六成到七成之間,到2018年幾乎都是九成多以上,比拚的是小數點後幾位。然而,即使可達99.9%的準確度,若應用於數千萬人的資料庫,還是會造成數萬人的疏誤。

依照美國國家標準與技術研究院(NIST)的研究,也證明FR已有相當明顯的進步。從2010年開始,NIST針對FR開發商的演算法進行評估,方法是將一些人的臉部圖像輸入識別軟體,看是否能成功匹配在數據庫中的面部資料,2010年的失敗率為5%、2014年為4%,到了2018年只有0.2%。

透過卷積神經網路(CNN)的機器學習架構,FR得以飛速成長,照這個進度下去,2022年再測將可能可以達到0.01%或更低。但不管失敗率多低,都無法做到滴水不漏,意味執法程序必然會出現瑕疵,這就需要相關立法規範。一方面既要提升FR的準確度,一方面也得兼顧瑕疵程序中受損的公民權益,像是目前FR對女性與深膚色人種的誤判,都是亟待改進之處。

FR即使可達99.9%的準確度,若應用於數千萬人的資料庫,還是會造成數萬人的疏誤...
FR即使可達99.9%的準確度,若應用於數千萬人的資料庫,還是會造成數萬人的疏誤。像是目前FR對女性與深膚色人種的誤判,更是亟待改進之處。 圖/美聯社

▌FR時代來臨:如何混淆人臉辨識系統?

在沒有立法保障隱私權前,普通人能怎麼做?一名德國藝術家曾推出名為「CV Dazzle」的偽裝技術,利用各種髮型、髮色與臉部貼片、妝容,試圖瞞過FR。但變裝風格太過強烈,恐怕沒有多少人會接受,且偽裝效果似乎也不顯著,只能視為是商業宣傳。除非在特殊條件下,例如監視器的鏡頭有汙損,否則基本上還是無法騙過FR。

有心人士則利用某些技術欺瞞FR系統,尤其是涉及身份證明的文件,例如附有照片的護照、身份證、簽證等。這類技術被稱為「臉部合成」(Morphing),即是使用兩張不同人的照片,透過複雜的演算合成兩張照片,創造出一張帶有兩人面貌特徵的新照片,如此兩人都可持這張照片騙過FR。

若不想捲入違法情事,一位主張「公民有道德義務混淆FR等監視技術」的記者,提出這樣的建議:出門戴上超大的太陽眼鏡。因為FR技術是從最基本的人臉T字部位辨識起,眼鏡足以破壞臉部架構。也就是說,只要售價百元的眼鏡,就可以阻擋估值百億的FR,可謂划算之至。

有心人士利用「臉部合成」(Morphing)技術,使用兩張不同人的照片,透過複雜...
有心人士利用「臉部合成」(Morphing)技術,使用兩張不同人的照片,透過複雜的演算合成兩張照片,就能創造出一張帶有兩人面貌特徵的新照片,如此兩人都可持這張照片騙過FR。圖為美國前總統小布希(左)與阿諾.史瓦辛格(右)的臉部合成照片(中)示意圖。 圖/維基共享

除了外出墨鏡之外,要保護臉部隱私還有著更先進的方法。加拿大多倫多大學的研究團隊開發出可破壞FR的演算法,應用於一種相片過濾器。此類過濾器會加工圖片,但人眼無法察覺其變化,而是透過改變相片裡特定的像素,使FR產生混淆,據稱能讓臉部辨識比例從近100%降低到0.5%。

但說到底,這些措施都是治標不治本,仍需法律明文規定FR的用途與界限。立法其實不是為了要禁用FR、阻止科技發展,而是要糾正因科技產生的治理失衡。像是執法機關定期提供評估,就是很重要的一環,可讓失職官員無法躲藏;又如內部審計制度,對各機構的FR實施準確性與種族偏見檢查等措施。

此外亦可參考歐盟的《一般資料保護規則》(GDPR)第17條,也就是所謂的「被遺忘權」,指個人有權刪除網路上的個人資料。美國目前只有加州有類似法律,保護未成年人刪除網路資料。落實在犯罪防治上,除非個人同意保留,執法單位應銷毀被逮捕但發現無罪的FR數據,這也是保障民權的最後防線。

現行保護臉部隱私的方法,多少顯得治標不治本,仍需法律明文規定FR的用途與界限。而...
現行保護臉部隱私的方法,多少顯得治標不治本,仍需法律明文規定FR的用途與界限。而立法不是為了完全禁用FR、阻止科技發展,而是要糾正因科技產生的治理失衡。圖為2013年美國前CIA探員史諾登(Edward Snowden)揭露美國政府的監控計畫後,聲援者的「停止監控」抗議遊行。 圖/路透社


收看更多文章,請訂閱轉角國際facebook專頁:

推薦閱讀

老大哥「天網教室」?中國推廣的中小學「智能校服」實驗

中國「作戰App」:新疆官民全面監控的天網牢籠

川普的中企封殺令:從5G大戰到「天網」爭霸

AI武器未來戰(上):「殺手機器人」的禁令謬誤?

徐子軒

amor fati,覺得魯莽是一生至少一次、誰都不可或缺的美德;amor mundi,相信聰明人為的均衡根本難抵混沌粒沙的傾城。 ▎FB:37°C 的中國。 ▎Vlog:魯賓孫

作者文章

過去越南沒有針對「越南製造」產品的具體法規和標準,僅要求廠商「據實以報」,缺乏措...

「越南製造」的虛實(下):美國貿易越戰開打中?

2019/07/16
美中貿易大戰,越南能藉此成為最大贏家嗎? 圖/美聯社

「越南製造」的虛實(上):中國衰退大贏家?

2019/07/16
非洲的開發之路遠比東亞、拉美等地來得更為艱辛。自貿協定將有助創建更大的企業,並排...

非洲別走冤枉路?披荊斬棘的「無煙囪產業」之路

2019/07/12
若AfCFTA成功實施,預計到2040年,非洲內部農產品貿易將增長20至30%,...

全球化下邊緣人:「非洲自貿區」能讓非洲發大財嗎?

2019/07/04
以技術處於尖端、法律相對完善的美國為例,尚且仍無規範商業或政府FR技術用途的聯邦...

臉孔強盜?以舊金山「人臉辨識」的監控禁令為例

2019/06/26
新加坡的「小國國防」戰略,是怎麼讓它在強敵環伺下夾縫求生?圖為2007年新加坡國...

新加坡軍隊進化史:「小國國防」的夾縫求生戰略

2019/06/20

最新文章

土耳其拼上老命、寧可槓上美國,也硬要採購俄羅斯製的S-400防空飛彈(圖)?土耳...

重磅廣播/觸怒美國沒在怕?土耳其為何硬衝「S-400軍購案」

2019/07/20
要當一個快樂的老人,可能沒那麼容易。圖為大阪G20宣傳活動上的饒舌歐巴桑。 圖/...

養老要花多少錢?日本「老後年金」爭議下的非典型國民

2019/07/18
過去越南沒有針對「越南製造」產品的具體法規和標準,僅要求廠商「據實以報」,缺乏措...

「越南製造」的虛實(下):美國貿易越戰開打中?

2019/07/16
美中貿易大戰,越南能藉此成為最大贏家嗎? 圖/美聯社

「越南製造」的虛實(上):中國衰退大贏家?

2019/07/16
拜登只差一點點,就能夠打敗川普成為美國總統?從政資歷長達半世紀的前副總統拜登,已...

美國政壇「不死老喬」:拜登的第三次總統夢

2019/07/15
非洲的開發之路遠比東亞、拉美等地來得更為艱辛。自貿協定將有助創建更大的企業,並排...

非洲別走冤枉路?披荊斬棘的「無煙囪產業」之路

2019/07/12

回應

Top