近日,二十多家機(jī)構(gòu)聯(lián)名向亞馬遜 CEO 貝索斯上書,抗議該公司將人臉識(shí)別技術(shù)出售給警方。人們之所以如此憤怒的原因在于,人臉識(shí)別技術(shù)在執(zhí)法部門的使用權(quán)限和用途并沒有明確的法律規(guī)定,毫不諷刺地說,執(zhí)法的警察本身就是在做一件無法可依的事。大數(shù)據(jù)時(shí)代,當(dāng)隱私保護(hù)成為一個(gè)比解開畢達(dá)哥拉斯定理更困難的事時(shí),我們除了無奈郁悶罵幾聲之外,還能怎么做?

為人們所熟知的亞馬遜是那個(gè)自稱可以在這里“買到一切”的網(wǎng)上商城,但最近,人們了解到這家公司還有另外一些很少有人知道的商品——警方花錢從亞馬遜買進(jìn)人臉識(shí)別技術(shù)Rekognition,可以實(shí)時(shí)從數(shù)百萬張人臉中識(shí)別出警方在尋找的人。

早在 2012 年,Rekognition 就由中國(guó)留學(xué)生王盟和劉天強(qiáng)創(chuàng)立的 Orbeus 公司開發(fā)推出,后來被亞馬遜收購(gòu),成立了日后的 Amazon Rekognition team?？赡苁且?yàn)槊绹?guó)的隱私政策限制,這項(xiàng)技術(shù)并沒有被美國(guó)警察部門大規(guī)模使用。

事實(shí)上,亞馬遜并不是唯一一家提供類似“公共場(chǎng)所服務(wù)”的公司,位于馬薩諸塞州的MorphoTrust就被曝光向 FBI 和其他執(zhí)法部門提供人臉識(shí)別技術(shù)。底特律也向Data Works Plus購(gòu)買類似的技術(shù),以在加油站錄像中識(shí)別暴力犯罪人員。但為什么亞馬遜會(huì)成為聲討的對(duì)象呢?因?yàn)閬嗰R遜是第一家向執(zhí)法部門提供人臉識(shí)別技術(shù)的大公司。

在 ACLU(美國(guó)公民自由協(xié)會(huì),American Civil Liberties Union,現(xiàn)有會(huì)員超過50萬)曝光了這樁買賣之后,包括 ACLU 在內(nèi)的二十多家非盈利性組織即向亞馬遜 CEO 杰夫·貝索斯上書,要求他停止向警察銷售此系統(tǒng)。

這封信中說,該技術(shù)將不可避免被當(dāng)局濫用,并指控亞馬遜提供“強(qiáng)大的監(jiān)控系統(tǒng)會(huì)違反人權(quán),對(duì)社區(qū)形成巨大威脅,包括有色人種和移民。警方可能會(huì)利用其追蹤抗議者或其他被警方列為嫌疑人的目標(biāo),而不僅僅是罪犯”。

聯(lián)名信原文鏈接:

https://www.aclunc.org/docs/20180522_AR_Coalition_Letter.pdf

亞馬遜回應(yīng):并未向警方提供特殊服務(wù)

據(jù)《紐約時(shí)報(bào)》報(bào)道,這項(xiàng)技術(shù)上線一周后即顯神效,抓到了一個(gè)從商店偷盜 5000 美元的小偷,而且這個(gè)系統(tǒng)成本很低,花費(fèi)400 美元搭建之后每月只用花幾美元進(jìn)行維護(hù)。

對(duì)于來勢(shì)洶洶的聲討,亞馬遜作出了略顯雞肋的回應(yīng):

亞馬遜所有的顧客都需要遵守法律規(guī)定并負(fù)責(zé)任。亞馬遜并沒有向執(zhí)法部門提供任何有區(qū)別于其他客戶的服務(wù)。

在一份聲明中,亞馬遜一位發(fā)言人強(qiáng)調(diào)該公司向大眾提供的這種“通用”的圖像識(shí)別技術(shù)可以自動(dòng)識(shí)別人、物體和活動(dòng),機(jī)構(gòu)采用該技術(shù)尋找丟失兒童、識(shí)別婚宴來賓等。

亞馬遜官方還在此前上傳至 YouTube 的一則亞馬遜 Rekognition 總經(jīng)理講解這一服務(wù)的視頻評(píng)論區(qū)發(fā)出聲明,稱該 GM 的講解有誤,奧蘭多警方只是在進(jìn)行該服務(wù)的內(nèi)部測(cè)試,并沒有在全城安裝攝像頭或使用該產(chǎn)品,并為此造成的誤解向公眾道歉。

沒有監(jiān)管的法外之地

執(zhí)法機(jī)關(guān)與人臉識(shí)別的“媾合”:你能想象執(zhí)法機(jī)關(guān)把你當(dāng)成潛在罪犯,每天早上出門上班開始你的臉就被瞄準(zhǔn)框鎖定,監(jiān)視你的一舉一動(dòng)嗎?

這次的爭(zhēng)議引發(fā)了一個(gè)質(zhì)疑:警方使用人臉識(shí)別技術(shù)有什么法律規(guī)定進(jìn)行監(jiān)管和約束嗎?我們得到的答案是:幾乎沒有。

在美國(guó),聯(lián)邦和州政府通常被授予行使從公共攝像頭手機(jī)的人臉信息中搜索視頻和圖像的權(quán)利。城市和當(dāng)?shù)夭块T可以制定本地政策和指導(dǎo)方針,但是早期的人臉識(shí)別技術(shù)采用部門并沒有系統(tǒng)制定的規(guī)則。

ACLU 公布的文件顯示,亞馬遜和奧蘭多和佛羅里達(dá)合作,構(gòu)建了一個(gè)用八臺(tái)公共攝像頭捕捉警方“感興趣目標(biāo)”的系統(tǒng)。當(dāng)被問到該系統(tǒng)運(yùn)行是否遵有法可依時(shí),一位發(fā)言人稱,“由于這是個(gè)試點(diǎn)項(xiàng)目,目前還未制定相關(guān)政策”。

據(jù)公開的文件顯示,奧蘭多警察局長(zhǎng)稱該系統(tǒng)使用之前曾經(jīng)過測(cè)試,證明該系統(tǒng)可以提高公眾安全,并提高執(zhí)法效率。但奧蘭多一位發(fā)言人稱,這只是早期的測(cè)試,他們并沒有數(shù)據(jù)證明該系統(tǒng)確實(shí)有效,并稱還未用于調(diào)查和從公共場(chǎng)合取像。

文件還顯示,警局工作人員中其實(shí)有人對(duì)將市民人臉圖像存放在亞馬遜云中的做法存疑,這一行為被視為“政府與大數(shù)據(jù)的媾合”。

“在美國(guó)的憲法中沒有提及大數(shù)據(jù),但也沒有對(duì)人臉識(shí)別提供庇護(hù),”亞利桑那大學(xué)的法學(xué)教授 Jane Bambauer 說道。“州法律同樣也沒有關(guān)于警方使用人臉識(shí)別的規(guī)定?！?

對(duì)此,ACLU 科技與公民自由主任 Nicole Ozer 稱,目前只能寄希望于向亞馬遜、執(zhí)法部門和當(dāng)?shù)厣鐓^(qū)施壓,制定自己的規(guī)則?！俺雠_(tái)法律的速度太慢了,趕不上形勢(shì)的需求。”

電子前線基金會(huì)的高級(jí)律師 Jennifer Lynch 稱,“這是一個(gè)科技走在法律之外的典型例子,根本沒有監(jiān)管存在?！?

識(shí)別準(zhǔn)確率不夠,有色人種識(shí)別更差

也許有一天一位黑人朋友在大街上悠閑地嗦著冰淇淋,就被一群警察帶走了,然后他們發(fā)現(xiàn),搞錯(cuò)了...

警方使用人臉識(shí)別技術(shù)另一個(gè)讓人擔(dān)憂的原因是,識(shí)別準(zhǔn)確率并沒有想象中高,并不是在所有執(zhí)法情境中都好用。據(jù) FBI 2017 年公布的資料顯示,該機(jī)構(gòu)使用算法從大數(shù)據(jù)中挑選的 50 多個(gè)最接近“嫌疑目標(biāo)”的識(shí)別率為 85%,去年英國(guó)南威爾士警方在一次足球比賽中的識(shí)別準(zhǔn)確率更慘,只有 8%。

在性別和種族識(shí)別上,這項(xiàng)技術(shù)也并不完美。麻省理工學(xué)院的一份調(diào)查顯示,黑皮膚的女性被人臉識(shí)別軟件錯(cuò)誤識(shí)別的幾率高達(dá) 35%。

有人認(rèn)為,警方應(yīng)該公布人臉識(shí)別系統(tǒng)的具體數(shù)據(jù),包括在不同種族人身上識(shí)別的表現(xiàn),并認(rèn)為警方現(xiàn)在對(duì)人臉識(shí)別的無依據(jù)使用不會(huì)持續(xù)太久。

無處不在的監(jiān)控,真實(shí)的《楚門的世界》

想想著名的“魔鬼魚”事件吧。在美國(guó),聯(lián)邦和州的執(zhí)法機(jī)構(gòu)使用一種俗稱為“魔鬼魚”的設(shè)備大量獲取用戶信息。這種強(qiáng)大的監(jiān)控工具通過模擬手機(jī)訊號(hào)侵入不知情的公民的手機(jī),借此追蹤這些手機(jī)的地理位置,甚至截取手機(jī)用戶的通信內(nèi)容。

如此堂而皇之地竊取用戶信息,這個(gè)前車之鑒讓人不免擔(dān)心人臉識(shí)別技術(shù)避免不了被濫用的命運(yùn),在這種技術(shù)以合法的面目公然出現(xiàn)在大街小巷時(shí),所有的人都將活在警察局的監(jiān)視器中,無處躲藏,儼然將上演真實(shí)版的《楚門的世界》。

人臉識(shí)別技術(shù)的忠實(shí)粉絲將之視為抓捕罪犯的強(qiáng)有力武器,但是不看好它的人卻嗅到了大規(guī)模監(jiān)控帶來的隱憂。據(jù)喬治敦大學(xué)法學(xué)院隱私和技術(shù)中心數(shù)據(jù)顯示,在美國(guó),面部識(shí)別技術(shù)不僅將罪犯列為識(shí)別對(duì)象,超過1.3億美國(guó)成年人都在犯罪搜索數(shù)據(jù)庫中。

當(dāng)人臉識(shí)別與政府“媾合”時(shí),無人可逃。

在美國(guó),競(jìng)賽場(chǎng)上會(huì)用人臉識(shí)別揪出賽事中鬧事的人,國(guó)安局用它來識(shí)別在機(jī)場(chǎng)逗留過久的外國(guó)游客。

商店里裝有識(shí)別顧客的智能攝像頭。

美國(guó)可能離國(guó)人有點(diǎn)遠(yuǎn),那近一點(diǎn)看看國(guó)內(nèi),其實(shí)人臉識(shí)別的普遍程度遠(yuǎn)超我們的想象。

人臉識(shí)別中國(guó)式過馬路,可謂是聲名遠(yuǎn)播四海。

靈隱寺、天壇試點(diǎn)刷臉取廁紙。

政府機(jī)構(gòu)在街道、地鐵站、機(jī)場(chǎng)、海關(guān)安裝智能人臉識(shí)別攝像頭。

不知道上面那位對(duì)著機(jī)器刷臉取廁紙的妹子當(dāng)時(shí)是什么心情,看起來好像對(duì)這個(gè)東西挺新奇的,也許是如廁事大,她并沒有選擇......

但新奇感過后,這件事卻讓人驚出一層冷汗:當(dāng)我們做其他的事情也被迫要交出自己的個(gè)人信息時(shí),比如抬頭可見的監(jiān)控天網(wǎng)呢,你會(huì)選擇沉默嗎?還是會(huì)嘗試爭(zhēng)取一下自己的利益(雖然很難)?這并不是空穴來風(fēng)的焦慮,而是大數(shù)據(jù)時(shí)代日益嚴(yán)峻的隱私保護(hù)問題。

以上驚悚的事情不只發(fā)生在《楚門的世界》,現(xiàn)實(shí)生活中已經(jīng)在不斷上演,也許不久的將來,也許現(xiàn)在,你就正在被政府的無數(shù)雙“眼睛”盯著。是不是聽起來毛骨悚然?但這并不夸張。

國(guó)人的隱私觀和現(xiàn)狀

這還不是最讓人窒息的,因?yàn)樽鳛閲?guó)情特殊的大國(guó),我國(guó)人民向來享受著來自政府部門的“特別關(guān)愛”,在隱私這一問題上也不例外,還曾無奈地“被認(rèn)為不重要”。

比如亞馬遜這次和執(zhí)法部門的合作有人覺得不合理就去抗議,雖然還不知道亞馬遜會(huì)采取什么具體應(yīng)對(duì)措施,會(huì)不會(huì)迫于壓力終止這次合作,但起碼這家巨頭迅速做出了回應(yīng),并向公眾道歉。換成在國(guó)內(nèi),或許連一點(diǎn)浪花都掀不動(dòng)。

關(guān)于中國(guó)人對(duì)于隱私的看法,相信大多數(shù)人的觀點(diǎn)都是一樣的:隱私被侵犯了,生氣,但是除了生氣還能怎么辦?

以上是網(wǎng)友關(guān)于亞馬遜與警方合作的觀點(diǎn),歸結(jié)下來大概分為兩大類:

感嘆國(guó)內(nèi)與國(guó)外隱私保護(hù)差距的

大數(shù)據(jù)時(shí)代沒有隱私可言,自由與安全不可兼得

這些評(píng)論雖然并不能概括出國(guó)人對(duì)于隱私的重視程度幾何,但多少能反映出人們普遍存在的心理。

總而言之,中國(guó)是目前人臉識(shí)別技術(shù)政府部門采用最廣泛的國(guó)家之一,將來會(huì)迎來更多關(guān)于隱私的問題和討論,憤怒沒有用,我們應(yīng)該做的,是如何在這種已然形成的大環(huán)境下盡量地保留最后的尊嚴(yán)。

原文標(biāo)題:萬人上書貝索斯,抗議亞馬遜向警方出售人臉識(shí)別技術(shù)

文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。