服務(wù)熱線：13728883399
wangyp@shangeai.com

萬人上書貝索斯，抗議亞馬遜向警方出售人臉識別技術(shù)

時間：2018-05-28 09:53:07點擊：388次

新智元推薦

本文由微信公眾號「AI 前線」原創(chuàng),(ID:ai-front)

作者:Debra 編輯:Natalie

【新智元導讀】近日,二十多家機構(gòu)聯(lián)名向亞馬遜 CEO 貝索斯上書,抗議該公司將人臉識別技術(shù)出售給警方。人們之所以如此憤怒的原因在于,人臉識別技術(shù)在執(zhí)法部門的使用權(quán)限和用途并沒有明確的法律規(guī)定,毫不諷刺地說,執(zhí)法的警察本身就是在做一件無法可依的事。大數(shù)據(jù)時代,當隱私保護成為一個比解開畢達哥拉斯定理更困難的事時,我們除了無奈郁悶罵幾聲之外,還能怎么做?

為人們所熟知的亞馬遜是那個自稱可以在這里“買到一切”的網(wǎng)上商城,但最近,人們了解到這家公司還有另外一些很少有人知道的商品——警方花錢從亞馬遜買進人臉識別技術(shù)Rekognition,可以實時從數(shù)百萬張人臉中識別出警方在尋找的人。

早在 2012 年,Rekognition 就由中國留學生王盟和劉天強創(chuàng)立的 Orbeus 公司開發(fā)推出,后來被亞馬遜收購,成立了日后的 Amazon Rekognition team?？赡苁且驗槊绹碾[私政策限制,這項技術(shù)并沒有被美國警察部門大規(guī)模使用。

事實上,亞馬遜并不是唯一一家提供類似“公共場所服務(wù)”的公司,位于馬薩諸塞州的MorphoTrust 就被曝光向 FBI 和其他執(zhí)法部門提供人臉識別技術(shù)。底特律也向 Data Works Plus購買類似的技術(shù),以在加油站錄像中識別暴力犯罪人員。但為什么亞馬遜會成為聲討的對象呢?因為亞馬遜是第一家向執(zhí)法部門提供人臉識別技術(shù)的大公司。

在 ACLU(美國公民自由協(xié)會,American Civil Liberties Union,現(xiàn)有會員超過50萬)曝光了這樁買賣之后,包括 ACLU 在內(nèi)的二十多家非盈利性組織即向亞馬遜 CEO 杰夫·貝索斯上書,要求他停止向警察銷售此系統(tǒng)。

這封信中說,該技術(shù)將不可避免被當局濫用,并指控亞馬遜提供“強大的監(jiān)控系統(tǒng)會違反人權(quán),對社區(qū)形成巨大威脅,包括有色人種和移民。警方可能會利用其追蹤抗議者或其他被警方列為嫌疑人的目標,而不僅僅是罪犯”。

聯(lián)名信原文鏈接:

https://www.aclunc.org/docs/20180522_AR_Coalition_Letter.pdf

亞馬遜回應(yīng):并未向警方提供特殊服務(wù)

據(jù)《紐約時報》報道,這項技術(shù)上線一周后即顯神效,抓到了一個從商店偷盜 5000 美元的小偷,而且這個系統(tǒng)成本很低,花費 400 美元搭建之后每月只用花幾美元進行維護。

對于來勢洶洶的聲討,亞馬遜作出了略顯雞肋的回應(yīng):

亞馬遜所有的顧客都需要遵守法律規(guī)定并負責任。亞馬遜并沒有向執(zhí)法部門提供任何有區(qū)別于其他客戶的服務(wù)。

在一份聲明中,亞馬遜一位發(fā)言人強調(diào)該公司向大眾提供的這種“通用”的圖像識別技術(shù)可以自動識別人、物體和活動,機構(gòu)采用該技術(shù)尋找丟失兒童、識別婚宴來賓等。

亞馬遜官方還在此前上傳至 YouTube 的一則亞馬遜 Rekognition 總經(jīng)理講解這一服務(wù)的視頻評論區(qū)發(fā)出聲明,稱該 GM 的講解有誤,奧蘭多警方只是在進行該服務(wù)的內(nèi)部測試,并沒有在全城安裝攝像頭或使用該產(chǎn)品,并為此造成的誤解向公眾道歉。

沒有監(jiān)管的法外之地

執(zhí)法機關(guān)與人臉識別的“媾合”:你能想象執(zhí)法機關(guān)把你當成潛在罪犯,每天早上出門上班開始你的臉就被瞄準框鎖定,監(jiān)視你的一舉一動嗎?

這次的爭議引發(fā)了一個質(zhì)疑:警方使用人臉識別技術(shù)有什么法律規(guī)定進行監(jiān)管和約束嗎?我們得到的答案是:幾乎沒有。

在美國,聯(lián)邦和州政府通常被授予行使從公共攝像頭手機的人臉信息中搜索視頻和圖像的權(quán)利。城市和當?shù)夭块T可以制定本地政策和指導方針,但是早期的人臉識別技術(shù)采用部門并沒有系統(tǒng)制定的規(guī)則。

ACLU 公布的文件顯示,亞馬遜和奧蘭多和佛羅里達合作,構(gòu)建了一個用八臺公共攝像頭捕捉警方“感興趣目標”的系統(tǒng)。當被問到該系統(tǒng)運行是否遵有法可依時,一位發(fā)言人稱,“由于這是個試點項目,目前還未制定相關(guān)政策”。

據(jù)公開的文件顯示,奧蘭多警察局長稱該系統(tǒng)使用之前曾經(jīng)過測試,證明該系統(tǒng)可以提高公眾安全,并提高執(zhí)法效率。但奧蘭多一位發(fā)言人稱,這只是早期的測試,他們并沒有數(shù)據(jù)證明該系統(tǒng)確實有效,并稱還未用于調(diào)查和從公共場合取像。

文件還顯示,警局工作人員中其實有人對將市民人臉圖像存放在亞馬遜云中的做法存疑,這一行為被視為“政府與大數(shù)據(jù)的媾合”。

“在美國的憲法中沒有提及大數(shù)據(jù),但也沒有對人臉識別提供庇護,”亞利桑那大學的法學教授 Jane Bambauer 說道?！爸莘赏瑯右矝]有關(guān)于警方使用人臉識別的規(guī)定。”

對此,ACLU 科技與公民自由主任 Nicole Ozer 稱,目前只能寄希望于向亞馬遜、執(zhí)法部門和當?shù)厣鐓^(qū)施壓,制定自己的規(guī)則。“出臺法律的速度太慢了,趕不上形勢的需求?！?

電子前線基金會的高級律師 Jennifer Lynch 稱,“這是一個科技走在法律之外的典型例子,根本沒有監(jiān)管存在。”

也許有一天一位黑人朋友在大街上悠閑地嗦著冰淇淋,就被一群警察帶走了,然后他們發(fā)現(xiàn),搞錯了...

警方使用人臉識別技術(shù)另一個讓人擔憂的原因是,識別準確率并沒有想象中高,并不是在所有執(zhí)法情境中都好用。據(jù) FBI 2017 年公布的資料顯示,該機構(gòu)使用算法從大數(shù)據(jù)中挑選的 50 多個最接近“嫌疑目標”的識別率為 85%,去年英國南威爾士警方在一次足球比賽中的識別準確率更慘,只有 8%。

在性別和種族識別上,這項技術(shù)也并不完美。麻省理工學院的一份調(diào)查顯示,黑皮膚的女性被人臉識別軟件錯誤識別的幾率高達 35%。

有人認為,警方應(yīng)該公布人臉識別系統(tǒng)的具體數(shù)據(jù),包括在不同種族人身上識別的表現(xiàn),并認為警方現(xiàn)在對人臉識別的無依據(jù)使用不會持續(xù)太久。

無處不在的監(jiān)控,真實的《楚門的世界》

想想著名的“魔鬼魚”事件吧。在美國,聯(lián)邦和州的執(zhí)法機構(gòu)使用一種俗稱為“魔鬼魚”的設(shè)備大量獲取用戶信息。這種強大的監(jiān)控工具通過模擬手機訊號侵入不知情的公民的手機,借此追蹤這些手機的地理位置,甚至截取手機用戶的通信內(nèi)容。

如此堂而皇之地竊取用戶信息,這個前車之鑒讓人不免擔心人臉識別技術(shù)避免不了被濫用的命運,在這種技術(shù)以合法的面目公然出現(xiàn)在大街小巷時,所有的人都將活在警察局的監(jiān)視器中,無處躲藏,儼然將上演真實版的《楚門的世界》。

人臉識別技術(shù)的忠實粉絲將之視為抓捕罪犯的強有力武器,但是不看好它的人卻嗅到了大規(guī)模監(jiān)控帶來的隱憂。據(jù)喬治敦大學法學院隱私和技術(shù)中心數(shù)據(jù)顯示,在美國,面部識別技術(shù)不僅將罪犯列為識別對象,超過1.3億美國成年人都在犯罪搜索數(shù)據(jù)庫中。

當人臉識別與政府“媾合”時,無人可逃。

在美國,競賽場上會用人臉識別揪出賽事中鬧事的人,國安局用它來識別在機場逗留過久的外國游客。