這一天終究還是來了。

亞馬遜開始向軍方推銷起AI武器來了。

據(jù)悉,亞馬遜正在為政府和警察部門推銷其一款名為Amazon Rekognition的產(chǎn)品,這款產(chǎn)品可以實時識別,跟蹤和分析人員,并在單幅圖像中識別多達100個人。它還可以快速掃描收集的信息,與數(shù)據(jù)庫數(shù)千萬張面孔進行比對。

這意味著,通過亞馬遜的技術(shù)可以監(jiān)控“團體照片、擁擠人群以及機場等公共場所中的所有面孔”。此消息一出,瞬間引發(fā)了一系列恐慌。美國公民自由聯(lián)盟(ACLU)組織了30多個民權(quán)組織聯(lián)合反對亞馬遜的此行為,并舉行一系列抗議活動,反對美國政府使用人臉識別技術(shù),并要求亞馬遜CEO貝索斯停止向政府出售RekogniTIon。

大部分民眾認為,通過RekogniTIon,政府現(xiàn)在可以構(gòu)建一個自動識別和跟蹤任何人的系統(tǒng)。如果警察配備的隨身攝像頭配備了人臉識別裝置,那么原本用于執(zhí)法透明和問責制的裝置將轉(zhuǎn)變?yōu)獒槍姷谋O(jiān)視器。

亞馬遜RekogniTIon的精準人臉識別

“風口浪尖”的亞馬遜

此舉一出,亞馬遜內(nèi)部及其用戶議論紛紛。

在亞馬遜內(nèi)部,許多員工加入民權(quán)團體,對其行為進行抗議,并認為這將對公民權(quán)利、特別是對移民和人民會產(chǎn)生獨特威脅。

6月份,亞馬遜內(nèi)部的100多名員工更是向CEO杰夫·貝索斯(Jeff Bezos)遞交了一份公開信,要求公司停止向ICE和其他執(zhí)法機構(gòu)出售侵入性和違憲的RekogniTIon面部識別技術(shù)。

亞馬遜CEO杰夫·貝索斯(Jeff Bezos)

除了要求停止出售Rekognition之外,亞馬遜員工在信中還呼吁公司停止對數(shù)據(jù)分析公司Palantir提供支持。

Palantir是Peter Thiel于2003年創(chuàng)立的大數(shù)據(jù)公司,為執(zhí)法部門提供預(yù)測性警務(wù)工具,并通過亞馬遜網(wǎng)絡(luò)服務(wù)公司與ICE簽訂了大量合同(Thiel曾秘密資助了一起導(dǎo)致Gizmodo的前母公司Gizker Media破產(chǎn)的訴訟)。

但是,對此情況,亞馬遜并不買賬。面對“內(nèi)外夾擊”般的抗議,亞馬遜并沒有像谷歌一般將項目推遲,而是選擇了“正面硬剛”。亞馬遜回應(yīng):不能因為技術(shù)可能會被濫用就限制其進步。并表示其將堅決的捍衛(wèi)Rekognition。

在商言商,從商業(yè)角度來看,亞馬遜的行為沒有原則性的問題,但是,當人臉識別技術(shù)牽涉的“倫理”、“隱私安全”等敏感領(lǐng)域時,這就不像亞馬遜說的這樣簡單了。

人臉識別,想說愛你不容易

人臉識別技術(shù)已經(jīng)投入市場中有相當長的時間了,可是從其表現(xiàn)來看,并沒有想象中優(yōu)異。智能相對論分析師柯鳴認為,人臉識別技術(shù)的發(fā)展,其依然存在著較多問題。

1.“冤枉了98%的好人”

人臉識別的準確率,遠沒有我們想象中的那么高。在此前倫敦議會聽證會上,大都會警察局局長Cressida Dick透露出,本地警察局部署的人臉識別系統(tǒng)準確率僅為2%。

去年6月的歐冠聯(lián)賽上,當南威爾士警方的人臉識別相機首次應(yīng)用時,系統(tǒng)發(fā)出了2470次警報。也就是說,在這場球賽中每隔三秒就會提示嫌犯來了,系統(tǒng)的努力程度著實令人感動。

但是,在這兩千多次的預(yù)警中,只有173次是正確的判斷,AFR的錯誤率高達92%。英國警方給出的統(tǒng)計數(shù)據(jù)顯示,截止到今年5月份,南威爾士警方的AFR識別錯誤率平均為91%。

歷史上最著名的人臉誤判案例可能是1903年在美國堪薩斯州發(fā)生的William West-Will West案件。當時一個名為威爾?韋斯特(Will West)的犯人正要被收押進萊文沃思(Leavenworth)監(jiān)獄。監(jiān)獄職員看他面熟,問他以前是否來過這里,威爾說沒有。接著職員調(diào)出了William West的照片給威爾看,威爾說:“這的確是我,可是你們是怎么拿到這張照片的呢?以前我從未到這兒來過?！睆拇?從美國開始,各國監(jiān)獄和司法系統(tǒng)開始用指紋進行罪犯身份登記和管理。

顯然,此類的烏龍事件讓人啼笑皆非的同時也不免有陣陣隱憂。如此“不靠譜”的人臉識別,真的能夠成為安防等領(lǐng)域的保護傘嗎?

2.人臉識別,道阻且長

先不論人臉識別本身的正確率,其自身運作中也存在著一部分問題。

首先,人臉識別并不是精準信息對比,而僅僅是相似度對比。因為人臉識別和算大技術(shù)不同,值的設(shè)定方法完全不同,評判的標準自然也不同,即使從識別實際效果看,其包括誤識率(FAR):將其他人誤作指定人員的概率;以及拒識率(FRR):將指定人員誤作其他人員的概率。這些結(jié)果都受到訓練和測試空間樣本的影響,難以做到完全精確。

其次,人臉圖片的采集如果不做活體監(jiān)測,就易招致基于用戶照片的重放攻擊?；铙w檢測的話,對后臺的計算資源和網(wǎng)絡(luò)的傳輸資源要求較高,所以在目前實際上線的人臉識別都是非常容易攻破的。

最后,人臉形態(tài)的易變形讓人臉識別更易出錯。人可以通過臉部的變化產(chǎn)生很多表情,而在不同觀察角度,人臉的視覺圖像也相差很大,另外,人臉識別還受光照條件(例如白天和夜晚,室內(nèi)和室外等)、人臉的很多遮蓋物(例如口罩、墨鏡、頭發(fā)、胡須等)、年齡等多方面因素的影響。

隱私的無情泄露,你的臉還好嗎?

在大量的抗議面前,三大公司中微軟首先選擇了低頭。在關(guān)于人臉識別的潛在用途和濫用的一篇博客文章中,微軟總裁Bradford L. Smith將該技術(shù)與受到全面監(jiān)管的藥品和汽車等產(chǎn)品進行了比較,并敦促美國國會展開研究并監(jiān)督人臉識別技術(shù)的使用。

作為人臉識別軟件主要制造商之一,微軟表示它將采取措施降低這些系統(tǒng)產(chǎn)生偏差的可能性;制定新的公共原則來管理技術(shù);并會更謹慎地出售其在該領(lǐng)域的軟件和專業(yè)知識。微軟指出,雖然技術(shù)行業(yè)需要對其產(chǎn)品負責,但是政府也要采取行動。

人臉識別是目前AI領(lǐng)域里應(yīng)用最廣泛的技術(shù)之一,但在推廣的過程中也引起了越來越多的爭議。今年4月,個人隱私保護組織向美國聯(lián)邦貿(mào)易委員會提起訴訟,稱Facebook在未獲得用戶適當許可的情況下開啟了新的人臉識別服務(wù)。

當前,大數(shù)據(jù)、云計算和人工智能等技術(shù)推動移動互聯(lián)網(wǎng)中新的應(yīng)用場景層出不窮,但其背后的隱私和數(shù)據(jù)保護,已經(jīng)成為網(wǎng)絡(luò)平臺和移動終端迫在眉睫的要務(wù)。從整體移動終端市場來看,應(yīng)用領(lǐng)域數(shù)據(jù)濫用的情況十分突出。第三方應(yīng)用對于個人信息過度收集、隱秘收集和誘騙收集的情況日漸增多。

用戶隱私數(shù)據(jù)安全挑戰(zhàn)加劇主要出于三方面原因:第一,過于籠統(tǒng)的“用戶協(xié)議”販賣了用戶信息,獲取和收集用戶個人信息的授權(quán),導(dǎo)致個人信息使用的不規(guī)范甚至大量泄漏。

第二,用戶本身對保護個人信息重視程度不足。出于方便的考慮,不少用戶在多處使用簡單重復(fù)的賬號和密碼,當一處信息泄露便導(dǎo)致整體信息暴露。

第三,法律層面的缺失。當數(shù)據(jù)如同能源一樣重要時,法律法規(guī)的滯后在一定程度上導(dǎo)致了數(shù)據(jù)安全和隱私保護的缺失。數(shù)據(jù)所有權(quán)、數(shù)據(jù)交易規(guī)則等基礎(chǔ)法律界定仍未明確。例如,個人數(shù)據(jù)原本屬于用戶本身,但用戶在網(wǎng)絡(luò)平臺中所產(chǎn)生的數(shù)據(jù),如交易數(shù)據(jù)和行為數(shù)據(jù),在經(jīng)過脫敏后其所有權(quán)和使用權(quán)歸屬用戶還是平臺,仍未有答案。

從目前來看,人臉識別的場景也主要分為兩種:一種是線上,如電腦通過你上傳的用戶圖像識別你的身份;另一個是線下,如系統(tǒng)通過你在街上被監(jiān)視器拍到照片來識別你的身份。而當前的情況是,線上與線下的數(shù)據(jù)保護都做的遠遠不夠。所謂的用戶授權(quán)更多是形同虛設(shè),誰真正擁有了我們的“臉”? 臉部識別軟件的政府監(jiān)管,將如何進行?人臉隱私保護這條路,似乎還需要堅強的走下去。

智能相對論:深挖人工智能這口井,評出咸淡,講出黑白,道出深淺。重點關(guān)注領(lǐng)域:AI+醫(yī)療、機器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開發(fā)者以及背后的芯片、算法、人機交互等。