“刷臉”,作為一種個人身份鑒別技術(shù),在深度學習等技術(shù)的護持下精度得以大幅提升,在LFW上,各大玩家在無限制條件下人臉驗證測試(unrestricted labeled outside data)中提交的成績普遍能夠達到99.5%以上。

人臉識別技術(shù)日益成熟的背后,作為自帶AI落地基因的安防行業(yè)(數(shù)據(jù)大、高試錯容忍度),這幾年,天網(wǎng)工程廣泛鋪開、智能系統(tǒng)全局應用,城市秩序得到了更為高效的管理和防護,民生需求得到了更為及時的處理和反饋,違反亂紀的行為能被精準識別和處罰。

與此同時,人臉識別系統(tǒng)的應用也頗受爭議。

在大洋彼岸的美國,亞馬遜因向美國執(zhí)法機構(gòu)提供人臉識別技術(shù)而遭到某聯(lián)盟的譴責。該聯(lián)盟表示,“亞馬遜以十分低廉的價格向美國警方提供人臉識別服務,可能會導致美國公民的私人數(shù)據(jù)被濫用及隱私遭到侵犯”。

在他們看來,將人臉識別技術(shù)應用到前端視頻監(jiān)控攝像機上,可能會打破隱私及實用性之間的平衡。假設(shè)美國警方有若干臺這樣的安防攝像機,同時擁有可疑人員的“黑名單”照片庫,那么其他任何人如果與這些可疑人員有一些相像,一旦進入警察的安防攝像機的鏡頭之內(nèi),都有可能受到警務人員的盤問。而大多數(shù)美國人不希望生活在那樣的世界里。

從這來看,技術(shù)應用的雙刃劍在人臉識別的落地上就得以體現(xiàn),且不說人臉識別技術(shù)發(fā)展對于人類來說優(yōu)多(安全)還是劣多(隱私),硬幣拋下落地的可能性還是得到了平衡。

近日,多倫多大學教授Parham Aarabi和他的研究生Avishek Bose開發(fā)了一種算法,通過對圖像進行“光轉(zhuǎn)換”,可以動態(tài)地破壞人臉識別系統(tǒng)。

與上述聯(lián)盟控訴亞馬遜的理由一樣,這位大學教授也考慮到了隱私問題,“隨著人臉識別技術(shù)越來越先進,個人隱私成為了一個真正急需解決的問題,這就是反人臉識別系統(tǒng)被研發(fā)的原因,也是該系統(tǒng)的用武之地?！?

根據(jù)Aarabi的說法,他們主要采用了對抗訓練(adversarial training)技術(shù),使得兩個神經(jīng)網(wǎng)絡(luò)相互對抗,一個神經(jīng)網(wǎng)絡(luò)從數(shù)據(jù)中獲取信息(人臉數(shù)據(jù)),另一個神經(jīng)網(wǎng)絡(luò)試圖去破壞第一個神經(jīng)網(wǎng)絡(luò)執(zhí)行的任務。

據(jù)悉,他們的算法是在包含不同種族,不同光照條件和背景環(huán)境下的超過600張人臉照片的數(shù)據(jù)集上進行訓練的(業(yè)界標準庫),兩個神經(jīng)網(wǎng)絡(luò)相互對抗會發(fā)形成一個實時的“過濾器”,它可以應用到任何圖片上。因為它的目標——圖像中的單個像素是特定的,改變一些特定像素,肉眼是幾乎無法察覺的。比如說檢測網(wǎng)絡(luò)正在尋找眼角,干擾算法就會調(diào)整眼角,使得眼角的像素不那么顯眼。算法在照片中造成了非常微小的干擾,但對于檢測器來說,這些干擾足以欺騙系統(tǒng)。

“此前多年,這些算法必須由人類去定義,現(xiàn)在的神經(jīng)網(wǎng)絡(luò)可以自主學習。目前我們的算法將人臉識別系統(tǒng)中被檢測到的人臉的比例降低到了0.5%。我們希望在APP或網(wǎng)站上提供這種神經(jīng)網(wǎng)絡(luò)系統(tǒng),這是一個非常有意思的領(lǐng)域,有著非常大的潛力市場,”Aarabi教授說道,“另外研究報告也將在2018年IEEE國際多媒體信號處理研討會上發(fā)表”。

其實,破壞人臉識別產(chǎn)品識別率的產(chǎn)品并不少見。早在2016年,卡內(nèi)基梅隆大學的研究人員就設(shè)計了一種眼鏡框,可以誤導面部識別系統(tǒng),使其產(chǎn)生錯誤的識別。

該類軟件在學習人臉的模樣時,它非常依靠于特定的細節(jié),如鼻子和眉毛的形狀?？▋?nèi)基梅隆大學打造的眼鏡并不只是覆蓋那些臉部細節(jié),還會印上被計算機認為是人臉細節(jié)的圖案。

原文標題:多倫多大學開發(fā)反人臉識別系統(tǒng),識別成功率降至0.5%

文章出處:【微信號:MEMSensor,微信公眾號:MEMS】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。