據(jù)國(guó)外媒體報(bào)道,你的臉正快速成為通往數(shù)字世界的鑰匙。計(jì)算機(jī)、手機(jī)甚至在線商店正開始使用你的臉作為密碼。但來自卡內(nèi)基梅隆大學(xué)的最新研究顯示,面部識(shí)別軟件遠(yuǎn)不安全。在上月末的一個(gè)安全大會(huì)上,研究人員展示其論文,顯示他們能夠誘騙AI臉部識(shí)別系統(tǒng)錯(cuò)誤識(shí)別臉部——讓攝像頭前的人顯示成為另一個(gè)人,甚至使得系統(tǒng)認(rèn)不出他是人。憑借一副特制的眼鏡框,該團(tuán)隊(duì)迫使商用級(jí)臉部識(shí)別軟件誤認(rèn)人臉的成功率達(dá)到100%。研究人員在阿里巴巴用于支付寶人臉識(shí)別的軟件上也取得了同樣的成果。

人臉識(shí)別很強(qiáng)大?一副眼鏡就能讓它認(rèn)錯(cuò)人

現(xiàn)代臉部識(shí)別軟件依賴于深度神經(jīng)網(wǎng)絡(luò)——一種從大量信息中學(xué)習(xí)模式的人工智能技術(shù)。在被呈現(xiàn)過數(shù)百萬張人臉之后,該類軟件就能習(xí)得臉部概念,懂得如何分辨不同的臉。

該類軟件在學(xué)習(xí)人臉的模樣時(shí),它非常依靠于特定的細(xì)節(jié),如鼻子和眉毛的形狀?？▋?nèi)基梅隆大學(xué)打造的眼鏡并不只是覆蓋那些臉部細(xì)節(jié),還會(huì)印上被計(jì)算機(jī)認(rèn)為是人臉細(xì)節(jié)的圖案。

為了展開測(cè)試,研究人員開發(fā)了一個(gè)先進(jìn)的面部識(shí)別系統(tǒng)。在測(cè)試中,作為測(cè)試對(duì)象的一位白人男士戴著特制的眼鏡,在系統(tǒng)中被識(shí)別成演員米拉?喬沃維奇(Milla Jovovich)的概率高達(dá)87.57%。一位同樣佩戴特制眼鏡的亞洲女士被系統(tǒng)算法認(rèn)為是中東男士的概率也達(dá)到87.57%。其他臉部被“盜”的名人包括卡森?戴利(Carson Daly)、科林?鮑威爾(Colin Powell)和約翰?馬爾科維奇(John Malkovich)。對(duì)于這些人,研究人員分別使用了40張他們的照片來做出用于鑒別出他們的眼鏡。

該測(cè)試并非理論性的——卡內(nèi)基梅隆大學(xué)用光滑的照片紙打印出了那些眼鏡,在攝像頭之前戴上它們,以模擬進(jìn)入一座有臉部識(shí)別系統(tǒng)提供保護(hù)的建筑的場(chǎng)景。那些眼鏡的制造成本為每副0.22美元。當(dāng)研究人員用他們的眼鏡設(shè)計(jì)針對(duì)商用臉部識(shí)別系統(tǒng)Face 進(jìn)行測(cè)試時(shí),他們能夠做出測(cè)試中能100%冒充別人的眼鏡。Face 目前的企業(yè)合作伙伴包括聯(lián)想和英特爾,且被阿里巴巴用于安全支付。然而,那種測(cè)試是以數(shù)字形式進(jìn)行的——研究人員是將眼鏡編輯到照片上,因此在現(xiàn)實(shí)生活中躲過系統(tǒng)的成功率可能會(huì)低一些。

卡內(nèi)基梅隆大學(xué)的研究是基于谷歌、OpenAI和賓夕法尼亞州大學(xué)之前的研究成果,后者發(fā)現(xiàn)深度神經(jīng)網(wǎng)絡(luò)受訓(xùn)練的方式存在系統(tǒng)性缺陷。通過利用那些缺陷,比如借助被稱作對(duì)抗樣本的有目的性的惡意數(shù)據(jù),就像卡內(nèi)基梅隆大學(xué)研究中打印在眼鏡上的圖像,研究人員能夠迫使AI作出它原本不會(huì)作的決策。

在實(shí)驗(yàn)室中,這意味著一位40歲的白人女士研究人員被識(shí)別成約翰·馬爾科維奇,不過該研究的成果也有可能會(huì)被試圖侵入建筑或者從計(jì)算機(jī)竊取文件的人取得。