隨著人工智能(AI)技術(shù)持續(xù)進(jìn)步,圖像辨識(shí)系統(tǒng)已經(jīng)廣泛的在生活中存在.一些設(shè)備也開始運(yùn)用了臉部辨識(shí)技術(shù)來進(jìn)行身份認(rèn)證,但這項(xiàng)技術(shù)的安全性真的是無懈可擊嗎?

正如同先前迷幻貼紙、棉花田演唱會(huì)圖片的研究,研究人員正試圖透過測試任何潛在的黑客手段,讓圖像辨識(shí)技術(shù)能夠更加安全,而來自中美兩國研究團(tuán)隊(duì)近日則在 arXiv 平臺(tái)上公布了一篇論文,詳細(xì)介紹了他們發(fā)現(xiàn)如何欺騙“臉部辨識(shí)”應(yīng)用的細(xì)節(jié)。

▲ 帽子中放置的紅外線 LED。(Source:Zhe Zhou)

其實(shí)團(tuán)隊(duì)的概念非常簡單,要欺騙臉部辨識(shí)應(yīng)用,最直接的就是為受辨識(shí)者“替換”一張臉。為了達(dá)成這一點(diǎn),團(tuán)隊(duì)先是運(yùn)用深度神經(jīng)網(wǎng)絡(luò)解讀一些人物臉部圖像,再透過棒球帽中連接的微型紅外線 LED,將解讀過的人臉圖像運(yùn)用無數(shù)個(gè)紅外線光點(diǎn)投射到受辨識(shí)者臉上,進(jìn)而達(dá)成掩蓋身份的效果。

而當(dāng)然,由于投射的是其他人的臉孔,只要概念成功,在以臉部辨識(shí)系統(tǒng)做為身份認(rèn)證的前提下,讓受辨識(shí)者冒充他人身份也是可以做到的。

為了檢驗(yàn)這項(xiàng)理論,研究團(tuán)隊(duì)選擇了 4 張隨機(jī)照片嘗試欺騙臉部辨識(shí)軟件,其中也包含了美國音樂人魔比(Moby)的照片。研究人員在實(shí)驗(yàn)中發(fā)現(xiàn),只要受辨識(shí)者與投射臉孔來源長相有些微的相似,這個(gè)欺騙臉部辨識(shí)系統(tǒng)的成功率約可達(dá)到 70%。

▲ 下方第一列數(shù)字指的是受辨識(shí)者與投射臉孔來源對象的距離,第二列則是理論上應(yīng)用后的差距,第三列則是實(shí)際差距。

由于紅外線(Infrared)是一種非可見光,人們單憑肉眼并無法察覺,同時(shí)貼在帽沿內(nèi)側(cè)的 LED 體積也非常小,甚至也可以藏在其他穿戴物中使用,即使有著人類保全也很難察覺系統(tǒng)被欺騙的情況,這讓被利用的可能性又更加提升。

當(dāng)然必須提及的是,這只是一個(gè)小型研究還未經(jīng)過同行評(píng)審,因此可能存在一些爭議,但基于這些研究結(jié)果和測試,團(tuán)隊(duì)認(rèn)為以身份認(rèn)證或監(jiān)控關(guān)鍵場景的需求來說,現(xiàn)今的臉部辨識(shí)技術(shù)距離安全可靠還有很長一段距離。

原文標(biāo)題:挑戰(zhàn)臉部辨識(shí)技術(shù),中美團(tuán)隊(duì)用紅外線投射成功“變臉”

文章出處:【微信號(hào):icsmart,微信公眾號(hào):芯智訊】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。