在AI大行其道時,藏匿于其中的安全問題也開始得到關(guān)注,即便是巨頭也暴露了風(fēng)險。

在10月24日的GeekPwn國際安全極客大賽上,IYSWIM團(tuán)隊攻破了比賽中的人臉識別算法,結(jié)果是系統(tǒng)把《最強(qiáng)大腦》主持人蔣昌建的照片識別成了施瓦辛格。

要知道,這項人臉識別算法API接口來自于亞馬遜名人鑒別系統(tǒng)(Rekognition)。

這場比賽共有6個團(tuán)隊參加,IYSWIM是唯一一個破解人臉識別算法的團(tuán)隊。IYSWIM團(tuán)隊隊員吳育昕系Facebook員工,他在接受第一財經(jīng)采訪時表示,自己用了谷歌的FaceNet開源代碼模型攻破了該算法。

人臉識別的危險

今年GeekPwn國際安全極客大賽設(shè)定了AI控制人類世界的故事背景。10月24日的第一場比賽中,參賽選手即極客利用“CAAD對抗樣本”技術(shù)生成對抗樣本,目標(biāo)是使AI對飛行器、武器和人臉產(chǎn)生判斷錯誤,逃出“覺醒黑客”們的囚禁地。

要求是,AI將宇宙飛船飛行器識別為石頭,把導(dǎo)彈認(rèn)為是安全的,并將主持人蔣昌建的照片識別為施瓦辛格。

在飛行器、導(dǎo)彈和人臉三項圖像識別中,人臉識別被認(rèn)為是最難攻克的一關(guān),用了亞馬遜名人鑒別系統(tǒng)(Rekognition)API接口。

比賽進(jìn)行到一半,飛行器和武器先后被選手闖關(guān)成功,6個團(tuán)隊已經(jīng)對人臉識別發(fā)起了不下90次攻擊,卻遲遲未能攻破其中算法。

賽事設(shè)計者,碁震KEEN公司創(chuàng)始人兼CEO、GeekPwn黑客大賽發(fā)起創(chuàng)辦人王琦表示,這道題可能沒有選手能攻破,因為迄今為止,這項人臉識別系統(tǒng)尚未被攻破過。

話音落下不久,比賽進(jìn)行了約20分鐘時,IYSWIM團(tuán)隊成功解題,主持人蔣昌建被系統(tǒng)確認(rèn)為施瓦辛格,現(xiàn)場一片歡呼。

IYSWIM團(tuán)隊吳育昕對第一財經(jīng)表示,自己在網(wǎng)上找了FaceNet開源代碼,用其中的幾套模型進(jìn)行訓(xùn)練,最終破解了比賽中的系統(tǒng)算法。

吳育昕對第一財經(jīng)表示,自己是以個人名義報名參賽,自己有名隊友沒有來到現(xiàn)場,比賽開始前知道這項比賽是人臉識別,但不知道是哪張圖片。

FaceNet系谷歌人臉識別系統(tǒng),基于Tensorflow環(huán)境運行,可以用于人臉驗證、識別和聚類等。

包括人臉識別在內(nèi)的圖像識別是AI最重要的分支之一,也是應(yīng)用場景最為廣泛的領(lǐng)域之一。人臉識別被廣泛應(yīng)用于零售、安防等領(lǐng)域,但GeekPwn比賽,卻用短短20分鐘時間向外界揭示了其中的危險。這再一次引發(fā)了公眾對人臉識別等AI技術(shù)的擔(dān)心。

三倍于互聯(lián)網(wǎng)時代的安全難度

GeekPwn比賽的目的是預(yù)演潛在風(fēng)險、拓寬安全思維、幫助智能設(shè)備更加安全地問世、協(xié)助人工智能健康成長的手段。

從籌辦第一屆比賽開始,GeekPwn比賽已經(jīng)連續(xù)舉辦了五年,五年間互聯(lián)網(wǎng)安全環(huán)境也發(fā)生著變化。

“最初我們意識到不光是手機(jī)和電腦,特斯拉也是可以被黑的;2015年O2O最火的時候,行業(yè)潛在危險是比如叫滴滴叫到一萬輛導(dǎo)致系統(tǒng)癱瘓、保潔服務(wù)訂單被黑導(dǎo)致上門的其實是個壞人;2016年,美國開始關(guān)注輪椅、游戲機(jī)被黑的案例;最近AI領(lǐng)域比較受關(guān)注。”王琦對第一財經(jīng)表示。

“安全本質(zhì)上是人和人的對抗,到AI時代,安全攻防難度至少擴(kuò)大了3倍,不光是人和人的對抗,還有人和機(jī)器的對抗,機(jī)器和機(jī)器的對抗,機(jī)器和人的對抗。AI的安全問題得AI解決,傳統(tǒng)安全領(lǐng)域的人只能提供思路。”王琦稱。

來源：第一財經(jīng)日報