新智元報(bào)道

來(lái)源:FRVT

編輯:文強(qiáng),三石

根據(jù)最新公布的全球權(quán)威人臉識(shí)別供應(yīng)商測(cè)試 FRVT 結(jié)果,曠視、商湯和依圖這三家視覺(jué)獨(dú)角獸首次在公開(kāi)場(chǎng)合同臺(tái)競(jìng)技,最終由依圖拿下第一。

FRVT 是美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)局(NIST)定期舉辦的人臉識(shí)別供應(yīng)商測(cè)試(Face Recognition Vendor Test),旨在衡量人臉識(shí)別算法的最先進(jìn)水平。由于訓(xùn)練集不公開(kāi),數(shù)據(jù)集不能憑借過(guò)擬合測(cè)試集達(dá)到更好的成績(jī),再加上結(jié)果受商業(yè)因素影響較小,FRVT 素來(lái)被視為工業(yè)界“黃金標(biāo)準(zhǔn)”。

根據(jù)報(bào)告,排在第一名的是依圖科技今年10月提交的算法, 也 是參賽團(tuán)隊(duì)中在千萬(wàn)分之一誤報(bào)指標(biāo)下,唯一將漏報(bào)率降到1%以下的團(tuán)隊(duì)。在相同漏報(bào)率的情況下,商湯科技(Sense time-001)的誤報(bào)率是依圖(yitu-002)的30-50倍,在誤報(bào)率指標(biāo)相同的情況下,依圖的漏報(bào)率是商湯的30%-45%。

在這份官方公布的報(bào)告中,中國(guó)人工智能公司實(shí)力展現(xiàn),依圖科技(yitu)、商湯科技(sensetime)、曠視科技(megvii)囊括了前十中的五席,加上排名第五的中國(guó)科學(xué)院深圳先進(jìn)技術(shù)研究院(siat),中國(guó)團(tuán)隊(duì)已經(jīng)超過(guò)半數(shù),并穩(wěn)穩(wěn)“霸屏”前五,領(lǐng)跑全球人臉識(shí)別算法。

曠視商湯依圖首次同臺(tái)公開(kāi)競(jìng)技,依圖拿下第一

美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(National Institute of Standards and Technology,NIST)直屬美國(guó)商務(wù)部,主要任務(wù)是建立國(guó)家計(jì)量基準(zhǔn)與標(biāo)準(zhǔn),提供為美國(guó)工業(yè)和國(guó)防服務(wù)的測(cè)試技術(shù),參加標(biāo)準(zhǔn)化技術(shù)委員會(huì)制定標(biāo)準(zhǔn)等。NIST指導(dǎo)下的人臉識(shí)別算法測(cè)試,數(shù)據(jù)均來(lái)自真實(shí)業(yè)務(wù)場(chǎng)景,意味著測(cè)試結(jié)果代表該技術(shù)在實(shí)戰(zhàn)場(chǎng)景中的表現(xiàn)。

FRVT通過(guò)上百億次樣本比對(duì),對(duì)算法精度的評(píng)估可以到達(dá)百萬(wàn)分之一,也是當(dāng)今全球規(guī)模最大、標(biāo)準(zhǔn)最嚴(yán)、競(jìng)爭(zhēng)最激烈、最權(quán)威的人臉識(shí)別算法比賽。由于競(jìng)賽評(píng)測(cè)標(biāo)準(zhǔn)的嚴(yán)謹(jǐn)性、一致性和全面性,FRVT十多年來(lái)一直被業(yè)界作為人臉識(shí)別算法性能的“黃金標(biāo)準(zhǔn)”。

FRVT人臉識(shí)別測(cè)試集數(shù)據(jù)量很大,包含簽證照片(visa)、逮捕照片(mugshot)、網(wǎng)絡(luò)攝像頭照片(webcam)、人臉自拍(selfie)和無(wú)約束環(huán)境下人臉圖像(wild)等幾大種類,FRVT會(huì)在每次結(jié)果報(bào)告中給出特定閾值下單項(xiàng)測(cè)試集的排名。

FRVT人臉識(shí)別測(cè)試集有多種測(cè)試集組成,數(shù)據(jù)量大且均來(lái)自實(shí)際場(chǎng)景,代表了算法在實(shí)戰(zhàn)場(chǎng)景中的表現(xiàn)。制圖:新智元

截至目前,全球頂級(jí)大廠都參加過(guò)這項(xiàng)競(jìng)賽,包括老牌大廠荷蘭公司Gemalto,法國(guó)公司Morpho,日本公司Panasonic,俄羅斯公司Vocord,以及中國(guó)的?？低暋⑵桨部萍嫉?。

最新一次的FRVT測(cè)評(píng)結(jié)果是2018年10月中旬提交,本次共有39個(gè)廠家參與,相比4個(gè)月前多了7家,分別是Anke、比特大陸(Bitmain)、大華股份(Dahua)、商湯科技(Sensetime)、Saffe、Tech5,以及文安智能(Vion)。

由此,這次測(cè)評(píng)也成為商湯、曠視、依圖三家視覺(jué)獨(dú)角獸首次在公開(kāi)場(chǎng)合下的實(shí)力較量,算法比拼可謂激烈。

從專業(yè)角度講,沒(méi)有哪種人臉識(shí)別算法可以在任何場(chǎng)景下都做到性能最優(yōu),這也是每家公司提交多個(gè)算法的原因之一。

但是,從下圖中可以看出,依圖人臉識(shí)別算法在Visa(≤0.000001和≤0.0001,受限和不受限)場(chǎng)景下位均居第一,Mugshot也位于前十,表現(xiàn)優(yōu)異。

FRVT官網(wǎng)最新Leaderboard:左起第三列開(kāi)始,數(shù)字右上角的角標(biāo)代表算法在特定閾值下單項(xiàng)測(cè)試集的排名,可以看出 yitu-002 在 Visa 和 Mugshot 兩個(gè)場(chǎng)景中性能優(yōu)異,因此綜合排名第一。

值得一提,yitu-001是依圖科技2018年6月評(píng)測(cè)提交的算法,時(shí)隔多月仍然處在前十之列。

人臉識(shí)別算法性能一年內(nèi)提升80%,中國(guó)初創(chuàng)公司展現(xiàn)世界一流實(shí)力

在 1:1 人臉識(shí)別領(lǐng)域,業(yè)界通常以誤識(shí)率(False Match Rate,FMR)、漏報(bào)率(False Non-match Rate,NMR)作為衡量算法能力的主要指標(biāo)。

簡(jiǎn)單說(shuō),“誤識(shí)”就是把不應(yīng)該匹配的人臉當(dāng)做成功匹配,“漏報(bào)”則是應(yīng)該成功匹配的沒(méi)有查找出來(lái)。

一般來(lái)說(shuō),在誤識(shí)率相同的情況下,識(shí)別準(zhǔn)確率越高,漏報(bào)率越低,都意味著算法的性能越好。

2018年10月中旬FRVT測(cè)評(píng),Visa測(cè)試集上誤識(shí)和漏報(bào)相關(guān)(ROC)曲線。排在第一名的是依圖科技今年10月提交的算法(最下方的紫紅色線條),也是參賽團(tuán)隊(duì)中在千萬(wàn)分之一誤報(bào)指標(biāo)下,唯一將漏報(bào)率降到1%以下的團(tuán)隊(duì)。來(lái)源:FRVT

2018年11月16日發(fā)布的報(bào)告顯示,由依圖代表的全球人臉識(shí)別算法最高水平,可以做到在千萬(wàn)分之一誤報(bào)率下,漏報(bào)率降低于1%,這意味著千萬(wàn)分位誤報(bào)下的識(shí)別準(zhǔn)確率已經(jīng)超過(guò)99%。相比于去年同期,全球人臉識(shí)別性能提升了80%。

在安防場(chǎng)景中,萬(wàn)路甚至十萬(wàn)路攝像頭視頻的人臉?biāo)阉?、歸檔對(duì)算法有極高要求,在這些場(chǎng)景下,假定每路人流為萬(wàn),要在萬(wàn)路視頻中,搜索性能相當(dāng)于要求算法百億、千億規(guī)模上的可識(shí)別率。這時(shí)候,識(shí)別率99%和99.99%的不同算法,以及以這些算法為基礎(chǔ)的產(chǎn)品端體驗(yàn)差異,就會(huì)被同比例放大。

因此,千萬(wàn)分位誤報(bào)下的識(shí)別準(zhǔn)確率超過(guò)99%,意味著更多核心關(guān)鍵的安防場(chǎng)景被解鎖。

另外值得關(guān)注的是,在最新成績(jī)排行上排名前十位的公司幾乎都是創(chuàng)業(yè)公司,而且多數(shù)來(lái)自中國(guó)。全球老牌企業(yè)在人臉識(shí)別算法技術(shù)上的迭代速度,相比較創(chuàng)業(yè)公司已經(jīng)呈現(xiàn)落后趨勢(shì)。

FRVT報(bào)告鏈接:

https://www.nist.gov/sites/default/files/documents/2018/11/16/frvt_report_2018_11_16.pdf

來(lái)源：新智元