高速增長的人臉識別仍面臨無芯可用窘境,其中GPU、ASIC、DSP以及萬能芯片FPGA是最為活躍的4大類型;只是互有優(yōu)劣勢的它們,誰終將是人臉識別的最佳伴侶?請看機器人文明給您帶來的解讀。

在過去的幾十年間,人工智能一直在默默地發(fā)展,期間出現過數次“指日可待”的破發(fā)期,但最終都因為算法不成熟而反復沉淪。直到2013-2014年,隨著曠視、商湯(這兩家企業(yè)同根同源)的橫空出世,以人臉識別技術為代表的人工智能瞬間引爆資本市場,隨之而來的就是捷報頻傳的AI應用創(chuàng)新。

發(fā)展強勁,牽引AI一路狂奔

據科技部火炬中心發(fā)布的《2017年中國獨角獸企業(yè)發(fā)展報告》顯示,2017年我國164家獨角獸企業(yè)中,人工智能企業(yè)數量有6家,占比3.66%,獨角獸企業(yè)數量排名第10位;據報告分析,這6家企業(yè)總估值120億美元,在整個獨角獸企業(yè)估值中占比1.91%,位居全行業(yè)第11位。

圖表1:2017年人工智能獨角獸企業(yè)情況(數據來源:前瞻產業(yè)研究院)

在這一波AI浪潮中,人臉識別作為爆發(fā)點,是目前成長最為迅速的AI應用,據前瞻產業(yè)研究院發(fā)布的《人臉識別行業(yè)市場前瞻與投資戰(zhàn)略規(guī)劃分析報告》數據顯示,2017年全球人臉識別市場規(guī)模約為31.8億美元,預計未來一段時間人臉識別市場規(guī)模將保持20%左右的增速,預測到2022年,全球人臉識別市場規(guī)模將達75.95億美元。

本土人臉識別企業(yè)也隨著這一波浪潮成為了中國“萬眾創(chuàng)新”的一張名片,商湯、曠視、云從、云天勵飛、依圖這5家企業(yè),放眼全球,它們的技術水平均處于行業(yè)領先地位。

前瞻數據庫公布的數據顯示,我國人臉識別市場規(guī)模近幾年年均復合增長率達27%。2016年,我國人臉識別行業(yè)市場規(guī)模約為17.25億元;2017年其市場規(guī)模已超過20億元,預計未來5年增速仍將保持年均25%的高度,至2022年達到65億元以上。

當然,其背后與資本的推助離不開,去年11月,曠視科技(Face++)完成了4.6億美元的C輪融資,本輪融資一舉打破了國際范圍內人工智能領域融資記錄;而不久后,該記錄即被商湯打破,今年4月9日,商湯獲得6億美元C輪融資;緊接著5月31日,再次獲得6.2億美元C+輪融資,從2014年創(chuàng)立至今,商湯科技的融資總額可能已超過17億美元。

芯片:竟是人臉識別發(fā)展的最大絆腳石

神經網絡卷積深度學習技術令人臉識別瞬間提升到3D多維算法領域,人類這才終于從算法層面解決了人臉識別不精準、實戰(zhàn)難的問題,讓人臉識別技術從此走向應用。

不過,問題也隨之而來:即便融資號令全球,但沒有落地,人臉識別就只能飄在天空,落地才是硬道理。于是行業(yè)玩家在繼續(xù)追逐算法極致的同時,開始了一輪又一輪的產品硬件化。

經過幾年的實踐檢驗后發(fā)現,當下AI三大要素中影響人臉識別推廣應用的關鍵不是算法、也不是大數據,而是主觀認為早已解決的算力問題——運行人臉識別深度學習算法的最佳處理器。

人臉識別運算流程主要有4個:視頻采集→特征提取→數據比對→識別。

由于目前沒有專門用于人臉識別的處理芯片,只能采用通用芯片代為處理。因深度學習算法對算力資源需求高,一般采取核心處理器,如CPU、ARM芯片進行視頻采集,把視頻中的人臉圖像摳取下來,然后把該人臉圖像發(fā)送給下一處理單元進行結構化處理。

結構化處理是人臉識別的關鍵。最初方案是在CPU上做處理,但由于CPU負責邏輯算數的部分并不多,在多任務處理時效率低下,有分析認為,12顆NVIDIA GPU可以提供相當于2000顆CPU的深度學習性能;在圖像處理,CPU的先天劣勢決定了其在人臉識別應用上被棄用的結局,該結論同樣適用于應用于Linux系統(tǒng)的ARM處理器。

圖表2:CPU與GPU結構對比(圖片來源:NVIDIA)

核心數據處理芯片無法執(zhí)行人臉識別結構化運算,只能將圖像處理的工作交給更合適的專門處理芯片,目前常見的有GPU顯示核心、FPGA現場可編程門陣列、ASIC專用集成電路、DSP數字信號處理。

GPU:當下AI的主導者

GPU的優(yōu)勢在于解決浮點運算、數據并行計算問題,在大量數據元素并行程序方面具有極高的計算密度。

GPU的應用現已不再局限于3D圖形處理了,而是具備強大計算能力的處理器,其在人工智能、深度學習高速并行運算的優(yōu)勢凸顯。

GPU在云計算、AR/VR、AI中的重要性不斷被產業(yè)界和資本市場驗證和認可,其中,全球龍頭NVIDIA是GPU領域的絕對領導者,過去幾年實現了股票的數倍增長;業(yè)績方面也是處于高速增長態(tài)勢,在整個2018財年,英偉達營收為97.14億美元,與2017財年的69.10億美元相比增長41%;凈利潤為30.47億美元,與2017財年的16.66億美元相比增長83%。

目前全球超級計算機TOP 500上榜的所有超級計算機有96%都使用了配備英偉達GPU的核心加速器,它所占份額為60%。緊隨其后的是Xeon Phi,所占份額為21%。

圖表3:英偉達近兩年股票漲勢(數據來源:東方財富網)

無形中,GPU成為了當下人臉識別算力資源的絕對主力,從行業(yè)采用情況看,但凡是采用中心集中處理組網架構的人臉識別項目,清一色采用GPU作為人像數據結構化的處理單元,特別是在X86服務器集群中,GPU更是成為唯一選擇。

雖然GPU優(yōu)勢凸顯,卻也存在兩個致命硬傷,一是功耗大,需依托X86架構服務器運行,不適用于更為廣泛的人臉識別產品方案開發(fā);尤其是人臉識別民用化趨勢日漸增強的當下,GPU不適于在小型化項目的采用。二是成本高昂,采用GPU方案,折算單路人臉識別成本在萬元以上,相較其他千元級,甚至是百元級的方案,毫無成本優(yōu)勢可言,不利于商業(yè)平民化推廣。

這兩個致命短板,令眾人臉識別創(chuàng)業(yè)公司不得不尋求新的方案;目前在一些中小型項目中,GPU早已被棄選,如道閘、過道等前景同樣廣闊的領域。

FPGA:被賦予厚望的替代品

場效可編程邏輯閘陣列FPGA運用硬件語言描述電路,根據所需要的邏輯功能對電路進行快速燒錄。一個出廠后的成品FPGA的邏輯塊和連接可以按照設計者的需要而改變。

FPGA和GPU內都有大量的計算單元,因此它們的計算能力都很強。不過FPGA的可編程性,讓軟件與終端應用公司能夠提供與其競爭對手不同的解決方案,并且能夠靈活地針對自己所用的算法修改電路。其中峰值性能、平均性能與功耗能效比就是決定FPGA與GPU誰能在服務器端占領高地的重要因素。

同樣是擅長并行計算的FPGA和GPU,兩者性能都較CPU強許多,其中GPU能同時運行成千上萬個核心同時跑在GHz的頻率上,最新的GPU峰值性能甚至可以達到10TFlops以上。

相對而言,FPGA首先設計資源受到很大的限制,例如GPU如果想多加幾個核心只要增加芯片面積就行,但FPGA一旦型號選定了,其邏輯資源上限就確定了。

而且,FPGA里面的邏輯單元是基于SRAM查找表,其性能會比GPU里面的標準邏輯單元差很多。

最后,FPGA的布線資源也受限制,因為有些線必須要繞很遠,不像GPU這樣走ASIC flow可以隨意布線,因此,在峰值性能方面,FPGA要遠遜于GPU。

平均性能方面,目前機器學習大多使用SIMD架構,即只需一條指令可以平行處理大量數據,因此用GPU很適合。但是有些應用是MISD,即單一數據需要用許多條指令平行處理,這種情況下用FPGA做一個MISD的架構就會比GPU有優(yōu)勢。對于平均性能,看的就是FPGA加速器架構上的優(yōu)勢是否能彌補運行速度上的劣勢。如果FPGA上的架構優(yōu)化可以帶來相比GPU架構兩到三個數量級的優(yōu)勢,那么FPGA在平均性能上會好于GPU。

功耗方面,GPU的功耗遠大于FPGA的功耗,單一比對中,FPGA無疑是分布式部署人臉識別網絡的最佳選擇。但如果要比較功耗的同時再比較同等執(zhí)行效率的功耗,FPGA則沒有優(yōu)勢。不過在GPU無法改變的當下,FPGA給予了行業(yè)無限的希望,如果FPGA的架構優(yōu)化能做到很好以致于一塊FPGA的平均性能能夠接近一塊GPU,那么FPGA方案的總功耗遠小于GPU,那么FPGA取代GPU將成為人臉圖像結構化的不二選擇。

FPGA器件的行業(yè)集中度同樣很高,全球前四大產商均來自美國,分別為:Xilinx(賽靈思)、Altera(阿爾特拉)、Lattice(萊迪思)和Microsemi(美高森美), 總共占據了98%以上的市場份額。其中第一的Xilinx占49%,第二的Altera占39%,二者合計占比達88%市場份額,形成了雙寡頭的競爭格局。

ASIC、DSP:小型項目高性價比選配方案

ASIC、DSP都屬于串行計算。ASIC芯片的優(yōu)勢是運算能力強、規(guī)模量產成本低,但開發(fā)周期長、單次流片成本高,主要適用于量大、對運算能力要求較高、開發(fā)周期較長的領域,比如大部分消費電子芯片和實驗。

DSP內包括有控制單元、運算單元、各種寄存器以及一定數量的存儲單元等等,在其外圍還可以連接若干存儲器,并可以與一定數量的外部設備互相通信,有軟、硬件的全面功能,本身就是一個微型計算機。它不僅具有可編程性,而且其實時運行速度可達每秒數以千萬條復雜指令程序,遠遠超過通用微處理器,是數字化電子世界中日益重要的電腦芯片。它的強大數據處理能力和高運行速度,是最值得稱道的兩大特色。

由于它運算能力很強、速度很快、體積很小,而且采用軟件編程具有高度的靈活性,因此為從事各種復雜的應用提供了一條有效途徑。當然,與通用微處理器相比,DSP芯片的其他通用功能相對弱些。但到目前為止,DSP 并沒能真正提供任何有用的性能或是可以與 GPU 相匹敵的器件,其主要原因就是核數量,導致不少 DSP 被FPGA取代。

圖表4:FPGA、ASIC、DSP優(yōu)缺點比較、應用領域(數據來源:華創(chuàng)證券)

圖表5:FPGA VS ASIC(數據來源:機器之心)

相較ASIC、DSP來說,FPGA的功耗仍比較大,成本優(yōu)勢也不足以支撐高性價比的人臉識別方案設計,因此,目前針對邊緣云計算的最新應用方案,ASIC、DSP的選用性更強。

而當下人臉識別算法基本都得到了充分的大數據訓練,算法成熟度已經較高,其應用也不再一味追求極限,對一些準確率不是極度變態(tài)的場合,ASIC、DSP成為了首選,比如監(jiān)控的AI賦能。

其中,又因DSP更具開發(fā)周期優(yōu)勢,我們已經看到,ARM+DSP的處理方案已經成為人臉識別超低性價比首選,目前的百元級、千元級人臉識別產品正是基于該方案實現;當然,受限于DSP的大量數據處理性能,可在小型化服務器中同時采用多顆DSP共同組建方案,如一部分資源負責人像分析,另一部分DSP資源用于特征提取。

目前TI和海思的方案采用最為廣泛。

TI的達芬奇解決方案中,DM644X系統(tǒng)內嵌DSP,可將人臉檢測置于其中便能達到實時處理,適用于DVS解決方案設計,當然,因為該方案系統(tǒng)架構較為復雜,軟件設計困難度要相對高些。

而海思的351X系統(tǒng)為ARM+ASIC結構,編碼算法運行于ASIC中,其他功能則運行于內嵌的ARM中。這兩個方案中,TI的解決方案處理能力最好,但價格也略高;海思則在系統(tǒng)簡潔化、開發(fā)成本上有優(yōu)勢。

為滿足當下人臉識別等人工智能的發(fā)展需求,行業(yè)也推出了各種針對深度學習芯片,如TPU、NPU、DPU、BPU等。

相比GPU,TPU更加類似于DSP,盡管計算能力略有遜色,可其功耗大大降低,當然,TPU的應用還是要受到CPU的控制;

深鑒科技基于Xilinx可重構特性FPGA芯片開發(fā)的DPU屬于半定制化的FPGA,作為專用的深度學習處理單元使用;

NPU相比于CPU中采取的存儲與計算相分離的馮諾伊曼結構,NPU通過突觸權重實現存儲和計算一體化,從而大大提高運行效率,其典型代表有國內的寒武紀芯片和IBM的TrueNorth,另外,中星微電子的“星光智能一號”雖說對外號稱是NPU,但其實只是DSP,僅支持網絡正向運算,無法支持神經網絡訓練;

BPU主要是用來支撐深度神經網絡,比如圖像、語音、文字、控制等方面的任務,而不是去做所有的事情,用BPU來實現會比在CPU上用軟件實現要高效,一般來說會提高2-3個數量級,然而,BPU一旦生產,不可再編程,且必須在CPU控制下使用。

此外,算法企業(yè)也在積極與芯片企業(yè)合作,加速推出符合需求的人臉識別芯片產品。

如近日商湯就與中國芯片研發(fā)企業(yè)Rockchip瑞芯微展開了深度合作,瑞芯微將在旗下芯片平臺全線預裝商湯人臉識別SDK軟件包,首批芯片包括瑞芯微RK3399Pro、RK3399、RK3288三大主力平臺。其中RK3399ProAI芯片首次采用了CPU+GPU+NPU硬件結構設計。

而英特爾作為一代芯片巨頭,也在發(fā)力GPU以期穩(wěn)固其龍頭地位,接連收購了Altera、Mobileye等企業(yè),欲在搭載強大CPU核心的多核異構處理器方面大展宏圖,雖然目前該夢想還沒有得到很好實現,不過也被認為是未來解決人工智能算力瓶頸的有效方案之一。

小結

目前人臉識別的最佳芯片方案仍是GPU,實際落地的小型項目則可以采用DSP等能耗低的高性價比方案;而FPGA的優(yōu)勢,也讓它具備取代GPU的可能,只是受制于專利墻及技術,更多的希望只能寄托于FPGA四大家族發(fā)展進度。

當然,人臉識別的應用萬萬千,場景應用創(chuàng)新也還在持續(xù)開發(fā)中,概括起來主要有三種場景方案需求。

一是終端一體化集成圖像采集、人臉采集、特征提取、數據比對、識別全流程,如手機解鎖、移動支付等,該場景主要是1:1識別方式,其對安全性要求最為嚴苛,一般都會通過紅外技術輔助建立3D人像模型以確保真人識別;

二是云邊應用,此時圖像采集與人臉識別AI應用獨立,對分析處理模塊性能要求較高,一般有1:N、N:N兩種識別方式,而需要紅外輔助建模還是平臺虛擬建模,根據場景安全等級抉擇,如人臉道閘以支持真人識別為佳;

三是中心處理,該模式基本不用做圖像采集,主要是識別認證和大數據碰撞研判,動輒百億、千億量級,對處理芯片要求非常高,目前基本可以說只有GPU才是最佳選擇。

三種場景,需求不一樣,方案也將不一樣,以目前的芯片技術水平,還很難下結論說誰是最好的芯片,只有最適合、最容易落地的方案才是王道,人臉識別作為AI創(chuàng)新的引領者,活下去,才能推助性能更優(yōu)芯片面世。

原文標題:三分鐘看懂“人臉識別”芯片之爭!

文章出處:【微信號:Anxin-360ic,微信公眾號:芯師爺】歡迎添加關注!文章轉載請注明出處。