微軟兩個(gè)月前呼吁通過(guò)立法監(jiān)管人臉識(shí)別軟件,該公司現(xiàn)在又開(kāi)始進(jìn)行游說(shuō),支持其所在的華盛頓州的首部相關(guān)法案?，F(xiàn)在的問(wèn)題在于,與之同在西雅圖的亞馬遜是否會(huì)支持這一行為。

亞馬遜已經(jīng)請(qǐng)求該議案的提案人、華盛頓州參議員盧文·卡里勒(Reuven Carlyle)澄清一些問(wèn)題,并對(duì)一些內(nèi)容進(jìn)行調(diào)整,例如,這部議案要求號(hào)稱能識(shí)別人臉的人工智能軟件商向有意對(duì)其進(jìn)行測(cè)試的第三方開(kāi)放其產(chǎn)品?？ɡ锢找呀?jīng)評(píng)估了各方的許多修改請(qǐng)求,其中也包括亞馬遜。他也在周四提交了修訂版的議案。

“公正地說(shuō),亞馬遜對(duì)人臉識(shí)別施加有意義的限制持有深深的懷疑和擔(dān)憂。這顯然是他們長(zhǎng)期商業(yè)戰(zhàn)略的一項(xiàng)核心技術(shù)。”卡里勒說(shuō),這位民主黨人代表了西雅圖的部分地區(qū),其中也包括亞馬遜的總部所在地。

他認(rèn)為,該公司希望保留創(chuàng)新能力。不過(guò),“他們也明確表示其目標(biāo)是能夠找到一種合適的狀態(tài),讓他們可以支持這項(xiàng)立法?！?

人工智能軟件在美國(guó)和中國(guó)的頂尖科技公司中扮演越來(lái)越重要的角色。一些公司和游說(shuō)組織對(duì)該技術(shù)表達(dá)擔(dān)憂,尤其是那些通過(guò)面部特征對(duì)人進(jìn)行追蹤和歸類的產(chǎn)品,因?yàn)檫@類產(chǎn)品可能存在偏見(jiàn),還有可能破壞隱私。亞馬遜就曾與批評(píng)其軟件的研究人員展開(kāi)過(guò)爭(zhēng)論。現(xiàn)在,許多政府開(kāi)始著手監(jiān)管這項(xiàng)技術(shù)。

微軟總裁兼首席法務(wù)官布拉德·史密斯(Brad Smith)接受采訪時(shí)表示,向第三方開(kāi)放軟件,以供測(cè)試之用,是這部立法提案的關(guān)鍵部分之一。他認(rèn)為,任何開(kāi)發(fā)這種軟件的公司都應(yīng)該支持這種做法。

反對(duì)這種測(cè)試“就像汽車企業(yè)反對(duì)氣囊測(cè)試一樣”。史密斯說(shuō):“一家公司為什么要反對(duì)讓公眾有能力知道某項(xiàng)服務(wù)是否運(yùn)轉(zhuǎn)良好?公眾有權(quán)評(píng)估這些服務(wù),相關(guān)企業(yè)也應(yīng)該認(rèn)識(shí)到這種第三方測(cè)試的重要性?！?

亞馬遜拒絕對(duì)是否支持這項(xiàng)立法發(fā)表評(píng)論,因?yàn)榫唧w的議案仍在調(diào)整修改過(guò)程中。該公司周四發(fā)布一篇博文,闡述了他們認(rèn)為人臉識(shí)別軟件應(yīng)該通過(guò)何種方式進(jìn)行監(jiān)管。例如,該公司表示,當(dāng)執(zhí)法部門(mén)使用軟件時(shí),這些部門(mén)應(yīng)該有人來(lái)評(píng)估結(jié)果,確保公民自由不被破壞。亞馬遜還表示,他們支持對(duì)面部識(shí)別軟件的標(biāo)準(zhǔn)化測(cè)試。

“任何立法都必須保護(hù)公民權(quán)利,還要允許持續(xù)的創(chuàng)新,讓技術(shù)可以實(shí)際應(yīng)用。”亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)全球公共政策副總裁邁克爾·龐克(Michael Punke)說(shuō)。

這項(xiàng)議案還有幾項(xiàng)要求也遵循了史密斯去年12月在博客中的建議,包括用直白的語(yǔ)言闡述程序會(huì)采取什么措施,并且在軟件對(duì)客戶進(jìn)行分析時(shí)向其發(fā)送明確通知。此外,當(dāng)據(jù)此作出的最終決策會(huì)對(duì)消費(fèi)者產(chǎn)生法律影響,或者類似的重大影響時(shí),還應(yīng)該對(duì)這些決策展開(kāi)有意義的人工評(píng)估。

該法案還禁止在沒(méi)有獲得法院命令的情況下使用軟件展開(kāi)持續(xù)監(jiān)控,除非是可能危及生命安全或產(chǎn)生嚴(yán)重傷害的緊急情況。

卡里勒認(rèn)為,相關(guān)行為應(yīng)該獲得用戶的明確許可,而不應(yīng)該隱藏在格式條款中,誘騙用戶點(diǎn)擊確認(rèn)。

卡里勒計(jì)劃下周召開(kāi)一次會(huì)議來(lái)討論這項(xiàng)議案,并邀請(qǐng)企業(yè)和游說(shuō)團(tuán)體參會(huì)。他希望能在下周末將議案提交給委員會(huì)審議。

雖然該立法提案僅在華盛頓州討論,但其影響范圍卻不僅限于亞馬遜和微軟這些總部位于該州的公司,還包括所有在該州開(kāi)展業(yè)務(wù)的企業(yè),以及處理消費(fèi)者數(shù)據(jù)達(dá)到或超過(guò)10萬(wàn)人或者有半數(shù)營(yíng)收營(yíng)收來(lái)自個(gè)人數(shù)據(jù)銷售的企業(yè)。此外,即使該議案最終無(wú)法通過(guò),其他州也有可能以此為樣本。

值得一提的是,已經(jīng)有第三方機(jī)構(gòu)對(duì)亞馬遜和微軟的人臉識(shí)別人工智能程序進(jìn)行測(cè)試,包括麻省理工學(xué)院媒體實(shí)驗(yàn)室和美國(guó)公民自由聯(lián)盟。

在發(fā)現(xiàn)自家人臉識(shí)別軟件在膚色較黑的圖像上表現(xiàn)糟糕時(shí)(女性尤其明顯),微軟CEO薩提亞·納德拉(Satya Nadella)下令研究人員和工程師解決這個(gè)問(wèn)題。亞馬遜則對(duì)相關(guān)報(bào)道提出反駁,他們認(rèn)為研究人員并沒(méi)有采用合適的測(cè)試方法,或者測(cè)試場(chǎng)景不夠精確。

“如果議案獲得通過(guò),就向著構(gòu)建人臉識(shí)別技術(shù)的監(jiān)管基礎(chǔ)邁出了重要且急需的一步,而且創(chuàng)造了一種可供其他州或國(guó)家參考的模式。”史密斯說(shuō)。

原文標(biāo)題:GGAI 頭條 | 華盛頓人臉識(shí)別監(jiān)管議案獲微軟支持:亞馬遜態(tài)度曖昧

文章出處:【微信號(hào):ggservicerobot,微信公眾號(hào):高工智能未來(lái)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。