人工智能的倫理學(xué)問題一直是學(xué)界和政界關(guān)注的重點之一,對于所有人來說,人工智能帶來的法律和道德問題都是一個全新的課題,而對這一課題的研究結(jié)果,不但將影響未來人工智能的研究,同樣也對AI的商業(yè)化落地有著極高的參考意義。

如何讓科學(xué)遠(yuǎn)離罪惡?我們都在摸著石頭過河。

在一篇關(guān)于人臉識別的潛在用途和濫用的博客文章中,微軟總裁 Bradford L. Smith 將該技術(shù)與受到全面監(jiān)管的藥品和汽車等產(chǎn)品進(jìn)行了比較,并敦促美國國會展開研究并監(jiān)督人臉識別技術(shù)的使用。

此前,眾多學(xué)者與開發(fā)者們簽署了一份公開信,其中要求科技公司停止向政府和執(zhí)法機(jī)構(gòu)提供人臉識別技術(shù),停止當(dāng)前的數(shù)據(jù)分析和 AI 服務(wù)合同,并考慮制定道德準(zhǔn)則,禁止威脅隱私、公民和人權(quán)的技術(shù)的武器化與軍事化,建立透明和有問責(zé)機(jī)制的制度,以確保上述準(zhǔn)則的實行。

近期微軟因一份涉及人臉識別軟件的政府合同而受到廣泛抨擊,微軟公司表示,它將更加謹(jǐn)慎地考慮這方面的合同,并敦促立法者規(guī)范此類人工智能技術(shù)的使用,以防止濫用。

作為人臉識別軟件主要制造商之一,微軟表示它將采取措施降低這些系統(tǒng)產(chǎn)生偏差的可能性;制定新的公共原則來管理技術(shù);并會更謹(jǐn)慎地出售其在該領(lǐng)域的軟件和專業(yè)知識。微軟指出,雖然技術(shù)行業(yè)需要對其產(chǎn)品負(fù)責(zé),但是政府也要采取行動。

微軟總裁兼首席法務(wù)官 Brad Smith 周五在其博客中寫道:“政府管理技術(shù)使用的唯一有效方法是它主動采取行動。而且如果人們擔(dān)心一項技術(shù)在全社會被廣泛使用,那么規(guī)范該項技術(shù)廣泛應(yīng)用的唯一措施應(yīng)由政府出面。實際上,我們認(rèn)為這就是現(xiàn)在所需要的—一項首先由民主、共和兩黨代表和專家委員會通報的政府倡議,旨在規(guī)范人臉識別技術(shù)的正確使用?！?

微軟、谷歌、亞馬遜等公司因向美國政府和當(dāng)?shù)鼐匠鍪?AI 軟件,尤其是人臉識別軟件而受到民間自由團(tuán)體及這些公司內(nèi)部雇員的抨擊。對于科技公司來說,這種要求對自己產(chǎn)品進(jìn)行更嚴(yán)厲監(jiān)管的行為并不常見,但是 Smith 與微軟人工智能及微軟研究事業(yè)部負(fù)責(zé)人沈向洋今年早些時候就寫了一篇文章,稱 AI 的發(fā)展需要新的法律來規(guī)范。

Smith 寫道,“雖然我們明白現(xiàn)在很多人要求科技公司來做這些,我們也明確意識到自己需要履責(zé),但我們認(rèn)為,這不足以代替公眾及其代表的決策?！?

人臉識別系統(tǒng)通常具備嚴(yán)重的缺陷,尤其是難以識別和區(qū)分膚色較深的人。微軟研究者 Timnit Gebru 和 MIT 媒體實驗室 Joy Buolamwini 二月發(fā)表的一篇論文表明人臉識別系統(tǒng)對膚色較深的女性的分類誤差高達(dá) 35%。微軟的研究機(jī)構(gòu)致力于修正研究者在其人臉識別軟件中發(fā)現(xiàn)的問題。

隨著技術(shù)的迅速發(fā)展,微軟提倡適應(yīng)云計算和人工智能等新興領(lǐng)域的新法律。微軟就隱私問題與美國政府展開抗?fàn)?稱美國政府在云計算方面使用了老舊的通信法,微軟支持折中的法案,用于直接解決云時代的數(shù)據(jù)隱私問題和搜索問題。

微軟應(yīng)對民眾抗議的方式與亞馬遜略有不同。在六月回應(yīng)抗議聲的一篇博客中,亞馬遜的 AI 負(fù)責(zé)人 Matt Wood 寫道,“新技術(shù)能力一直都存在風(fēng)險,以后也會如此。每個選擇使用技術(shù)的組織必須采取負(fù)責(zé)任的行動,否則就得面臨法律懲罰和公眾譴責(zé)的風(fēng)險。AWS 會認(rèn)真對待自己的責(zé)任。但我們認(rèn)為,不能因為某些技術(shù)未來可能被人濫用就禁止這些技術(shù)的發(fā)展,這樣是不對的。”

Smith 寫道,政府規(guī)范應(yīng)該考慮的問題是警察使用人臉識別軟件是否需要人類監(jiān)督和控制,零售商是否必須張貼顯眼的標(biāo)識(如果他們在公共區(qū)域使用了此類軟件)。其它需要考慮的范圍包括是否要求企業(yè)在收集個人圖像之前先征求用戶同意,以及認(rèn)為自己被人臉識別系統(tǒng)錯誤識別的人享有哪些法律權(quán)利。

紐約大學(xué)法學(xué)教授 Barry Friedman 稱,執(zhí)法機(jī)關(guān)使用人臉識別技術(shù)卻欠缺規(guī)范,這引起了人們對種族差異和隱私問題的擔(dān)憂。他同時也負(fù)責(zé) The Policing Project,該計劃致力于為執(zhí)法設(shè)定規(guī)范和準(zhǔn)則。

最高法院規(guī)定警察在沒有許可證或正當(dāng)理由的情況下不得長期獲取手機(jī)數(shù)據(jù),類似的限制也應(yīng)該應(yīng)用到警察對人臉識別技術(shù)的使用上,Barry Friedman 稱。

“該技術(shù)正在飛快地追趕我們,”Friedman 說道,“如果我們不走到前頭,一切將覆水難收。”

微軟在上個月曾因民眾抗議 AI 技術(shù)被用于在墨西哥邊境分離非法入境者及其子女后,短暫地在網(wǎng)站上刪除了其與美國移民和海關(guān)執(zhí)法局簽訂合同的文章。但隨后,相關(guān)博客又被恢復(fù)。

雖然微軟隨后宣稱公司與移民局簽訂的合同主要涉及在云端處理舊電子郵件和員工協(xié)作系統(tǒng),但其博文明確提到了使用人臉識別工具的可能性。隨后,數(shù)百名微軟員工簽署了一份請愿書,要求公司停止向政府出售相關(guān)服務(wù)。針對非法移民的 AI 項目甚至影響到了微軟剛剛收購的 GitHub,6 月中旬起,數(shù)百名開源社區(qū)貢獻(xiàn)者在網(wǎng)上簽署了一份公開信,同樣要求微軟解除與政府部門的 AI 合同,并號召抵制 GitHub。

人臉識別是目前 AI 領(lǐng)域里應(yīng)用最廣泛的技術(shù)之一,但在推廣的過程中也引起了越來越多的爭議。今年 4 月,個人隱私保護(hù)組織向美國聯(lián)邦貿(mào)易委員會提起訴訟,稱 Facebook 在未獲得用戶適當(dāng)許可的情況下開啟了新的人臉識別服務(wù)。Facebook 否認(rèn)了這些團(tuán)體的指控。

而今年 5 月,亞馬遜因為將 RekogniTIon AI 服務(wù)出售給當(dāng)?shù)鼐蕉馉幾h,美國公民自由聯(lián)盟正要求該公司停止允許政府使用這項技術(shù)。

值得一提的是,在歐盟,有關(guān)人工智能侵犯隱私的一些問題已經(jīng)得到了解決。一項嚴(yán)格的新數(shù)據(jù)保護(hù)法已禁止公司在未獲得用戶特定同意的情況下收集人臉識別所需的生物特征數(shù)據(jù)。