看臉識罪犯引熱議

2017-05-14 13:38?來源 綜合南方都市報

看臉識罪犯引熱議

　　看臉識罪犯引熱議：人臉識別技術(shù)不斷發(fā)展，上海交通大學(xué)教授武筱林研究“人臉識別罪犯”，就是通過機器識別人臉來判斷罪犯，這項技術(shù)引起了巨大的爭議。

　　5月7日，谷歌人工智能研究員布萊斯、瑪格麗特和普林斯頓大學(xué)神經(jīng)科學(xué)教授亞歷山大發(fā)布的《相面術(shù)的新外衣》一文，質(zhì)疑武筱林研究的可信性，并稱其研究結(jié)論可“具有誤導(dǎo)性，洗白科學(xué)種族主義”。

　　近日，武筱林回應(yīng)南都記者稱，“他們對我們研究的上下文進行斷章取義，有失學(xué)術(shù)探討的公正精神，我感到非常失望。”

　　看臉識罪犯，研究者“原本打算證偽”

　　事情緣起于2016年11月，上海交大圖像通信與網(wǎng)絡(luò)工程研究所教授武筱林和其博士生張熙在國際電子預(yù)印本文獻庫arX iv上提前發(fā)布了一篇題為《基于面部圖像的自動犯罪概率推斷》的研究。

　　“這在科學(xué)界是很常規(guī)的做法。”武筱林回應(yīng)南都記者稱。

　　清華大學(xué)納米生物領(lǐng)域博士后張旭告訴南都記者，arX iv是國際科研工作者在研究成果未正式發(fā)表前，出于和同行交流目的先行發(fā)布的一個電子預(yù)印本文獻庫，涉及物理、數(shù)學(xué)、計算機科學(xué)等領(lǐng)域，“相當于永不落幕的學(xué)術(shù)會議”。

　　在該研究中，武筱林和團隊通過運用計算機視覺和機器學(xué)習(xí)技術(shù)，對1856名18到55歲中國男性的身份證照進行檢測。這些研究對象被分為罪犯組與非罪犯組兩組，罪犯組包含730名犯罪人員，涉及盜竊、貪污、謀殺、強奸、綁架和搶劫等罪行。其余1100名普通人所在的非罪犯組，職業(yè)覆蓋司機、醫(yī)生、律師、教授、服務(wù)員、建筑工人等領(lǐng)域。

　　“我們當時在公安部、各省公安廳協(xié)助下得到這些圖像”，武筱林指出，這些研究對象來自全國不同的地方，“后來這些照片都被調(diào)整為80cm×80cm大小，照片的亮度和對比度等都進行了統(tǒng)一處理，隨后通過卷積神經(jīng)網(wǎng)絡(luò)算法(一種高度通用的深度學(xué)習(xí)技術(shù))進行檢測。”

　　研究結(jié)果顯示：四類分離器(邏輯回歸，K N N，SV M，C N N )對罪犯與非罪犯的區(qū)分準確率至少在86%以上。與此同時，兩組面部特征方面在內(nèi)眼角間距、上唇曲率和鼻唇角角度這三個測度最為顯著。通過計算機模擬出來的罪犯與非罪犯的“平均臉”較相似，但非罪犯之間的面部特征差異要比罪犯小。也就是說，樣本中非犯罪人員的樣貌更為相似，變化幅度更小，犯罪人員的面部表情差異比普通人更大。

　　對于該結(jié)論，武筱林稱，他們當時也很驚訝，“研究結(jié)果與預(yù)期相反，我們原本想用數(shù)據(jù)分析推翻‘相由心生’這種說法，原本是打算證偽的。”

　　看臉識罪犯結(jié)論引熱議：被指樣本量太小，研究不科學(xué)

　　結(jié)論一出，有研究者質(zhì)疑武筱林的研究不科學(xué)，“樣本量太小了”。部分人士表示擔憂，這會加重人們對樣貌有缺陷人群的歧視。

　　武筱林告訴南都記者，這半年來他收到了非常多的反饋郵件，“有的來信索取數(shù)據(jù)，有的想要與我們合作，還有質(zhì)疑實驗結(jié)論的。”有同行還要求他從arX iv上撤稿。

　　這些聲音中，就包括谷歌研究員布萊斯等人最新發(fā)表的文章——— 《相面術(shù)的新外衣》。該文開頭指出，武筱林的研究將人類行為中存在的偏見帶入機器學(xué)習(xí)模型的開發(fā)過程中，“通過計算機算法對人類偏見的‘洗白’可能會使這些偏見看來是客觀的。”

　　“武筱林的研究最讓人不安的是，它讓人群高低貴賤之分的這種說法再次復(fù)蘇并且予以證明，是科學(xué)種族主義。”布萊斯等人擔憂人工智能和機器學(xué)習(xí)的快速發(fā)展可能使科學(xué)種族主義進入了一個新的時代，“讓機器習(xí)得人類的偏見。”

　　對于武的研究的實用性，布萊斯等人認為，“可能讓一名人類法官將圖像從微笑到皺眉來排個序，也可以很好地將‘非罪犯’與‘犯罪分子’區(qū)別開來。”

　　針對上述觀點，武筱林在回應(yīng)南都記者時表示，“對于純粹的科學(xué)問題，我們歡迎一起討論。”

　　“但谷歌研究者將我們的上下文割裂了。我們的研究設(shè)定的邊界是證明機器學(xué)習(xí)的相關(guān)性。我們已經(jīng)討論過的數(shù)據(jù)的風險和采取的措施并反復(fù)核查，這也被谷歌的研究者忽略了。”武筱林稱。

　　針對布萊斯等人的“科學(xué)種族主義”批評，武筱林表示，“他們對科學(xué)種族主義的指責毫無根據(jù)。事實上，我們在進步的社會價值觀上與這些作者沒有什么不同。”

　　武筱林告訴南都記者，近期他將盡快用英文正式回復(fù)谷歌研究員質(zhì)疑。

　　專家觀點：“該研究在法律上不具有參考意義”

　　人像識別在人工智能時代越來越成為社會關(guān)注重點。針對武筱林的研究是否科學(xué)與應(yīng)用前景，中國政法大學(xué)刑事司法學(xué)院教授曲新久對南都記者表示，該研究成果“在法律上不具有參考的意義”。

　　“在刑事偵查中，公安機關(guān)早已采用圖像識別技術(shù)尋找犯罪嫌疑人，但這種‘面部識別術(shù)’僅僅用于鑒定某個人的身份，在法律上，根據(jù)嫌疑人的長相特征來判定犯罪的可能性大小是不被允許的。”曲新久說。

　　一位不愿具名的計算機科學(xué)領(lǐng)域的研究人員對南都記者表示，把人臉特征作為判斷犯罪的依據(jù)不具有科學(xué)性。“從論文本身的研究方式來看，這是一種單純的數(shù)據(jù)挖掘和探索，即從數(shù)據(jù)直接關(guān)聯(lián)標簽，但數(shù)據(jù)與標簽之間不存在有力的理論支撐。這種做法其實在數(shù)據(jù)挖掘領(lǐng)域已經(jīng)有過很多嘗試，而且一般也都是作為數(shù)據(jù)間某種關(guān)聯(lián)的一種啟發(fā)，不是作為最終判定依據(jù)。所以，對于這篇論文的結(jié)論的定位問題，如果只是作為數(shù)據(jù)挖掘中的一種探索，可以接受，但如果就因此認定人臉是判斷犯罪的依據(jù)，無法接受。”

　　他表示，目前人工智能領(lǐng)域還做不到“看臉識別罪犯”，但即使未來技術(shù)上能做到，也不能“全看臉”。

　　“這種研究內(nèi)容是需要考慮很多其他因素的，如社會因素、心理因素等，而不是簡單地從臉推斷是否為罪犯的概率。嚴肅點說，這種做法其實是很淺顯且不負責任的。”該研究人員稱。

　　對話

　　研究者武筱林：

　　“結(jié)論不是百分之百正確，但本著科學(xué)的精神在做”

　　南都：看到谷歌研究員的這篇文章你的第一反應(yīng)是?

　　武筱林：我把對方的文章完整地讀下來了。我對他們‘斷章取義’這種有失學(xué)術(shù)公正精神的做法感到非常失望。今天下午我與同事、學(xué)生在會議上也討論了這個事情，不是說對方文章中所有的指責都是錯的，但他們忽略我們研究的上下文、居高臨下進行道德審判這讓人很不舒服。

　　南都：你怎么看谷歌研究員文章中對你們的批評?

　　武筱林：對方故意隱瞞了我們文章很多說明性的文字以及關(guān)鍵性的實驗，比方數(shù)據(jù)過濾的問題。其實這個問題我們是排查過的，做過隨機標記測試。當然我們的東西不是百分之百正確，但團隊本著科學(xué)的精神做了當時知道的、能夠做的所有的驗證。

　　南都：網(wǎng)友的觀點是研究樣本量有些小。

　　武筱林：更多犯罪者的數(shù)據(jù)公安部門才有。這1856個樣本我們是做了相當大的努力，從公安部、各省公安廳的通緝犯等網(wǎng)頁或公共渠道獲取的。因為存在隱私的問題，目前研究存在一些阻力，更多的數(shù)據(jù)相關(guān)部門不便提供。我們想推進，苦于沒有數(shù)據(jù)。

　　南都：當時發(fā)起研究的背景是什么?總共花了多少時間進行研究?

　　武筱林：我們的本質(zhì)研究是圖像分析。這幾年人工智能、人像處理和在人臉識別上都有長足的進步。這個研究我們前后投入了兩年時間。

　　南都：2015年實驗結(jié)果就出來了，為什么當時沒有發(fā)布而推遲了一年?

　　武筱林：對，一年間我們有進行反復(fù)的推敲和認證。是不是罪犯從臉上的特征是很難去區(qū)分的，我們本來是想“證偽”，相由心生這種事我們本來是不相信的。結(jié)果剛出來時我們也很驚訝。

　　南都：選擇在arX iv上提前發(fā)布的原因是?

　　武筱林：這是很常規(guī)的做法，提前公布自己的研究成果。因為在國際上這方面的研究還是比較有競爭力的，所以就先發(fā)表了。但這并不是急功近利，因為很長時間我們都沒有公布這個結(jié)果。

　　南都：你對“相面術(shù)”怎么看?

　　武筱林：我也是受過教育的人，也反對歧視。但純粹的科學(xué)問題，就應(yīng)該用科學(xué)的態(tài)度。

　　南都：谷歌研究員指出你們文末提到了對“研究結(jié)論感到興奮”。

　　武筱林：“當時用了一個錯誤的詞‘excited’。我們當時認為，研究也許會對社會心理學(xué)、管理學(xué)、犯罪學(xué)有啟示，讓相關(guān)領(lǐng)域的專家去探究真正的原因和解釋。但有意義不是說用來對人進行歧視。只是說可能有這種相關(guān)性，比方說犯罪分子具有這種面貌特征，有可能是此前受到歧視被社會歧視邊緣化，最后走向犯罪道路。我們的研究結(jié)論，其實恰恰可以用來作為反樣貌歧視的根據(jù)。

　　本文“”來源：http://www.desachemical.com/keji/xwzt/68428.html，轉(zhuǎn)載必須保留網(wǎng)址。

編輯： yujeu