上海交通大學(xué)圖像通信與網(wǎng)路工程研究所教授武筱林在過去的半年裏收到過無數(shù)的批評(píng)郵件，不少媒體報(bào)道裏也引述了一些專家學(xué)者的批評(píng)意見。但這次，三名美國研究者在網(wǎng)路上撰寫洋洋灑灑的萬字長文向他隔空喊話，點(diǎn)名批評(píng)他的研究為“科學(xué)種族主義”。

　　這篇萬字長文名為《相面術(shù)的新外衣》（Physiognomy’s New Clothes），于當(dāng)?shù)貢r(shí)間5月6日發(fā)表在新媒體網(wǎng)站Medium上。三名作者，Blaise Agüera y Arcas是機(jī)器學(xué)習(xí)領(lǐng)域的著名工程師，2013年從微軟跳槽到谷歌；Margaret Mitchell同樣是谷歌的人工智慧研究員；而Alexander Todorov則是普林斯頓大學(xué)的神經(jīng)科學(xué)教授。

　　這一切都源於武筱林和其博士生張熙于去年11月上載在預(yù)印本網(wǎng)站arXiv上的一篇論文，題為《基於面部圖像的自動(dòng)犯罪概率推斷》（Automated Inference on Criminality using Face Images）。

　　研究使用的照片樣本。a組為罪犯，b組為非罪犯。

　　武筱林和張熙運(yùn)用電腦視覺和機(jī)器學(xué)習(xí)技術(shù)檢測(cè)1856張中國成年男子面部照片，其中將近一半是已經(jīng)定罪的罪犯。實(shí)驗(yàn)結(jié)果顯示，通過機(jī)器學(xué)習(xí)，分類器可以以較高概率區(qū)分罪犯與非罪犯這兩個(gè)群體的照片。特別是在內(nèi)眼角間距、上唇曲率和鼻唇角角度這三個(gè)測(cè)度上，罪犯和非罪犯存在較為顯著的差距。平均來講，罪犯的內(nèi)眼角間距要比普通人短5.6%，上唇曲率大23.4%，鼻唇角角度小19.6%。同時(shí)，他們發(fā)現(xiàn)罪犯間的面部特徵差異要比非罪犯大。

　　平均來講，罪犯的內(nèi)眼角間距要比普通人短5.6%，上唇曲率大23.4%，鼻唇角角度小19.6%。

　　三名美國學(xué)者在時(shí)隔半年後評(píng)價(jià)道：“隨著人工智慧和機(jī)器學(xué)習(xí)的高速發(fā)展，我們迎來了科學(xué)種族主義的新時(shí)代。”他們聲明，寫作這篇深度文章，“不僅僅是為了研究者、工程師、記者和決策者，也是為了想要確保人工智慧是有益於人類的每一個(gè)人。”

　　不過，武筱林此前在接受澎湃新聞（www.thepaper.cn）專訪時(shí)曾提過，他歡迎學(xué)術(shù)上的交流和討論，也歡迎用數(shù)據(jù)來質(zhì)疑他的結(jié)論。至於政治倫理方面的問題，則需要更廣泛的社會(huì)討論，並非他個(gè)人所能解答的。

　　谷歌研究員的萬字長文雖然也提出了幾個(gè)可能造成武筱林實(shí)驗(yàn)數(shù)據(jù)“假像”的技術(shù)問題，但其核心論點(diǎn)拋開了針對(duì)論文細(xì)節(jié)的討論，站在政治正確性的角度，從歷史、倫理出發(fā)，對(duì)相面術(shù)及其在機(jī)器學(xué)習(xí)時(shí)代的新形態(tài)進(jìn)行了批評(píng)。

　　“機(jī)器相面術(shù)”，新瓶裝舊酒

　　三位美國學(xué)者的文章並非學(xué)術(shù)論文，在萬字的篇幅中，他們講述了相面術(shù)發(fā)展的歷史，解釋了機(jī)器學(xué)習(xí)研究領(lǐng)域的一些基本情況，並以武筱林和張熙的研究為靶子，指出就像他們的研究是披著機(jī)器學(xué)習(xí)外衣的相面術(shù)，人類社會(huì)中的許多歧視也可能會(huì)被演算法洗白。

　　關(guān)於相面術(shù)的歷史，他們是從龍勃羅梭開始講起的。

　　1870年，義大利監(jiān)獄醫(yī)生龍勃羅梭（Lombroso)打開了義大利著名土匪頭子維萊拉屍體的頭顱，發(fā)現(xiàn)其頭顱枕骨部位有一個(gè)明顯的凹陷處，它的位置如同低等動(dòng)物一樣。這一發(fā)現(xiàn)觸發(fā)了他的靈感，他由此提出“天生犯罪人”理論，認(rèn)為犯罪人在體格方面異於非犯罪人，可以通過卡鉗等儀器測(cè)量發(fā)現(xiàn)。龍勃羅梭並認(rèn)為犯罪人是一種返祖現(xiàn)象，具有許多低級(jí)原始人的特性，可被遺傳。

　　龍勃羅梭的研究支援著他的政治主張：義大利南方人要比北方人更文明。此後，龍勃羅梭在“顱相學(xué)”和“天生犯罪人”方面的追隨者同樣將自己的研究與某些政治主張捆綁。塞繆爾 莫頓（Samuel Morton)推崇白人至上的顱骨學(xué)投射的是19世紀(jì)美國的白人奴隸主，而德國兒童教材《毒菌》（Der Giftpilz)上教授通過鼻子形狀辨別猶太人，則投射了納粹時(shí)代。

　　文章的三位作者指出，“相面術(shù)試圖從人的外貌推測(cè)其內(nèi)在性格。雖然今天相面術(shù)被視為偽科學(xué)，但民間還是有人相信可以從面相或身材中鑒別出低級(jí)一點(diǎn)的人群。而在有些歷史時(shí)期，相面術(shù)也內(nèi)嵌在了國家法律中，為侵佔(zhàn)土地、反移民、奴隸制和種族清洗提供依據(jù)。而關(guān)於相面術(shù)的偽科學(xué)就是科學(xué)種族主義。”

　　他們認(rèn)為，上述的這類研究在人工智慧時(shí)代的新形態(tài)就是武筱林式的。“在電腦和大數(shù)據(jù)無處不在的時(shí)代，‘機(jī)器相面’開發(fā)出了許多前所未有的用途。因此，人工智慧的開發(fā)者、評(píng)論家、用戶們都急需了解技術(shù)的邊界和相面術(shù)的歷史，如今它披上了現(xiàn)代的外衣。”

　　機(jī)器習(xí)得了人類的偏見

　　文章最擔(dān)憂的問題，是人類社會(huì)的一些歧視和偏見，作為訓(xùn)練模型嵌入機(jī)器學(xué)習(xí)後，就被“洗白”了。畢竟，演算法的輸入和輸出看上去是非常公正客觀的。

　　武筱林和張熙在論文中寫道，“人類觀察者的主觀判斷會(huì)造成偏見，我們首次在排除人為偏見的情況下，探究基於臉部特徵自動(dòng)推斷犯罪分子。”

　　文章的三位作者認(rèn)為，無論是否借助機(jī)器學(xué)習(xí)的工具，相面術(shù)，即試圖通過外貌特徵預(yù)測(cè)行為性格，都基於以下三個(gè)有漏洞的隱藏假設(shè)：

　　1、一個(gè)人的外貌是由先天決定的；

　　2、“犯罪性”是某個(gè)特定群體的天生屬性；

　　3、司法系統(tǒng)中的刑事判決不受外貌的影響。

　　為此，文章對(duì)這三點(diǎn)假設(shè)一一作了駁斥。值得注意的是，武筱林在論文中並未提及這三點(diǎn)假設(shè)中的任何一點(diǎn)，他將實(shí)驗(yàn)結(jié)果的解讀空間留給了社會(huì)科學(xué)領(lǐng)域的學(xué)者。

　　三位美國學(xué)者指出，首先，面部特徵不是完全天生的，成長、環(huán)境的影響也很大。此外，攝影時(shí)的環(huán)境也影響著照片上呈現(xiàn)的人臉。就像在武筱林在論文中提及的2011年康奈爾大學(xué)的心理學(xué)研究中，學(xué)者將罪犯的照片與在校園中拍攝到的人臉作為研究材料，就可能對(duì)研究結(jié)果造成干擾。

　　其次，“犯罪階級(jí)”這個(gè)概念在19世紀(jì)十分流行。為此，英國將罪犯流放到了澳大利亞以減少英國的犯罪率。不過，事實(shí)證明，澳大利亞並沒有成為充斥著犯罪的地獄。此前，也有研究認(rèn)為較高的睪酮水準(zhǔn)會(huì)增加侵略性。然而，它們都無法取得很高的相關(guān)性。簡而言之，目前人類的研究只發(fā)現(xiàn)身體外觀與行為可能存在微弱相關(guān)。

　　最後，文章提到，在美國，一名黑人男性被監(jiān)禁的可能性是白人男性的7倍。而犯有同樣罪行的黑人罪犯往往會(huì)遭受更重的刑罰。因此，研究中所用的罪犯數(shù)據(jù)可能就是法官偏見的結(jié)果。

　　換言之，武筱林和張熙的實(shí)驗(yàn)並不是找到了準(zhǔn)確斷案的捷徑，而是揭示了人類判斷、包括官方刑事判決中的不準(zhǔn)確和系統(tǒng)性的不公正。

　　捅破了窗戶紙

　　文章提到，學(xué)術(shù)界很多人都覺得武筱林和張熙的研究在倫理性和科學(xué)性上都很有問題。雖然三位作者也在文中指出了一些技術(shù)上可能的漏洞，比如不足2000個(gè)樣本很容易造成機(jī)器過度學(xué)習(xí)，以及機(jī)器學(xué)習(xí)到的可能只是照片上的表情（比如罪犯的照片更多地皺眉，而普通人的照片更多地微笑），但他們更強(qiáng)調(diào)研究的倫理性問題。機(jī)器學(xué)習(xí)是一種對(duì)普通人而言“強(qiáng)大而神秘的工具”，而武張的研究賦予某些“陳詞濫調(diào)”新的可信度。

　　文章總結(jié)道：“在科學(xué)層面上，機(jī)器學(xué)習(xí)是一個(gè)前所未有的窗口，可以窺見自然和人類行為，可以讓我們反思及系統(tǒng)地分析所謂的直覺和群體智慧。武筱林和張熙的研究結(jié)果與此前的一些研究一樣捅破了一層窗戶紙，揭示了我們究竟是如何鑒別別人的。

　　在實(shí)踐中，機(jī)器學(xué)習(xí)技術(shù)會(huì)越來越多地介入人類生活，就像許多強(qiáng)有力的工具一樣，它們通常會(huì)幫助我們，包括更快更客觀地分析數(shù)據(jù)。

　　但機(jī)器學(xué)習(xí)也可能會(huì)誤用，這種誤用常常是無意的。過分狹隘地局限在技術(shù)問題上就可能導(dǎo)致這種誤用，比如：

　　沒有洞見訓(xùn)練數(shù)據(jù)來源中的偏見；

　　沒有仔細(xì)審查該領(lǐng)域的現(xiàn)有研究，尤其是機(jī)器學(xué)習(xí)領(lǐng)域之外的；

　　沒有考慮可能導(dǎo)致測(cè)得相關(guān)性的多種因果關(guān)係；

　　沒有充分考慮這種機(jī)器學(xué)習(xí)系統(tǒng)的應(yīng)用場(chǎng)景和其社會(huì)影響。

　　武筱林和張熙的論文充分展示了上述陷阱。非常不幸，他們測(cè)得的相關(guān)性又揭示了刑事判決中普遍存在的偏見，該領(lǐng)域的研究已經(jīng)頗為矚目，如今又添磚加瓦。基於面部特徵的深度學(xué)習(xí)絕不該應(yīng)用為‘加速’司法公正的工具，如果真的這麼做的話，反而會(huì)讓不公正長存於世。”

　　武筱林：“核物理學(xué)家該為原子彈造成的傷害負(fù)責(zé)嗎？”

　　文章還預(yù)計(jì)，近期會(huì)有類似的研究出現(xiàn)，“它們抱有同樣的偏見、短視，並宣稱自己是科學(xué)客觀的，以此來‘洗白’人類的偏見和歧視。”文章還點(diǎn)名批評(píng)了一家以色列初創(chuàng)企業(yè)Faception，其致力於運(yùn)用人臉分析識(shí)別恐怖分子、戀童癖和白領(lǐng)罪犯。

　　對(duì)此，武筱林曾向澎湃新聞（www.thepaper.cn）透露，國際上確實(shí)有一些同行在做類似的研究，他就是為了搶佔(zhàn)研究的優(yōu)先權(quán)，才在arXiv上傳了論文。

　　去年11月底，正處於第一波輿論漩渦的武筱林曾接受澎湃新聞（www.thepaper.cn）的專訪，並回應(yīng)過許多核心質(zhì)疑。

　　首先，武筱林表示歡迎技術(shù)上的交流，他也受到過許多有價(jià)值的反饋。比如，他們的樣本量確實(shí)可能過小。此外，也有人指出過他們樣本中的罪犯和守法公民可能更多代表了經(jīng)濟(jì)地位上的差異。他們也曾採納一些反饋而做出調(diào)整。有人指出警察拍攝犯人照片的相機(jī)可能有特定的參數(shù)，他們就在照片中添加了許多噪點(diǎn)以削弱其影響。

　　其次，武筱林強(qiáng)調(diào)他從未有任何應(yīng)用方面的意圖。就算有別人想要把這個(gè)研究用於實(shí)踐，考慮到中國社會(huì)千分之幾的犯罪背景概率，研究中80%以上的真陽性概率放在現(xiàn)實(shí)中的準(zhǔn)確性也很低。

　　第三，武筱林強(qiáng)調(diào)他個(gè)人是反歧視的。甚至，一開始他們做這個(gè)研究的目的，就是看了龍勃羅梭的研究和2011年康奈爾大學(xué)的心理學(xué)實(shí)驗(yàn)（實(shí)驗(yàn)發(fā)現(xiàn)人光靠照片鑒別罪犯的成功率非常高）後，出於好奇想要證偽，結(jié)果卻令他們大吃一驚。

　　對(duì)於令學(xué)界和輿論界“炸鍋”的實(shí)驗(yàn)結(jié)果，武筱林強(qiáng)調(diào)他只呈現(xiàn)了其中的相關(guān)性，而其中的因果關(guān)係，即到底是長相決定了天生的犯罪性，或者是人類社會(huì)對(duì)長相的歧視促成了犯罪概率的差異，則留待社會(huì)科學(xué)的解讀。

　　至於這個(gè)研究一開始到底該不該做、做完後該不該公佈，這同樣屬於社會(huì)科學(xué)討論的範(fàn)疇，武筱林坦言他難以回答。“為了人類社會(huì)更高的利益，是不是科學(xué)家要自律一點(diǎn)，而不是説求知求真者無罪，這個(gè)爭議在世界範(fàn)圍內(nèi)已經(jīng)開始了，人工智慧已經(jīng)到這一步了。是不是就會(huì)有一些禁區(qū)，研究者不能去碰它，坦白講我不知道。”

　　“核物理學(xué)家該為原子彈造成的傷害負(fù)責(zé)嗎？”這是武筱林拋回給澎湃新聞的疑問。