AI與偏見(jiàn):從當(dāng)代新“相面術(shù)”說(shuō)起
圖片來(lái)自“123rf.com.cn”
相面術(shù),無(wú)疑是一門古老而又生命力旺盛的學(xué)問(wèn)。
說(shuō)它古老,是因?yàn)槠錃v史悠久、源遠(yuǎn)流長(zhǎng)。中國(guó)相面術(shù)的起源,最早可以上溯至氏族社會(huì)時(shí)期,到了春秋戰(zhàn)國(guó)時(shí)期就已十分流行,《麻衣神相》是相面術(shù)的集大成之作,擁有深廣的群眾基礎(chǔ)。大家耳熟能詳?shù)奈膶W(xué)作品中經(jīng)常能看到相面術(shù)的身影:大富大貴之人一般都相貌不凡,如《三國(guó)演義》中劉備的“雙耳垂肩、雙手過(guò)膝”、關(guān)羽的“丹鳳眼、臥蠶眉”等;而奸惡之人也都天生異相,如《史記》里秦始皇的“蜂準(zhǔn)、長(zhǎng)目、摯鳥(niǎo)膺、豺聲”。簡(jiǎn)而言之,相面術(shù)就是為“那個(gè)人一瞅就不是啥好東西”這句話所準(zhǔn)備的理論基礎(chǔ)。
說(shuō)它生命力旺盛,是因?yàn)橄嗝嫘g(shù)不但能深深地植根于人類“顏控”的本性,還能緊隨時(shí)代發(fā)展的步伐,調(diào)整自身形態(tài),最終在新的時(shí)代成功站穩(wěn)腳跟。從古代游街串巷的算命先生,到曾國(guó)藩的《冰鑒》,再到龍勃羅梭(Cesare Lombroso, 1836-1909)的犯罪人類學(xué)的提出,相面術(shù)總能“以無(wú)厚入有間”,找到自己的容身之處。在AI日益發(fā)揮著如同工業(yè)時(shí)代“蒸汽機(jī)”一樣作用的今天,相面術(shù)似乎也嗅到了自己“寄生”的新方向。
去年秋天,來(lái)自斯坦福大學(xué)的Michal Kosinski和Yilun Wang合作發(fā)表了一篇題為《深度神經(jīng)網(wǎng)絡(luò)可通過(guò)面部圖像確定個(gè)體性取向》(Deep Neural Networks can Detect Sexual Orientation from Faces)的論文,一石激起千層浪,引發(fā)了輿論的大嘩。
二人從美國(guó)約會(huì)網(wǎng)站及平臺(tái)的公開(kāi)信息中采集了14776位用戶的35326張面部照片,并用深度神經(jīng)網(wǎng)絡(luò)(DNN)密集提取并量化了他們的臉型、嘴型、鼻形以及面部毛發(fā)等特征,接著他們引入VGG-Face DNN模型,通過(guò)面部表情、光線、圖像屬性等因素標(biāo)記圖像中的人臉,隨后二人用奇異值分解(SVD)等手段對(duì)圖像分類,區(qū)分出同性戀與非同性戀照片。
經(jīng)過(guò)一系列訓(xùn)練,該算法識(shí)別男女性取向的準(zhǔn)確率分別達(dá)到了81%和71%;倘若受測(cè)個(gè)體的照片有五篇以上的話,這個(gè)數(shù)字將分別提高至91%和83%。二人還用數(shù)千張圖片分別合成了兩組照片,分別顯示了男女異性戀和同性戀較具代表性的樣態(tài),兩相比對(duì),同性戀人群的面部輪廓和五官位置形狀確實(shí)有細(xì)微的差別。
這項(xiàng)研究成果被有些媒體稱之為“AI Gaydar”,它一經(jīng)發(fā)表,就引發(fā)了LGBTQ群體的強(qiáng)烈不滿,這一群體中兩個(gè)較有代表性的組織Human Rights Campaign (HRC)和GLAAD直接將此研究斥之為“偽科學(xué)”(Junk Science),并認(rèn)為這一技術(shù)手段的廣泛應(yīng)用不但會(huì)嚴(yán)重侵害個(gè)人隱私權(quán),而是還將會(huì)是對(duì)本就脆弱敏感的性少數(shù)人群的新的“系統(tǒng)化虐待”(Systematized Abuse)。更令人不安的是,該文的作者之一Michal Kosinski還對(duì)《衛(wèi)報(bào)》的記者表示,這一算法在未來(lái)還可應(yīng)用到判定受測(cè)者的智商、政治傾向以及犯罪幾率等領(lǐng)域。
事實(shí)上,早就有科研團(tuán)隊(duì)在Kosinski提及的幾個(gè)領(lǐng)域中取得了研究成果。來(lái)自上海交通大學(xué)的兩位研究者Xiaolin Wu(武筱林)和Xi Zhang(張熙)于2016年的11月份就在arXiv上提交了一篇題為《基于面部圖像的自動(dòng)犯罪概率推斷》(Automated Inference on Criminality using Face Images)的論文,二人通過(guò)視覺(jué)識(shí)別和機(jī)器學(xué)習(xí)技術(shù),檢測(cè)了1856張中國(guó)成年男子的照片,其中近一半照片都來(lái)自已經(jīng)定罪的罪犯。
實(shí)驗(yàn)結(jié)果表明,這一算法可以以90%左右的正確率識(shí)別出罪犯和非罪犯;同時(shí),他們還發(fā)現(xiàn)罪犯和非罪犯在內(nèi)眼角間距、上唇曲率和鼻唇角度這三個(gè)測(cè)度上存在著較顯著的差異,并且罪犯面孔特征的差異要大于守法公民。這篇論文的有些結(jié)論與“麻衣相法”的部分內(nèi)容不謀而合,而論文作者也將陳摶所撰寫(xiě)的《神相全編》(陜西師范大學(xué)出版社,2010)列入到了自己的參考文獻(xiàn)當(dāng)中。
姑且不論上述兩項(xiàng)研究的樣本擇。〝(shù)量、范圍、標(biāo)準(zhǔn))是否客觀,也不論研究者們?cè)O(shè)計(jì)實(shí)驗(yàn)的初衷(前者意欲提醒人們注意個(gè)人信息安全,后者試圖反對(duì)所謂的“相由心生”)是否合理,這樣的研究在邏輯上就存有很大的漏洞:“同性戀”、“犯罪”的成因由多個(gè)變量決定,在研究中研究者卻將“相”或“外貌”作為了唯一變量,而這唯一的變量其實(shí)是“天生”的,換言之,就是“不變”的;亦即,作為不變的“變量”的“相”與諸如“同性戀”、“犯罪”之間是無(wú)法建立起因果關(guān)系的;谶@點(diǎn),我們可以大致斷定,這類研究不過(guò)是形形色色“相面術(shù)”披著AI的外衣在當(dāng)代的又一次“借尸還魂”罷了。
更令人擔(dān)憂的是,由于AI的加持,這樣研究成果一旦從實(shí)驗(yàn)室應(yīng)用到實(shí)際生活場(chǎng)景當(dāng)中,所產(chǎn)生的負(fù)面影響將會(huì)超出以往所有的“相面術(shù)”:由于AI處理數(shù)據(jù)的超強(qiáng)能力,這些成果的負(fù)面影響極有可能波及到社會(huì)中的大多數(shù)人;倘若這些成果一旦堂而皇之地進(jìn)入到極權(quán)政體或同性戀非法的國(guó)家的話,“相面”借由技術(shù)這一貌似“客觀”、“科學(xué)”的外衣,將在嚴(yán)重侵害少數(shù)族群的正當(dāng)權(quán)益的同時(shí),制造出一個(gè)人人自危的社會(huì)環(huán)境,無(wú)限放大、擴(kuò)散本已存在于人類社會(huì)的各種偏見(jiàn)、歧視,最終導(dǎo)致災(zāi)難性的后果。納粹的“雅利安種族優(yōu)越論”殷鑒未遠(yuǎn),從事科學(xué)研究的工作者們對(duì)此需要慎之又慎。
(納粹科學(xué)家正在做容貌測(cè)量)

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書(shū)】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
-
10 月之暗面,絕地反擊
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開(kāi)始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開(kāi)成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?