到底該不該用人臉識別技術(shù)?IBM/亞馬遜/ACLU已經(jīng)吵得不可開交了
吉米戈麥斯是加州民主黨人,哈佛大學畢業(yè)生,也是少數(shù)在美國眾議院任職的西班牙裔立法者之一。
但在亞馬遜的面部識別系統(tǒng)里,他被識別為一個潛在的罪犯。
戈麥斯是28名美國國會議員中的一員,與被逮捕的人的照片完全匹配,這是去年美國公民自由聯(lián)盟對亞馬遜重新認知計劃進行測試的一部分。
亞馬遜被警方使用工具中將近有40%的虛假匹配,涉及有色人種。
這些發(fā)現(xiàn)被公民自由團體,立法者甚至一些科技公司越來越多的關(guān)注,隨著技術(shù)變得更加主流,面部識別可能會傷害少數(shù)人種。iPhone和Android手機上已經(jīng)開始使用面部識別技術(shù)進行解鎖,警察、零售商、機場和學校也在慢慢接觸它。但是研究表明,面部識別系統(tǒng)更難以識別女性和膚色較黑的人,這可能導(dǎo)致災(zāi)難性的誤報。
“這是一個例子,說明技術(shù)在執(zhí)法領(lǐng)域的應(yīng)用如何對已經(jīng)過度監(jiān)管的社區(qū)造成有害后果,”北加州ACLU的技術(shù)和公民自由律師Jacob Snow說。
面部識別有它的好處。馬里蘭州的警察利用這項技術(shù)在首都公報的大規(guī)模槍擊案中找出了一名嫌犯;在印度,它幫助警察在四天內(nèi)識別了近3000名失蹤兒童;Facebook使用該技術(shù)為視障人士識別照片中的人物;它已成為解鎖智能手機的便捷方式。
但這項技術(shù)并不完美,而且還有一些尷尬的失誤。谷歌照片曾將兩個黑人識別成大猩猩。在中國,一位女士聲稱她的同事能夠使用Face ID 解鎖她的iPhone X。當執(zhí)法機構(gòu)使用面部識別來識別犯罪嫌疑人或在抗議中揭露人們時,被誤認的風險就會增加。
“當執(zhí)法部門使用這項技術(shù)確定某人是否因犯罪而被通緝時,那就是完全不同的情況,”戈麥斯說,“錯誤的身份有可能會導(dǎo)致執(zhí)法部門和那個人之間發(fā)生致命的互動!
立法者對ACLU的調(diào)查結(jié)果并不感到震驚,并指出科技工作者通常更多地考慮如何使某些東西發(fā)揮作用,而不是關(guān)于他們構(gòu)建的工具如何影響少數(shù)人種。
科技公司通過改進用于培訓(xùn)面部識別系統(tǒng)的數(shù)據(jù)來回應(yīng)批評,但與民權(quán)活動家一樣,他們也呼吁更多的政府監(jiān)管,以幫助保護技術(shù)不被濫用。喬治敦大學法學院的研究人員估計,每兩名美國成年人中就有一名被用于執(zhí)法人員使用的面部識別網(wǎng)絡(luò)。
亞馬遜不贊同ACLU研究,認為組織在測試識別系統(tǒng)時使用了錯誤的方法。
“機器學習是一個非常有價值的工具,可以幫助執(zhí)法機構(gòu),雖然可能存在誤判,我們不能因為設(shè)定了錯誤的溫度導(dǎo)致烤焦了披薩而扔掉烤箱!人工智能總經(jīng)理Matt Wood在亞馬遜網(wǎng)絡(luò)服務(wù)公司的一篇博文中辯解道。
識別問題
與白人男性相比,面部識別服務(wù)可能更難以識別少數(shù)民族和女性,這有多種原因。
喬治城法學院隱私與技術(shù)中心的高級助理克萊爾加維說,科技工作者用來訓(xùn)練計算機識別面孔的公開照片可能包括比白人更多的白人。例如,如果一家公司使用名人數(shù)據(jù)庫中的照片,那么它就會傾向于白人,因為好萊塢的少數(shù)人種人數(shù)不足。
Garvie說,科技公司的工程師,大多是白人,也可能在不知不覺中設(shè)計面部識別系統(tǒng),以更好地識別某些種族。研究表明,人們更難以識別另一個種族的面孔,并且“跨種族偏見”可能會滲入人工智能。她還補充說,對于深色皮膚缺乏色彩對比的問題,以及女性使用化妝品來掩蓋皺紋或頭發(fā)不同的問題,都存在挑戰(zhàn)。
根據(jù)麻省理工學院媒體實驗室的研究人員進行的一項研究,微軟,IBM和Face ++制作的面部識別系統(tǒng)很難確定像非洲裔美國人這樣的黑皮膚女性的性別。35%的黑皮膚女性的性別會被誤認為是高加索人等1%的淺膚色男性。
麻省理工學院于1月份發(fā)布的另一項研究表明,亞馬遜的面部識別技術(shù)比微軟或IBM確定黑皮膚女性性別的工具更難。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀”爆發(fā)至今,五類新物種登上歷史舞臺
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計算迎來商業(yè)化突破,但落地仍需時間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機器人東風翻身?