為什么不能是「她」?AI也要反性別偏見
提到性別偏見,別以為只有人才會產(chǎn)生偏見,事實上作為非生命體的AI系統(tǒng),也可能因為設(shè)計者的疏忽,或者社會語料庫本身的性別不公因素,而流露出性別偏見傾向。這當(dāng)然不是設(shè)計者的本意,可是這種現(xiàn)象無可避免地會對部分用戶造成觀感不適。
特倫托大學(xué)的研究人員以身力行,借用名為"MuST-SHE"的測試集,來評估AI語音翻譯系統(tǒng)的輸入文本數(shù)據(jù)集是否存在具有性別差異的語句,而AI又是否將這種性別差異從翻譯加工成果中體現(xiàn)出來。
分門別類!為不同翻譯語料類型找準(zhǔn)定位
在機(jī)器翻譯過程中,性別偏見可以歸因于語言表達(dá)上之于男女性別的差異。那些有專屬性別語法系統(tǒng)的語言,如羅曼斯語,依賴于性別詞性和句法變化來區(qū)分出性別差異。而這對于英語和中文都是不適用的,比如說,中文是一種“自然性別”系的語言,它只通過代詞(如:“她”和“他”)、固有性別的詞語(如:“男孩”和“女孩”)和性別專用名詞(如:“媽媽”和“夫人”)來反映性別差異。
如果AI翻譯系統(tǒng)不能捕捉到這些細(xì)微差別,可能導(dǎo)致對不同性別群體的不準(zhǔn)確描述。為了盡可能抹消這種區(qū)別,研究人員專門創(chuàng)建了一個被稱為MuST-SHE的多語言測試集,旨在揭露潛藏在語言翻譯系統(tǒng)后的性別偏見。
機(jī)器人在吸收歧視性數(shù)據(jù)集后,也會表現(xiàn)出歧視傾向
MuST-SHE是基于TED演講數(shù)據(jù)集篩選得出的一個數(shù)據(jù)子集,其中包括大約1000份音頻、文本和翻譯素材,這些翻譯素材都取自開源MuST-C語料庫,有專門的語料注釋了與性別相關(guān)的定性差異。這些素材被細(xì)分為兩類:
第1類:當(dāng)性別差異性僅取決于說話人本身的性別時(即沒有相應(yīng)的語境樣本支持),翻譯素材的形成需從音頻信號中獲取消除性別歧義的必要信息樣本。
第2類:所得的翻譯素材有直接消除歧義信息的樣本支持,其中包含比較清晰的語境提示,如性別指定性詞組、代詞和專有名詞都能說明說話者的性別。
每一類的第一框都是正確語料例子
第二框是錯誤例子作為參照物
基于語料庫中的每一條翻譯引用,研究人員都特意創(chuàng)建了一個反面語料例子,除了“他/她”不分、“男/女”不分之外,反面的翻譯素材與原文的涵義其實完全相同。在將兩種語料信息輸入AI翻譯系統(tǒng)后,研究結(jié)果表明,在性別的正式表達(dá)預(yù)料方面,原語料庫中的翻譯范例被AI駁回,認(rèn)為其是“存在部分錯誤的”,而反面語料例子則被認(rèn)為是“正確的”。這種結(jié)果差異可以用來衡量語音識別系統(tǒng)處理性別現(xiàn)象的能力。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計算迎來商業(yè)化突破,但落地仍需時間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?