為什么不能是「她」?AI也要反性別偏見
提到性別偏見,別以為只有人才會產(chǎn)生偏見,事實上作為非生命體的AI系統(tǒng),也可能因為設計者的疏忽,或者社會語料庫本身的性別不公因素,而流露出性別偏見傾向。這當然不是設計者的本意,可是這種現(xiàn)象無可避免地會對部分用戶造成觀感不適。
特倫托大學的研究人員以身力行,借用名為"MuST-SHE"的測試集,來評估AI語音翻譯系統(tǒng)的輸入文本數(shù)據(jù)集是否存在具有性別差異的語句,而AI又是否將這種性別差異從翻譯加工成果中體現(xiàn)出來。
分門別類!為不同翻譯語料類型找準定位
在機器翻譯過程中,性別偏見可以歸因于語言表達上之于男女性別的差異。那些有專屬性別語法系統(tǒng)的語言,如羅曼斯語,依賴于性別詞性和句法變化來區(qū)分出性別差異。而這對于英語和中文都是不適用的,比如說,中文是一種“自然性別”系的語言,它只通過代詞(如:“她”和“他”)、固有性別的詞語(如:“男孩”和“女孩”)和性別專用名詞(如:“媽媽”和“夫人”)來反映性別差異。
如果AI翻譯系統(tǒng)不能捕捉到這些細微差別,可能導致對不同性別群體的不準確描述。為了盡可能抹消這種區(qū)別,研究人員專門創(chuàng)建了一個被稱為MuST-SHE的多語言測試集,旨在揭露潛藏在語言翻譯系統(tǒng)后的性別偏見。
機器人在吸收歧視性數(shù)據(jù)集后,也會表現(xiàn)出歧視傾向
MuST-SHE是基于TED演講數(shù)據(jù)集篩選得出的一個數(shù)據(jù)子集,其中包括大約1000份音頻、文本和翻譯素材,這些翻譯素材都取自開源MuST-C語料庫,有專門的語料注釋了與性別相關(guān)的定性差異。這些素材被細分為兩類:
第1類:當性別差異性僅取決于說話人本身的性別時(即沒有相應的語境樣本支持),翻譯素材的形成需從音頻信號中獲取消除性別歧義的必要信息樣本。
第2類:所得的翻譯素材有直接消除歧義信息的樣本支持,其中包含比較清晰的語境提示,如性別指定性詞組、代詞和專有名詞都能說明說話者的性別。
每一類的第一框都是正確語料例子
第二框是錯誤例子作為參照物
基于語料庫中的每一條翻譯引用,研究人員都特意創(chuàng)建了一個反面語料例子,除了“他/她”不分、“男/女”不分之外,反面的翻譯素材與原文的涵義其實完全相同。在將兩種語料信息輸入AI翻譯系統(tǒng)后,研究結(jié)果表明,在性別的正式表達預料方面,原語料庫中的翻譯范例被AI駁回,認為其是“存在部分錯誤的”,而反面語料例子則被認為是“正確的”。這種結(jié)果差異可以用來衡量語音識別系統(tǒng)處理性別現(xiàn)象的能力。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-10.29立即報名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會
-
10月31日立即下載>> 【限時免費下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月14日立即報名>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價拍賣
- 5 具身智能火了,但規(guī)模落地還需時間
- 6 國產(chǎn)英偉達們,抓緊沖刺A股
- 7 三次錯失風口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實力拉滿
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市