前言：人工智能在各個(gè)領(lǐng)域似乎被吹捧為在各種應(yīng)用領(lǐng)域?qū)崿F(xiàn)自動(dòng)化決策的“圣杯”，被認(rèn)為可以做得比人類(lèi)更好或更快，但事實(shí)上人工智能面臨了一個(gè)大挑戰(zhàn)就是算法偏見(jiàn)。

人工智能是否全能

機(jī)器是沒(méi)有情感的，只能根據(jù)輸入的數(shù)據(jù)來(lái)進(jìn)行學(xué)習(xí)，然后按照既定設(shè)計(jì)完成相應(yīng)功能，AI需要大量數(shù)據(jù)來(lái)運(yùn)作，但通常沒(méi)有合適的數(shù)據(jù)基礎(chǔ)設(shè)施來(lái)支持AI學(xué)習(xí)，最終AI的數(shù)據(jù)基礎(chǔ)不夠，無(wú)法真正有效地完成功能，更多的是從事一些指令性的工作，就像生產(chǎn)線上的機(jī)器手一樣，都是提前輸入指令，由機(jī)器手臂按照固定的步驟操作完成。

人類(lèi)對(duì)大腦還是未知的，我們并不清楚大腦是如何進(jìn)行學(xué)習(xí)和工作的，AI其實(shí)就是模仿人腦去思考和工作，但我們對(duì)大腦的機(jī)理并不清楚，就無(wú)法讓AI完全模擬人腦，無(wú)法完全代替人腦去學(xué)習(xí)和工作，AI更多時(shí)候是根據(jù)輸入的數(shù)據(jù)，將見(jiàn)到的問(wèn)題錄入與已輸入的數(shù)據(jù)進(jìn)行對(duì)比，有重疊度比較高的就認(rèn)為匹配成功，執(zhí)行相應(yīng)的預(yù)設(shè)動(dòng)作，當(dāng)已有的樣本庫(kù)里沒(méi)有匹配到，那AI也不知道該怎么辦。在很多人類(lèi)活動(dòng)中，摻雜著很多復(fù)雜的社會(huì)問(wèn)題，比如說(shuō)種族歧視、國(guó)家競(jìng)爭(zhēng)、疾病傳染等問(wèn)題，AI顯然還意識(shí)不到這些問(wèn)題的存在，這些數(shù)據(jù)不好采集和錄入，AI算法也沒(méi)有考慮這些社會(huì)因素。

算法的偏見(jiàn)來(lái)自哪里

工程師很少刻意將偏見(jiàn)教給算法，那偏見(jiàn)究竟從何而來(lái)，這個(gè)問(wèn)題與人工智能背后的核心技術(shù)—機(jī)器學(xué)習(xí)休戚相關(guān)。機(jī)器學(xué)習(xí)過(guò)程可化約為如下步驟，而為算法注入偏見(jiàn)的主要有三個(gè)環(huán)節(jié)—數(shù)據(jù)集構(gòu)建、目標(biāo)制定與特征選�。üこ處煟�、數(shù)據(jù)標(biāo)注（標(biāo)注者）。

工程師是規(guī)則制定者，算法工程師從頭到尾參與了整個(gè)系統(tǒng)，包括：機(jī)器學(xué)習(xí)的目標(biāo)設(shè)定、采用哪種模型、選取什么特征（數(shù)據(jù)標(biāo)簽）、數(shù)據(jù)的預(yù)處理等。不恰當(dāng)?shù)哪繕?biāo)設(shè)定，可能從一開(kāi)始就引入了偏見(jiàn)，比如意圖通過(guò)面相來(lái)識(shí)別罪犯；不過(guò)，更典型的個(gè)人偏見(jiàn)代入，出現(xiàn)在數(shù)據(jù)特征的選取環(huán)節(jié)。

數(shù)據(jù)標(biāo)簽就是一堆幫助算法達(dá)成目標(biāo)的判定因素。算法就好像一只嗅探犬，當(dāng)工程師向它展示特定東西的氣味后，它才能夠更加精準(zhǔn)地找到目標(biāo)。因此工程師會(huì)在數(shù)據(jù)集中設(shè)置標(biāo)簽，來(lái)決定算法要學(xué)習(xí)該數(shù)據(jù)集內(nèi)部的哪些內(nèi)容、生成怎樣的模型。

對(duì)于一些非結(jié)構(gòu)化的數(shù)據(jù)集如大量描述性文字、圖片、視頻等，算法無(wú)法對(duì)其進(jìn)行直接分析。這時(shí)就需要人工為數(shù)據(jù)進(jìn)行標(biāo)注，提煉出結(jié)構(gòu)化的維度，用于訓(xùn)練算法。舉一個(gè)很簡(jiǎn)單的例子，有時(shí)Google Photos會(huì)請(qǐng)你幫助判斷一張圖片是否是貓，這時(shí)你就參與了這張圖片的打標(biāo)環(huán)節(jié)。

當(dāng)打標(biāo)者面對(duì)的是“貓或狗”的提問(wèn)時(shí)，最壞結(jié)果不過(guò)是答錯(cuò)；但如果面對(duì)的是“美或丑”的拷問(wèn)，偏見(jiàn)就產(chǎn)生了。作為數(shù)據(jù)的加工人員，打標(biāo)者時(shí)常會(huì)被要求做一些主觀價(jià)值判斷，這又成為偏見(jiàn)的一大來(lái)源。

打標(biāo)過(guò)程正是將個(gè)人偏見(jiàn)轉(zhuǎn)移到數(shù)據(jù)中，被算法吸納，從而生成了帶有偏見(jiàn)的模型�，F(xiàn)如今，人工打標(biāo)服務(wù)已成為一種典型商業(yè)模式，許多科技公司都將其海量的數(shù)據(jù)外包進(jìn)行打標(biāo)。這意味著，算法偏見(jiàn)正通過(guò)一種“隱形化”、“合法化”的過(guò)程，被流傳和放大。

人工智能偏見(jiàn)的分類(lèi)

偏見(jiàn)不是以一種形式出現(xiàn)的，而是有各種類(lèi)型的。這包括交互偏見(jiàn)、潛意識(shí)偏見(jiàn)、選擇偏見(jiàn)、數(shù)據(jù)驅(qū)動(dòng)的偏見(jiàn)和確認(rèn)偏見(jiàn)。

交互偏見(jiàn)：是指用戶(hù)由于自己與算法的交互方式而使算法產(chǎn)生的偏見(jiàn)。當(dāng)機(jī)器被設(shè)置向周?chē)�環(huán)境學(xué)習(xí)時(shí)，它們不能決定要保留或者丟棄哪些數(shù)據(jù)，什么是對(duì)的，什么是錯(cuò)的。相反，它們只能使用提供給它們的數(shù)據(jù)——不論是好的、壞的，還是丑的，并在此基礎(chǔ)上做出決策。機(jī)器人Tay便是這類(lèi)偏見(jiàn)的一個(gè)例子，它是受到一個(gè)網(wǎng)絡(luò)聊天社區(qū)的影響而變得偏種族主義。

潛意識(shí)偏見(jiàn)：是指算法錯(cuò)誤地把觀念與種族和性別等因素聯(lián)系起來(lái)。例如，當(dāng)搜索一名醫(yī)生的圖像時(shí)，人工智能會(huì)把男性醫(yī)生的圖像呈現(xiàn)給一名女性，或者在搜索護(hù)士時(shí)反過(guò)來(lái)操作。

選擇偏見(jiàn)：是指用于訓(xùn)練算法的數(shù)據(jù)被傾向性地用于表示一個(gè)群體或者分組，從而使該算法對(duì)這些群體有利，而代價(jià)是犧牲其他群體。以招聘為例，如果人工智能被訓(xùn)練成只識(shí)別男性的簡(jiǎn)歷，那么女性求職者在申請(qǐng)過(guò)程中就很難成功。

數(shù)據(jù)驅(qū)動(dòng)的偏見(jiàn)：是指用來(lái)訓(xùn)練算法的原始數(shù)據(jù)已經(jīng)存在偏見(jiàn)了。機(jī)器就像孩子一樣：他們不會(huì)質(zhì)疑所給出的數(shù)據(jù)，而只是尋找其中的模式。如果數(shù)據(jù)在一開(kāi)始就被曲解，那么其輸出的結(jié)果也將反映出這一點(diǎn)。

確認(rèn)偏見(jiàn)：這類(lèi)似于數(shù)據(jù)驅(qū)動(dòng)的偏見(jiàn)，偏向于那些先入為主的信息。它影響人們?cè)鯓邮占�信息，以及人們�(cè)鯓咏庾x信息。例如，如果自己覺(jué)得8月份出生的人比其他時(shí)候出生的更富有創(chuàng)造性，那就會(huì)偏向于尋找強(qiáng)化這種想法的數(shù)據(jù)。

Applause推出偏見(jiàn)解決方案

應(yīng)用測(cè)試公司Applause推出了新的人工智能解決方案，同時(shí)提供AI訓(xùn)練所需的龐大數(shù)據(jù)。

Applause已經(jīng)為其應(yīng)用程序測(cè)試解決方案建立了龐大的全球測(cè)試社區(qū)，該解決方案受到谷歌、Uber、PayPal等品牌的信任。

具體地說(shuō)，Applause的新解決方案跨越五種獨(dú)特的AI活動(dòng)類(lèi)型：

①語(yǔ)音：源發(fā)聲以訓(xùn)練支持語(yǔ)音的設(shè)備，并對(duì)這些設(shè)備進(jìn)行測(cè)試，以確保它們能夠準(zhǔn)確地理解和響應(yīng)；

②OCR：提供文檔和對(duì)應(yīng)的文本來(lái)訓(xùn)練識(shí)別文本的算法，并比較打印文檔和識(shí)別文本的準(zhǔn)確性；

③圖像識(shí)別：交付預(yù)定義對(duì)象和位置的照片，并確保正確識(shí)別圖片和識(shí)別對(duì)象；

④生物識(shí)別：獲取生物特征輸入，如人臉和指紋，并測(cè)試這些輸入是否會(huì)產(chǎn)生易于使用且實(shí)際有效的體驗(yàn)；

⑤聊天機(jī)器人：給出樣本問(wèn)題和不同的意圖讓聊天機(jī)器人回答，并與聊天機(jī)器人互動(dòng)，以確保它們能像人類(lèi)那樣準(zhǔn)確地理解和響應(yīng)。

結(jié)尾：

但回過(guò)頭來(lái)，技術(shù)不過(guò)是社會(huì)與人心的一面鏡子。某種程度上，算法偏見(jiàn)就像在這個(gè)我們認(rèn)為進(jìn)步、美好的當(dāng)下，重新呈遞灰暗角落的真相并敲響警鐘。因此，當(dāng)談及算法偏見(jiàn)的應(yīng)對(duì)時(shí)，一部分努力便是要回歸于人�？尚业氖�，即便是技術(shù)層面的自律與治理嘗試，也能極大地降低偏見(jiàn)程度、避免偏見(jiàn)大幅擴(kuò)張。