過去只有三種方法可以脫離腎移植等待名單。第一是從自己的朋友和家人中找到一個(gè)健康的人，完美匹配接受者的血液和組織類型，并且擁有他或她愿意放棄的備用腎。

第二是等待一個(gè)陌生人意外死亡，這個(gè)陌生人是一個(gè)合適的身體匹配，碰巧在他們的駕照上勾選了器官捐獻(xiàn)。

第三是死亡。

但是后來醫(yī)生們想到：擁有足夠多的腎臟病人和足夠多健康自愿的捐贈(zèng)者，他們可以形成一個(gè)足夠大的捐獻(xiàn)池來促進(jìn)比過去一對(duì)一系統(tǒng)更多的匹配。只要病人能找到捐贈(zèng)者——任何捐贈(zèng)者，即使是不匹配病人本身——他們也可以得到一個(gè)匹配的腎臟。

起初，這要求醫(yī)生花幾個(gè)小時(shí)仔細(xì)研究病人和潛在捐贈(zèng)者列表中的血型和組織變化細(xì)節(jié)。然后，計(jì)算機(jī)科學(xué)家和經(jīng)濟(jì)學(xué)家參與了進(jìn)來。他們構(gòu)建的算法比人腦更優(yōu)雅地執(zhí)行這些復(fù)雜的匹配�，F(xiàn)在，多虧了人工智能，一個(gè)人勇敢邁出一步，將腎臟捐贈(zèng)給所愛之人——或者一個(gè)完全陌生的人——可以開啟一條拯救數(shù)十條生命的鏈條。

配對(duì)腎臟捐獻(xiàn)是人工智能的偉大成功案例之一。這并不能消除工作，也不能抹去醫(yī)療保健中的人情味。它應(yīng)對(duì)一個(gè)非常復(fù)雜的問題，解決起來比人類更快，錯(cuò)誤也更少，結(jié)果拯救了更多的生命。自從2000年第一對(duì)腎臟交換手術(shù)開始以來，近6000人接受了通過算法識(shí)別的配對(duì)交換的腎臟移植。今天，大約八分之一從活體捐獻(xiàn)者那里接受腎臟的移植接受者，通過配對(duì)交換與該人配對(duì)。

與此同時(shí)，配對(duì)腎臟交換也是人工智能局限性的一個(gè)完美例子。計(jì)算機(jī)只能做人類能教它的事情，而我們無法教我們不懂的東西。自從醫(yī)學(xué)學(xué)會(huì)如何用捐贈(zèng)腎臟替代衰竭腎臟以來的幾十年里，我們?nèi)栽谂�力解決如何分配珍貴的少量腎臟的問題，這種分配方式讓每個(gè)人都感到公平和滿意，并且不會(huì)導(dǎo)致不希望的、意想不到的后果。人工智能可以識(shí)別出在生物學(xué)上彼此適合的潛在捐贈(zèng)者和接受者；將來，它甚至可以權(quán)衡決定誰先接受移植的道德因素。但是首先，我們?nèi)祟惐仨毦瓦@些應(yīng)該是什么達(dá)成一致。

腎臟充當(dāng)身體的過濾器。對(duì)于腎功能衰竭的人來說，透析基本上是從外部復(fù)制器官的功能，將病人未經(jīng)過濾的血液排出幾個(gè)小時(shí)，然后再泵回體內(nèi)。20世紀(jì)中葉透析的發(fā)明使一種曾經(jīng)是死刑的疾病變成了一種慢性但可控制的疾病。

第一個(gè)門診透析中心——西雅圖人工腎中心，于1962年1月開業(yè)。由于每個(gè)病人每周都需要在機(jī)器上進(jìn)行兩次12小時(shí)的治療，所以該中心在頭兩年，只能接受大約2000名當(dāng)時(shí)有資格接受透析治療的美國(guó)晚期腎病患者中的10名。

為了將利潤(rùn)掌握在自己的手中，該中心組織了一個(gè)由七名公民組成的獨(dú)立委員會(huì)。第一個(gè)接受和政策委員會(huì)——或后來被媒體稱之為“上帝委員會(huì)”——由一名律師、牧師、銀行家、家庭主婦、州政府官員、勞工領(lǐng)袖和外科醫(yī)生組成。醫(yī)生為他們做了一些決定：45歲以上的病人沒有資格，兒童也沒有資格，因?yàn)獒t(yī)生擔(dān)心這個(gè)手術(shù)可能會(huì)給他們帶來精神創(chuàng)傷。除此之外，委員會(huì)可以自行選擇大約四分之一符合條件的申請(qǐng)患者。

根據(jù)1962年《Life》雜志的一篇文章，該匿名委員會(huì)成員會(huì)考慮申請(qǐng)人的年齡和性別，以及是否已婚還是有孩子。他們會(huì)考慮申請(qǐng)者的情緒穩(wěn)定。他們會(huì)看申請(qǐng)者賺了多少錢，以及他們存了多少錢；他們的教育水平、工作、過去的行為和未來潛力。他們決定，既然開發(fā)這項(xiàng)技術(shù)的研究是在華盛頓州資助的機(jī)構(gòu)進(jìn)行的，那么只有華盛頓居民會(huì)被考慮，因?yàn)橹Ц吨委熧M(fèi)用的是該州的稅收。

這篇文章稱委員會(huì)成員作為“思想高尚、善良的公民”面臨著幾乎不可能完成的任務(wù)。他們也是人類，而作為人類，總會(huì)受到有意識(shí)和無意識(shí)偏見的影響。他們是根據(jù)醫(yī)生寫的病歷做出決定的，而醫(yī)生會(huì)有意識(shí)和無意識(shí)的偏見。

該委員會(huì)的七名成員是美國(guó)太平洋西北地區(qū)中上層階級(jí)的一部分，他們的討論（至少是那些公開發(fā)表的）暗示了對(duì)那些似乎分享他們的地位和價(jià)值觀的病人的好感�！禠ife》雜志中從來沒有提到種族，但是很難想象，在一個(gè)仍然嚴(yán)重隔離的社會(huì)里（僅舉一個(gè)例子，當(dāng)時(shí)98％的華盛頓州員工是白人），有色人種并不在這些代表的考慮之中。

他們的討論預(yù)示了一個(gè)問題，在原始的腎臟治療機(jī)被更先進(jìn)的技術(shù)超越之前，這個(gè)問題將會(huì)持續(xù)很久。即使一群人一致承諾盡可能做最好的事情，但對(duì)于大多數(shù)人來說，到底什么才算是最好的東西？

當(dāng)上帝委員會(huì)發(fā)布痛苦的決定時(shí)，其他地方也在進(jìn)行治療腎病患者的類似工作。

醫(yī)生于1954年在波士頓的Birgham and Women＇s Hospital進(jìn)行了第一次成功的腎移植手術(shù)，通過外科手術(shù)從一名23歲的男子身上取出一個(gè)器官，移植到了他的雙胞胎兄弟身上，這位接受者又存活了八年。

到了20世紀(jì)60年代初，血液和組織分型的發(fā)展使得醫(yī)生更容易識(shí)別捐贈(zèng)者和接受者之間的成功匹配，免疫抑制劑藥物的改進(jìn)大大降低了移植排斥率。今天，一個(gè)已故捐贈(zèng)者的腎臟在接受者體內(nèi)會(huì)持續(xù)工作8到12年，而來自活體捐獻(xiàn)者的腎臟平均壽命為12到20年。

1972年，美國(guó)總統(tǒng)理查德·尼克松簽署了立法，擴(kuò)大醫(yī)療保險(xiǎn)范圍，將所有腎衰竭患者的透析包括在內(nèi)。透析并沒有治愈他們，但是它讓更多的人在等待和希望腎移植的時(shí)候存活了更長(zhǎng)時(shí)間。從那以后，美國(guó)需要腎臟移植的人數(shù)增長(zhǎng)速度遠(yuǎn)遠(yuǎn)快于可用的供腎數(shù)量。

根據(jù)器官共享聯(lián)合網(wǎng)絡(luò)的信息，截至撰寫本文時(shí)，美國(guó)有114554人在等待器官移植。其中94980人——83％——正在等待腎臟移植。

1968年的《統(tǒng)一解剖捐贈(zèng)法》在美國(guó)建立了一個(gè)標(biāo)準(zhǔn)程序，通過這個(gè)程序，人們或他們的近親可以授權(quán)死后捐贈(zèng)他們的器官。但是，即使美國(guó)每個(gè)人都是注冊(cè)器官捐獻(xiàn)者（目前的比例是54％），也沒有足夠的腎臟來滿足需求。只有不到2％的人的死亡方式能夠使他們成為合適的器官捐獻(xiàn)者。一個(gè)人死后器官仍然可以移植，氧合血液必須持續(xù)泵送通過它們，直到依靠外科手術(shù)從體內(nèi)取出。在采摘手術(shù)前，已故捐贈(zèng)者通常被宣布腦死亡，并被連接在呼吸機(jī)上。

幸運(yùn)的是，由于大多數(shù)人生來就有兩個(gè)功能正常的腎臟，且只需要一個(gè)就能存活下來，所以活著的人可以捐獻(xiàn)腎臟。由于活體捐獻(xiàn)者的腎臟壽命往往比已故的更長(zhǎng)，所以對(duì)于需要移植的人來說，找到活體捐贈(zèng)者通常是理想的結(jié)果。

雖然所有手術(shù)都有并發(fā)癥或死亡的風(fēng)險(xiǎn)，但絕大多數(shù)腎臟捐獻(xiàn)者在腹腔鏡手術(shù)后僅僅需要在醫(yī)院呆兩三天，隨后是另外四到六周的恢復(fù)時(shí)間。剩下的腎臟會(huì)發(fā)育以補(bǔ)償捐獻(xiàn)的腎臟，捐贈(zèng)者通常會(huì)繼續(xù)過著正常的生活。

當(dāng)然，向你的兄弟姐妹申請(qǐng)器官不是一件小事。但是找到一個(gè)愿意捐贈(zèng)的人通常是這個(gè)過程中最簡(jiǎn)單的部分，因?yàn)樵S多病人和他們的家人都會(huì)發(fā)現(xiàn)無法匹配器官。

佛羅里達(dá)商人Neil Emmott在2001年被診斷患有多囊腎疾病，一種可能導(dǎo)致腎衰竭的遺傳疾病。他的妻子Lisa Emmott說，這個(gè)消息是“意想不到的和毀滅性的”。在被診斷出時(shí)，Neil38歲，Lisa27歲，這對(duì)夫婦結(jié)婚還不到一年。到2016年，他們有了兩個(gè)年幼的女兒，Neil的病情惡化到了約翰霍普金斯大學(xué)的醫(yī)生建議他考慮移植選擇的地步。

Lisa自愿立即捐贈(zèng)。她很健康，和他擁有相同的血型，所以她認(rèn)為自己是一個(gè)可行的候選人。但是器官捐獻(xiàn)不僅僅需要血液和組織匹配。對(duì)捐贈(zèng)者需要進(jìn)行徹底的篩選，心理或社會(huì)經(jīng)濟(jì)問題可能會(huì)使他們的捐贈(zèng)復(fù)雜化。Lisa得知，她的腎動(dòng)脈形狀的一個(gè)良性異�！�—腎動(dòng)脈是運(yùn)送血液進(jìn)出腎臟的靜脈——使她喪失了資格。Neil的弟弟作為替補(bǔ)出場(chǎng)，但由于一些小的醫(yī)療問題也被排除在外。這家人感到很傷心。

“需要器官是一個(gè)可怕的事情，”Emmott說。這時(shí)，這個(gè)家庭決定尋求市場(chǎng)。

人體器官“市場(chǎng)”的想法令人毛骨悚然。它們不是商品：美國(guó)法律明確禁止出售人體器官。但是從經(jīng)濟(jì)角度來看，市場(chǎng)就是任何想要東西的人找到可以給他們東西的人的地方。這個(gè)不僅僅依靠?jī)r(jià)格來分配資源的市場(chǎng)被稱為匹配市場(chǎng)。約會(huì)池是匹配市場(chǎng)的一種類型（假設(shè)沒有錢被用來交換友誼）；想要腎臟的人和愿意捐獻(xiàn)腎臟的人也是如此。

當(dāng)市場(chǎng)很“厚”或有很多參與者時(shí)，市場(chǎng)工作得最好。在腎移植的最初幾十年里，生病的人和他們的潛在捐獻(xiàn)者被限制在他們自己非常薄弱的市場(chǎng)中。失敗的匹配往往被證明是對(duì)重病患者的死刑判決。

但是如果市場(chǎng)可以變得更厚呢？

這個(gè)想法最初是在1986年德裔美國(guó)外科醫(yī)生Felix Rapaport的一篇論文中提出，他提出了一個(gè)理論，即可以跨越兩個(gè)自愿的供受體對(duì)移植腎臟：患者A從供體B接受腎臟，作為交換，供體A給患者B一個(gè)腎臟。

1991年，韓國(guó)首爾的醫(yī)生們?cè)谀I病專家Kiil Park的指導(dǎo)下，在兩個(gè)供體－患者對(duì)之間進(jìn)行了第一對(duì)腎臟移植。四年后，世界上第一個(gè)配對(duì)腎臟捐贈(zèng)項(xiàng)目在首爾延世大學(xué)醫(yī)學(xué)院開啟。潛在的捐贈(zèng)者和接受者被輸入數(shù)據(jù)庫，然后由醫(yī)生通過數(shù)小時(shí)的艱苦分析手動(dòng)配對(duì)。1999年，瑞士成為下一個(gè)建立配對(duì)腎臟交換的國(guó)家，匹配了兩對(duì)已婚夫婦，每對(duì)夫婦都有一個(gè)患有終末期腎病的配偶和一個(gè)愿意捐獻(xiàn)腎臟的配偶。

2000年的一個(gè)晚上，在厭倦了向病人和他們的親人傳遞令人心碎的消息之后，一位名叫Michael Rees的美國(guó)腎臟學(xué)家拖著幾箱文件回家，花了幾個(gè)小時(shí)仔細(xì)檢查血液、抗體和組織數(shù)據(jù)，并比較患者列表。這項(xiàng)工作在精神上很累人。最終，他意識(shí)到自己沒有可行的匹配——但是，如果捐獻(xiàn)池更大，可以做成配對(duì)。與他的父親Alan Rees一起合作（Alan是一名計(jì)算機(jī)科學(xué)家），Michael Rees創(chuàng)建了一個(gè)簡(jiǎn)單的計(jì)算機(jī)程序，將捐贈(zèng)者和接受者配對(duì)，將人工智能引入匹配過程。

大約在同一時(shí)間，哈佛大學(xué)經(jīng)濟(jì)學(xué)教授Alvin Roth，也在修補(bǔ)腎臟匹配的解決方案。Roth專注于市場(chǎng)設(shè)計(jì)，專注于如何調(diào)整市場(chǎng)以修復(fù)供需失衡。他以前設(shè)計(jì)過算法來匹配新醫(yī)生和住院醫(yī)師項(xiàng)目，以及紐約市小學(xué)學(xué)生和高中學(xué)校�，F(xiàn)在他把注意力轉(zhuǎn)向腎臟。

Roth和他的同事Utku Unver、Tayfun Sonmez設(shè)計(jì)了一種算法，用于審查和分析潛在捐贈(zèng)者和接受者的數(shù)據(jù)資料。它確定了捐助者－接受者配對(duì)的“循環(huán)”和“鏈”，其中一個(gè)人選擇無私地將腎臟捐獻(xiàn)給任何需要腎臟的人，從而在醫(yī)院或腎臟交換項(xiàng)目登記的潛在捐獻(xiàn)者和接受者中啟動(dòng)了一系列捐獻(xiàn)。例如：患者B從利他捐贈(zèng)者A那里得到一個(gè)腎臟，之后，捐贈(zèng)者B感激地將腎臟捐贈(zèng)給病人C。如果病人C有一個(gè)愿意捐贈(zèng)的人，那么這條鏈可以繼續(xù)延長(zhǎng)，且沒有真正的限制。不同于循環(huán)，鏈可以無限期地向前移動(dòng)，而不必回去，通過為原始捐贈(zèng)者的伙伴接受者找到腎臟來結(jié)束這個(gè)循環(huán)。

Roth、Unver和Sonmez覺得他們?cè)谧鲆患�大事�?003年，他們?cè)诰W(wǎng)上發(fā)布了一篇概述他們工作的論文，并發(fā)給了美國(guó)各地的腎臟學(xué)家。根據(jù)哈佛外科醫(yī)生Frank Delmonico的反饋，該團(tuán)隊(duì)調(diào)整了他們的算法，并發(fā)表了一篇新論文，其概念幫助建立了新英格蘭腎臟交換項(xiàng)目。該交換項(xiàng)目匹配了該地區(qū)14個(gè)腎移植中心的捐贈(zèng)者和接受者。

起初，外科醫(yī)生堅(jiān)持在給定的循環(huán)或鏈中同時(shí)進(jìn)行所有手術(shù)，這樣任何捐贈(zèng)者都不會(huì)在最后一刻退縮。這限制了循環(huán)或鏈中的患者數(shù)量，因?yàn)獒t(yī)院一次只能騰出這么多床位和這么多外科醫(yī)生。經(jīng)濟(jì)學(xué)家和其他幾位醫(yī)生認(rèn)為，這是不必要的限制。這不存在生物障礙：與心臟或肺不同，心臟或肺必須在離開捐獻(xiàn)者身體后4到6小時(shí)內(nèi)移植，而在找到新宿主之前，腎臟可以安全保存24到36小時(shí)。至于捐助鏈中薄弱環(huán)節(jié)的可能性，經(jīng)濟(jì)學(xué)家認(rèn)為，在一個(gè)以愿意將腎臟給任何人的捐贈(zèng)者開始的鏈中，如果捐贈(zèng)者退縮了，任何接受者都不會(huì)束手無策，因?yàn)獒t(yī)生可以從注冊(cè)捐贈(zèng)者庫中找到替代品。

建立第一個(gè)匹配算法的腎臟學(xué)家Rees，證明這是可以做到的。在一名28歲的捐贈(zèng)者向一個(gè)需要幫助的陌生人提供了一個(gè)腎臟后，Rees組織了一系列腎臟捐贈(zèng)，在八個(gè)月的時(shí)間里拯救了五個(gè)州10名患者的生命。

今天，美國(guó)多家醫(yī)院都有自己的配對(duì)腎臟捐贈(zèng)項(xiàng)目。此外還有三個(gè)更大的美國(guó)跨院腎臟交換項(xiàng)目：器官共享聯(lián)合網(wǎng)絡(luò)、國(guó)家腎臟登記處和配對(duì)腎臟捐贈(zèng)聯(lián)盟。英國(guó)、加拿大和荷蘭設(shè)有國(guó)家交換項(xiàng)目，從印度到南非的醫(yī)院都有配對(duì)捐贈(zèng)發(fā)生。研究人員還推斷，肺和部分肝移植也可能進(jìn)行類似的交換，盡管還沒有這種互換的系統(tǒng)。

2012年，Roth因其在市場(chǎng)設(shè)計(jì)方面的工作獲得諾貝爾獎(jiǎng)。他帶Rees一起去參加了儀式。到那時(shí)，美國(guó)有2000人接受了移植，這是他們幫助創(chuàng)建的系統(tǒng)結(jié)果。此后又有成千上萬的人得到了幫助。

Neil Emmott最終成為2017年腎鏈中的八個(gè)人之一，該腎鏈?zhǔn)加趦晌患胰伺笥亚皝頌樗�捐�?zèng)。2018年8月13日，阿拉巴馬州的一名婦女成為從2013年開始在全國(guó)范圍捐贈(zèng)鏈中接受腎臟移植的第100人。

今天，當(dāng)醫(yī)生正在尋找匹配腎臟捐贈(zèng)者和接受者時(shí)，人工智能研究人員構(gòu)建的算法搜索注冊(cè)腎臟病人及其合作捐贈(zèng)者的數(shù)據(jù)庫，并根據(jù)器官采購(gòu)和移植網(wǎng)絡(luò)委員會(huì)和器官共享聯(lián)合網(wǎng)絡(luò)制定的加權(quán)標(biāo)準(zhǔn)列表來識(shí)別匹配。

這些算法同時(shí)評(píng)估所有可能在患者－供體庫中進(jìn)行的移植。匹配主要基于生物適應(yīng)性，最難匹配的病人得到了優(yōu)先考慮。這項(xiàng)技術(shù)衡量標(biāo)準(zhǔn)包括接受者在等待名單上的時(shí)間，他或她的年齡（兒童優(yōu)先），以及需要腎臟的人過去是否曾經(jīng)是活體器官捐獻(xiàn)者。

這些算法幫助了成千上萬拯救生命的手術(shù)。將來，人工智能不僅可以使用人類決定的標(biāo)準(zhǔn)進(jìn)行匹配，還可以積極參與這個(gè)判斷過程——理解人類的決策和價(jià)值體系，這樣它就可以做出自己的判斷，決定哪些腎臟應(yīng)該去哪里（這個(gè)決策將由人類醫(yī)生審查）。在這一點(diǎn)上，限制因素與其說是技術(shù)，不如說是使用技術(shù)的人。

第一個(gè)問題是人類對(duì)人工智能在器官分配中的作用的焦慮。醫(yī)院和器官交換機(jī)構(gòu)甚至不愿意在匹配過程中使用“人工智能”一詞。部分原因是研究人員稱之為“人工智能效應(yīng)”的趨勢(shì)。正如牛津大學(xué)未來人類研究所所長(zhǎng)Nick Bostrom所說，“一旦某些東西變得足夠有用且足夠普遍，它就不再被貼上‘人工智能’的標(biāo)簽。”

鑒于缺乏關(guān)于“人工智能”實(shí)際含義的公共教育，醫(yī)院和交換機(jī)構(gòu)對(duì)病人誤解算法在識(shí)別潛在匹配方面的作用持謹(jǐn)慎態(tài)度，也許是害怕變戲法似的機(jī)器人冷冷地發(fā)布生死指令。

目前，機(jī)器不能決定哪些腎臟去哪里。人類可以這樣做。今天的算法比人類更可靠，也更大規(guī)模地進(jìn)行數(shù)學(xué)運(yùn)算，執(zhí)行人類已經(jīng)做出的判斷，但是它們并不了解為什么首先要進(jìn)行計(jì)算。

“AI沒有像我們一樣對(duì)世界有一個(gè)全面的了解。它們不明白自己正在處理的數(shù)據(jù)是關(guān)于什么的，”杜克大學(xué)計(jì)算機(jī)科學(xué)、倫理學(xué)和哲學(xué)教授Vincent Conitzer表示。“它們沒有這個(gè)人正在受苦的概念。它們并不真正了解一個(gè)人是什么。人類必須在某個(gè)時(shí)候介入進(jìn)來�！�

研究人員現(xiàn)在正在教機(jī)器從人類的角度來理解這些道德困境。今年，Conitzer和杜克大學(xué)的同事Jana Schaich Borg、Walter Sinnott－Armstrong、Rachel Freedman以及馬里蘭大學(xué)的John Dickerson，一起發(fā)表了一篇論文，其中他們向研究對(duì)象展示了數(shù)百對(duì)假設(shè)的患者概況，并詢問每對(duì)中哪一個(gè)應(yīng)該得到一個(gè)可用的腎臟。這些假設(shè)的患者檔案并沒有列出算法處理的血液和組織數(shù)據(jù)，而是列出了一些事情，比如患者飲酒的頻率，以及他們過去是否患過癌癥。研究人員隨后將受試者的選擇反饋給一種算法，并學(xué)習(xí)如何根據(jù)這些模式選擇“正確的”腎臟接受者。就像人類受試者一樣，人工智能偏愛更年輕、更健康的病人——這是一個(gè)機(jī)器根據(jù)對(duì)人類價(jià)值觀的了解做出決策的例子。

雖然可以教機(jī)器按照我們的價(jià)值體系進(jìn)行匹配，但是我們并不總是明白自己的價(jià)值觀是什么，或者很難將其作為一個(gè)整體達(dá)成一致。人們并不總是知道他們想要優(yōu)化什么，即使當(dāng)他們認(rèn)為這樣做了，他們也常常不明白如何以不會(huì)導(dǎo)致意想不到的后果的方式去做。

例如，麻省理工學(xué)院的道德機(jī)器允許實(shí)驗(yàn)室網(wǎng)站的訪問者玩他們必須選擇的游戲，在一個(gè)又一個(gè)假設(shè)的情況下，無人駕駛汽車在面臨兩個(gè)可怕的選擇時(shí)應(yīng)該選擇殺死哪一組汽車乘客或行人。在經(jīng)歷了一系列令人反胃的場(chǎng)景之后——是的，我寧愿汽車碾過一個(gè)孕婦，而不是五個(gè)無家可歸的成年人；不，如果這意味著殺死五名成年乘客，我不會(huì)為了躲避兩個(gè)孩子而突然轉(zhuǎn)向——這一游戲揭示了它在你的選擇中確定的模式，以及你的反應(yīng)如何與其他玩家的反應(yīng)相比較。

這些信息可以揭示出人意料的后果和令人不快的未被承認(rèn)的偏見。例如，你可能會(huì)了解到，你的決定不成比例地導(dǎo)致了比女性更多的男性死亡，或者你傾向于比游戲中的一般玩家更看重遵守交通規(guī)則。

在腎臟問題上，就是采取表面上公平的原則，即腎臟應(yīng)該給予那些在接受腎臟后可能會(huì)有最多壽命的人。在計(jì)算機(jī)能夠計(jì)算潛在接受者的壽命之前，科學(xué)家必須為算法提供各種人群的預(yù)期壽命數(shù)據(jù)。但是這導(dǎo)致了一些問題。男人往往比女人早死。美國(guó)黑人比任何其他種族的美國(guó)人死得更早。2015年，一位65歲的美國(guó)白人婦女可能會(huì)再活20．5歲，比同齡的黑人長(zhǎng)4年。雖然是從良好的意圖開始，但最終卻導(dǎo)致了系統(tǒng)的種族和性別歧視。

“在經(jīng)濟(jì)學(xué)中，我們談?wù)摬豢赡苄远ɡ�。有些東西你可能想得到卻無法得到，”Roth說�！爱�(dāng)你分配稀缺資源時(shí)，你不能把腎給一個(gè)人而不把它給另一個(gè)人。計(jì)算機(jī)不會(huì)從各個(gè)方面減輕人類的負(fù)擔(dān)�！�

人工智能沒有造成這些道德困境。人類委員會(huì)為分配腎臟的最公平方式而不斷苦惱；人類司機(jī)仍然不得不在方向盤后面做出可怕的緊急決定。機(jī)器可以在幾小時(shí)甚至幾分鐘內(nèi)模擬出人類判斷的結(jié)果，這些結(jié)果原本可能需要數(shù)年才能發(fā)現(xiàn)。從長(zhǎng)遠(yuǎn)來看，這可能會(huì)有所幫助：如果一個(gè)計(jì)算機(jī)模型能夠證明特定的腎臟分配政策會(huì)對(duì)某些群體造成不相稱的不利影響，那么醫(yī)生可以在任何人實(shí)際受到傷害之前取消這項(xiàng)計(jì)劃。但并不是每個(gè)人都樂于讓機(jī)器參與生死抉擇。

道德機(jī)器教給玩家一些西雅圖上帝委員會(huì)很久以前學(xué)到的東西：必須選擇拯救哪一條生命，知道這個(gè)決定會(huì)導(dǎo)致別人的死亡或痛苦，感覺很可怕。這部分是人工智能所無法幫助的。人們可以找到組裝椅子的理想方法，然后將這個(gè)過程傳授給一臺(tái)能夠完美組裝成千上萬把椅子的機(jī)器。但卻沒有完美的方法來決定誰生誰死。