by Aditya Madanapalle

道德考量

無人駕駛汽車的問題可以概括為自動駕駛汽車的道德規(guī)范。在問題的經(jīng)典版本中,有一輛車沿著車道行走,駕駛員必須在保持車道和切換車道之間做出選擇。如果繼續(xù)保持在當(dāng)前車道上,那么將有五人被殺。但是,如果他切換車道,則會只有一個人會被殺死。 2014年,麻省理工學(xué)院的研究人員建立了“道德機(jī)器”,以測試世界各地人們對自動駕駛汽車可能會遇到的棘手問題的態(tài)度和方法。

本質(zhì)上,車輛必須選擇要撞到的東西。例如,汽車將與寵物發(fā)生相撞,是否應(yīng)該轉(zhuǎn)彎而與人相撞?這類情況是為殘疾人、年老、年輕、守法的公民、罪犯、男人,婦女、健康和有病的人設(shè)立的。

該研究的主要作者Edmond Awad解釋說:“該研究基本上是在試圖理解無人駕駛汽車可能要訴諸的道德決定。我們還不知道他們應(yīng)該怎么做�！比绻�車輛能夠識別出犯罪分子,那么它必須非常聰明才能找出適合的人以及隱私隱患,但是我們僅假設(shè)車輛可以做出這樣的區(qū)分。

四年后,研究人員得到了答案。編入無人駕駛汽車的決策可能必須取決于汽車的位置。例如,假設(shè)車輛必須在撞上老人或兒童之間做出選擇。在法國和希臘,這種文化使年輕人可以幸免。然而,在中國和日本,老年人受到更多的尊重,更受歡迎的選擇是使老年人處境更加安全。但是,對于各種選擇,文化態(tài)度并不相同�？紤]到在節(jié)省旅客和行人之間可以做出選擇,日本和中國處于相反的境地。日本人想挽救乘客,而中國人想饒恕行人。

研究人員從道德引擎中學(xué)到的東西是,人們想要的可能不是最佳的道德選擇,決策者可能需要介入并確保這些工具做出與大眾期望相反的決定。例如,世界上大多數(shù)人都認(rèn)為,將地位高的人的安全放在地位低的人的安全上是可以接受的。

現(xiàn)在的事情是,當(dāng)車輛被編程為以某種方式起作用時,它將在每次具有相同選擇的情況下都選擇該選項(xiàng)。例如,可以對車輛進(jìn)行編程以使一個8歲的孩子免于受傷,并撞到一個80歲的男人�，F(xiàn)在,每次得到選擇時,它都會做同樣的事情,乘客無權(quán)干預(yù)此決定,制造商已經(jīng)做出了道德選擇。

在法國的中國乘客上車時可能會面臨道德難題。乘客可能會更加猶豫,因?yàn)樗麄冎�道與行人相比,自己的生活將受到較低的重視。一種建議是,如果出現(xiàn)這種情況,則將控制權(quán)提供給駕駛員。但是,有研究表明,大多數(shù)人根本無法做出足夠迅速的反應(yīng)來做出這樣的決定,因此這不是可行的方法。所有這些考慮都引出了一個問題,人類是否愿意讓計算機(jī)做出生死攸關(guān)的決定?

但是,考慮到自動駕駛汽車的實(shí)際工作方式,決策可能不會那么簡單,而只是做出選擇并繼續(xù)前進(jìn)。決策過程是連續(xù)的,就像從所有傳感器了解周圍環(huán)境和車輛當(dāng)前狀態(tài)的過程一樣。在自動駕駛汽車的計算機(jī)大腦中,權(quán)重賦予了某些概率,并根據(jù)這些概率采取后續(xù)行動。

例如,看似純白色的表面可以解釋為霧墻,實(shí)際上可能是水泥墻或卡車的后部。對功能性質(zhì)進(jìn)行的任何判斷都可能隨時隨地更改。這通知了車輛做出的決定。因此,將道德考慮因素真正納入自動駕駛汽車的編程是一項(xiàng)非常細(xì)微的工作。車輛可能不得不在沒有完整的周圍環(huán)境信息的情況下做出決定,這受到車載傳感系統(tǒng)的限制。