如果一輛無(wú)人駕駛車被設(shè)定為傾向于殺死本車乘客，你還愿意坐這輛車嗎？

近日，意大利博洛尼亞大學(xué)的團(tuán)隊(duì)開發(fā)了一個(gè)名為“道德表盤”的裝置，可以讓無(wú)人車的車主選擇自己的汽車道德設(shè)置：你可以設(shè)定為犧牲自己保全他人，也可以設(shè)定為自己的生命優(yōu)先。

無(wú)人車如何應(yīng)對(duì)道德困境，這是無(wú)人駕駛面臨的主要問(wèn)題之一。當(dāng)人類駕駛汽車時(shí)，本能就是對(duì)我們對(duì)危險(xiǎn)的反應(yīng)。當(dāng)致命的事故發(fā)生時(shí)，通常不會(huì)有什么責(zé)任糾紛。

但如果汽車要自動(dòng)駕駛，汽車就不能依賴司機(jī)的本能，而必須依靠代碼。這時(shí)候就很糟糕了。是誰(shuí)應(yīng)該為事故負(fù)責(zé)呢？軟件工程師、制造商還是車主？

人們對(duì)這個(gè)問(wèn)題的態(tài)度也很復(fù)雜。2015年的一項(xiàng)研究發(fā)現(xiàn)，大多數(shù)人認(rèn)為無(wú)人駕駛的汽車應(yīng)該是功利主義的，應(yīng)該盡量減少總體危害的數(shù)量，這可能意味著在某些情況下犧牲自己的乘客。但是，雖然人們?cè)瓌t上同意這一點(diǎn)，但他們也表示，他們決不會(huì)乘坐準(zhǔn)備殺死他們的汽車。

“充分利他”

意大利博洛尼亞大學(xué)的Guiseppe Contissa博士說(shuō)：“我們想探討，如果將控制權(quán)和汽車行為的責(zé)任歸咎于車主，會(huì)發(fā)生什么事情。他同時(shí)也提出了一個(gè)解決方案。

該團(tuán)隊(duì)設(shè)計(jì)了一個(gè)表盤，可以將汽車設(shè)置為從“完全利他主義”到“完全自我主義”中的任意道德維度，表盤的最中間則是“完全中立”。他們認(rèn)為，這種的道德手段不僅適用于無(wú)人車，也適用于自動(dòng)化程度越來(lái)越高的所有領(lǐng)域。

Contissa說(shuō)：“這個(gè)旋鈕可以讓無(wú)人車擁有車主本人的道德判斷。汽車將利用這些信息來(lái)計(jì)算它將執(zhí)行的行動(dòng)，充分考慮事故發(fā)生時(shí)乘客或他人受到傷害的可能性。”

公地悲劇

但這個(gè)想法有問(wèn)題。麻省理工學(xué)院媒體實(shí)驗(yàn)室的首席研究員埃德蒙·阿瓦德（Edmond Awad）說(shuō)：“如果人們對(duì)汽車所造成的相對(duì)風(fēng)險(xiǎn)進(jìn)行過(guò)多的控制，我們可能會(huì)遇到公地悲劇(Tragedy of the commons)，即每個(gè)人都選擇極端的自我保護(hù)模式。

另一個(gè)擔(dān)心是人們可能不愿承擔(dān)道德責(zé)任，因此根本不會(huì)有人愿意動(dòng)那個(gè)表盤。如果每個(gè)人都選擇“完全中立”，道德表盤就不會(huì)對(duì)現(xiàn)有的困境有所幫助。

Awad說(shuō)：“現(xiàn)在判定這個(gè)方案是好是壞還為時(shí)太早。”但他表示，新的想法總是好的。

期刊參考：Artificial Intelligence and Law