第二天上課，隋老師讨論一個嚴肅的話題《“電車難題”是無人駕駛的絆腳石？》

隋老師道：

“說起無人駕駛，許多人就會不自覺的聯想到上世紀年代誕生的經典電車難題。

這個倫/理學領域最爲知名的思想實驗，正在成爲整個行業不斷前進的絆腳石。

因此，現在我們是不是該向前看，把這個問題徹底翻篇，不要再用這一道德問題來拷問無人駕駛汽車了呢？”

說完，隋老師微微一笑，看向大家。

王磊同學忽然問：“隋老師，電車難題是什麽呀？”

一些同學點頭，覺得王磊這個問題問得好，問到了心坎兒上。

隋老師說：

“1967年，英國哲學家菲利帕富特首次提出‘電車難題’。

一輛有軌電車失去了控制，司機看見前方的軌道上有五個人。

司機可以任憑電車繼續前行，這樣，這五個人一定都會被撞死；司機也可以将電車轉向，開到一條岔路上，而這樣隻會撞死另一個人。

那麽，司機是否應當把電車開到人少的軌道上，撞死一個人，而不是五個人呢？

1985年，米國哲學家湯姆森将這個問題作了進一步展開。

這一次，是你親眼看見一輛失去控制的電車沿着軌道疾馳而去，而你則站在一個道岔開關的旁邊。

你可以無動于衷，任憑電車繼續前行，撞死那五個人；或者你也可以扳動道岔，将電車引至側線，隻撞死另外的那個人。

這裏的新條件是：和電車司機不同，你并沒有在兩條軌道之間作出選擇的職業責任。

你會如何選擇？

值得一提的是，這不僅僅是個哲學難題，湯姆森的假設，在後來的米國，真實的上演了這一幕，我想如果有上帝，上帝一定是個有點惡趣味的家夥。

案件裏，站在道岔口的人選擇了撥動道岔，5個人得救了。許多人對她的選擇表示贊同。

事實上，這道題，多數人會選擇撞死一個人。因爲如此選擇的人們會說很簡單，做做數學，爲了最多數人的幸福。”

同學們紛紛點頭。

哦，這就是電車難題喲！的确有些難！

隋老師繼續說：

“如果以電車難題爲基礎來一次發散思維，你确實能得到大量難以解答的問題。

比如，無人駕駛汽車應該爲了保行人而放棄駕駛員嗎？

那麽事故當頭，老人和年輕人誰更應該做出犧牲？

如果車輛能獲知附近駕駛員的信息，在車輛失控前它是否應該根據這些信息進行選擇性的碰撞？

事實上，電車難題在無人駕駛圈已經是個繞不開的話題，麻省理工的工程師甚至專門衆籌了一個‘道德機器’，旨在編寫一個意見目錄，以解決未來機器人在特定情況下該作何反應的問題。

不過，幾十年來都沒有答案的電車難題，其實本身就有個漏洞。”

隋老師停頓下來，然後問：“你們知道是什麽漏洞嗎？”

劉軍民舉手說：“編程的人，一定帶有傾向性啊，他們的傾向，就是到的漏洞！”

劉俊豪舉手補充：“工程師們衆籌的道德機器，彙聚了大家的道德，也不能取得道德一緻性吧？”

隋老師道：

“你們的回答都有一些道理。

實際上，在爲機器人設定道德條件時，電車難題這個思想實驗根本不及格。

如果硬要把它套進這一領域，特别是在制定政策、引導設計或回答一些人們關心的問題時，肯定會導緻一些有關機器倫/理的危險且不完整的結論。

我們千萬别讓功利主義蒙了眼睛。

‘電車難題’1967　年誕生時，哲學家菲利帕富特探讨的是人的打算與他們預見的不同。

當時富特拿堕胎打了一個比方，如果産婦難産，是摘掉産婦的子宮放手一搏來救孩子（屬于‘預見’的範疇，成了皆大歡喜，失敗了就一屍兩命），還是直接結束孩子的生命（屬于‘打算’的範疇）來救産婦一命呢？

同樣都是面對産婦難産，不同的處理方式會帶來不同的道德結論。

富特當時還引申出了許多類似的情況，其中之一就與有軌電車司機有關。

另外一個則屬于法官面對的難題，她設想如果法官不判處一位無辜群衆的死刑，暴徒就威脅要沖擊法庭。

第二個設想就與電車難題類似，法官要做出選擇，到底是爲了正義犧牲多數人的生命，還是爲了多數人的利益犧牲無辜者。

經過一番研究，富特在論文中表示：‘大多數選擇犧牲扳道員來拯救更多生命的人，如果碰上法官歪曲黑白剝奪無辜者生命時也會感到震驚。’

于是，她總結稱，一個人做什麽和一個人允許什麽之間是有差别的，因此避免傷害和帶來幫助之間的差别非常重要。

富特的論文雖然簡短，但給現在的讀者提供了一個全新的視角來看待無人駕駛汽車遇到的道德困境，而不是鑽進‘電車難題’的牛角尖裏爬不出來。

從某種程度上來說，這是因爲富特遵循了大家所熟知的美德倫/理（來自古希臘亞裏士多德）。

大家熟知的美德倫/理是什麽呢？”

鄧民中舉手道：“利他主義！”

隋老師鼓勵大家繼續舉手回答。

榮顔同學舉手回答：“人生而平等！”

隋老師笑着問：“還有哪個同學回答嗎？”

同學們都不在舉手。

隋老師說：

“剛才鄧民中、榮顔同學回答得不夠準确。

美德倫/理，是指一個人的道德水平甚至可以和生命劃等号！

不過，在讨論無人駕駛汽車時，大多數人會自動忽略美德倫/理，他們更重視無人駕駛汽車帶來的最終結果。

在道德哲學裏，這樣的方式是與美德倫/理截然不同的，它的學名叫做結果論，而結果論中有個著名的分支功利主義。

也就是說，秉承這種理論的人在做事前會首先考慮自己行爲可能導緻的後果。

眼下，功利主義已經成了無人駕駛汽車修辭學中根深蒂固的思想，而在宣傳時大家總是會提到無人駕駛汽車帶來的全方位安全防護。

鑒于米國　2006　年因車禍喪生的人高達　37　萬名且有　94都是司機犯錯，因此用可靠的機器人替換容易犯錯的人類成了一件有百利而無一害的大好事。

不過問題是，隻關注結果會讓盲目的人們忘記原來無人駕駛汽車也有缺點。

就像富特提出的電車司機與法官的案例在道德上不能類比一樣，無人駕駛汽車在相同情況下可能也會造成不同的道德、法律和公民後果。”