要拉下操縱桿,讓電車轉向另一條軌道嗎? 電車問題 (英語:Trolley problem ),是一個倫理學 的思想實驗 。英國哲學家菲利帕·福特 ,在1967年中首次提出這個問題[ 1] 。在1996年,朱迪斯·賈維斯·湯姆遜 [ 2] [ 3] 、弗朗西斯·卡姆 ( 英語 : Frances Kamm ) [ 4] 、彼得·昂格爾 ( 英語 : Peter Unger ) [ 5] 等人廣泛地分析了這類問題,使這個問題為人熟知。在哲學 與倫理學的領域外,心理學 、認知科學 與神經倫理學 ( 英語 : Neuroethics ) 的部分研究也涉及此問題。
其大致內容為:一輛失控的列車在鐵軌上行駛。在列車正行進的軌道上,有五個人被綁起來,無法動彈。列車將要碾壓過他們。你站在改變列車軌道的操縱杆旁。如果拉動此杆,則列車將切換到另一條軌道上。但是,另一條軌道上也有一個人被綁着。你有兩種選擇:
什麼也不做,讓列車按照正常路線碾壓過這五個人。 拉下操縱杆,改變為另一條軌道,使列車壓過另一條軌道上的那一個人。 從2001年開始,列車問題及其變體已廣泛用於道德心理學 的研究。列車問題也已成為熱門書籍的主題[ 6] 。在討論自動駕駛汽車 設計的道德規範時也有與列車問題類似的問題:在不可避免的汽車碰撞中,自動駕駛程式 如何選擇前進方向或碰撞的目標[ 7] 。
早期問題的提出早於菲利帕·福特的出版。弗蘭克·查普曼·夏普 ( 英語 : Frank Chapman Sharp ) 於1905年在向威斯康星大學 的學生發放的道德問卷中就包括了一個版本。在這種問題中,鐵路的轉轍員 控制了鐵軌的轉換,但生命受到威脅(或被拯救)的則只是轉轍員的孩子[ 8] [ 9] 。德國法律哲學家卡爾·恩吉施 在1930年的特許任教資格 論文 中討論了類似的問題,德國法律學者漢斯·韋爾澤爾 ( 德語 : Hans Welzel ) 在1951年的著作中也討論了類似問題[ 10] [ 11] 。阿夫羅霍姆·葉沙耶·卡里茲 ( 英語 : Avrohom Yeshaya Karelitz ) 在他對《塔木德 》的評論中討論了一個類似的問題:將一枚原本要投往一個人數較大的人群的導彈轉向到人數較小的人群是否合乎道德[ 12] ?
菲利帕·福特提出的原始問題如下:
假設一個法官 或裁判官 ,面對暴徒的威脅,要求將某個人視為一宗罪行的罪魁禍首,判他有罪,暴徒威脅,若不這麼做,他們將會對這個社區的某個區域,進行自己的血腥復仇。這個人是否應該為此負責還不曉得,但是這個法官發現,要避免流血,唯一的方法,就是捏造證據,讓這個人被判死刑。在這個例子之外,我們還可以舉出另一個例子,一架飛機 正在駕駛中,突然發現飛機即將要墜機,飛行員 必須決定,要不要躲開一個比較多人居住的區域,讓飛機撞進一個比較少人居住的地方。為了使這種類比儘可能接近實際情況,我們不妨設想一位列車長正駕駛一輛電車,他面對兩個軌道,只能決定走其中之一;有五個人在其中一條軌道上工作,在另一條軌道上只有一個人;電車行駛的軌道上,如果有任何人,都會注定被殺。在前述暴徒的例子中,暴徒有五個人質,所以,在這兩個例子中,都是一個人的生命,跟五個人的生命之間的交換。[ 1]
一個功利主義 的觀點稱,只需改變到只有一個人的軌道就可以解決該問題。根據古典功利主義,這樣的決定不僅是被允許的,而且從道德上講,是最好的選擇(另一個選擇是根本不採取任何行動)[ 13] 。
有軌電車問題的本體及四個變體:1.原始問題、2.胖子、3.胖壞蛋、4.二次變軌、5.院子裡的人 此道德兩難 問題涉及人對群體利益和個體利益之間的取捨。此難題可以變化,如一條岔道有一人,另外一條可以改成更多人或更少人,人數對利益取捨的關係。這個思想實驗主要想探討功利主義 與源自康德主義 的道德義務論見解。任何的假設題目,都必須有前題假設,作出此決定前,可以假設你完全不認識這即將面對死亡的幾人,不知道性別、年齡、職業、財富,亦不了解其可能對社會地位和貢獻。甚至是人數。
你站在天橋上,看到有一台剎車損壞的電車。在軌道前方,有五個正在工作的人,他們不知曉電車向他們衝來。一個體重很重的路人,正站在你身邊,你發現他的巨大體形與重量,正好可以擋住電車,讓電車出軌,不致於撞上那五個工人。你是否應該動手,把這個很胖的路人從天橋上推落阻擋電車,以拯救那五個工人,還是應該坐視電車撞上那五個工人?
關於這一行動方針的反對似乎很強烈;當被同時問及原始問題與此變體問題時,大多數人會贊成拉動操縱杆挽救五條生命,但不贊成推胖子去挽救工人。[ 14] 這導致研究者試圖在兩個問題之間找到道德方面的區分。
一個明顯的區別是,在原始問題下,無意對任何人造成傷害——被殺死的那一個人只是將操縱杆拉開的副作用 。但是,在第二種問題下,傷害一個胖子是挽救這五個工人的計劃的一個組成部分。謝利·卡根 在他的第一本書《道德的極限》中討論並最終拒絕了這一論點[ 15] 。
可以斷言,這兩種問題之間的區別在於,在第二種問題下,被提問者希望通過某人的死亡來拯救這五個人,而在第一種問題下,他們沒有這種意圖。這種解決方案本質上是雙重效應學說 的一種應用,這種學說認為一個人可能會採取具有不良副作用的行動,但是認為故意造成傷害(即使是出於充分的原因)也是錯誤的。
這個例子的是將「胖子」這個例子進一步發展到涉及到這樣一個情況:胖子實際上是使這五個人陷入危險的惡棍。在這種情況下,將惡棍逼死,特別是能夠拯救五個無辜的人,不僅在道義上是合理的,而且甚至勢在必行。這本質上與另一種思想實驗有關,稱為定時炸彈 情景,該情景迫使人們在涉及到兩種道德問題的行為之間進行選擇。
如果說使用一個人的死亡來拯救五個人的生命是錯誤的,這會導致類似這樣的變體問題:
和以前一樣,列車沿着一條鐵軌駛向五個人,可以轉向到第二條鐵軌上。但是,在此變體中,列車在轉向的隨後又重新變軌至主要軌道,因此列車仍在通往5個人的軌道上行駛。但是,第二條軌道上的人是個胖子,當他被列車殺死時,將阻止其繼續行駛到有五個人的鐵軌上。你應該撥動開關嗎?
唯一的物理區別是增加了一條可以併入主要軌道(第一條軌道)的鐵軌。這似乎很瑣碎,因為無論採取何種選擇,實際上列車都不會沿着它行進(在選擇殺死胖子時,列車會因胖子而停止。在選擇殺死五個人時,列車則根本不會變軌。)。這可能會影響某人的決定的原因是,在這種情況下,一個人的死亡實際上是拯救這五個人的計劃的一部分。
邁克爾·J·科斯塔 (Michael J. Costa)在1987年的文章《電車的另一次旅行》中曾提出過關於這一問題的意見,他在書中指出,如果我們在這種情況下不採取行動,我們將允許這五個人成為拯救一個人的一種手段。
這個問題用另外的一個例子代替了列車。但與原始問題的人數與結果大致相同,但沒有一輛列車。由朱迪思·賈維斯·湯姆森 ( 英語 : Judith Jarvis Thomson ) 提出[ 3] :
一位出色的外科 移植 醫師有五名患者,每個患者都需要不同的器官,而每個人都將在沒有該器官的情況下死亡。不幸的是,這五種移植手術中沒有可用的器官。一個健康的年輕旅行者,剛穿過醫生工作的城市,便進行了例行檢查。在做檢查的過程中,醫生發現他的五個器官分別與他所有五名垂死的病人都兼容。進一步假設如果這個年輕人失蹤了,沒有人會懷疑醫生。你是否支持醫生殺死該遊客,將其健康的器官提供給這五個垂死的人們並挽救他們的生命?
彼得·昂格爾非常反對傳統的非功利主義對有軌電車問題的回應。這是他所舉出的例子之一:
像以前一樣,列車正在駛向五個人。但是你可以通過與另一輛列車相撞來轉移它的路徑,但是如果這樣做,兩者都會脫軌並滑下山坡,掉進一個院子,院子裡吊床上睡着一個人。他會被殺死。你應該這樣做嗎?
對此的響應部分取決於讀者是否在回答該問題前已經回答了標準的列車問題(因為希望保持自己的回答一致),昂格指出,以前從未遇到過此類問題的人很可能會說,在這種情況下,採取傷害院子裡的人的措施將是錯誤的。
因此,昂格爾認為,對這類問題的不同回應更多地基於心理學而不是倫理學。在這種新情況下,他說,唯一重要的區別是院子裡的人似乎並沒有特別「參與」。昂格聲稱人們因此認為有這個人存在使問題不是「公平遊戲」,但是他說,這個院子裡的人的缺乏參與不會產生道德層面上的改變[ 5] 。
這個思想實驗主要想探討功利主義 與源自康德主義 的道德義務論見解。
從功利主義 角度看,為追求對最大多數人來說的最大效益,應該犧牲少數人來拯救多數人。因此,在上述兩個版本的思想實驗中,都應該要犧牲一個人,來拯救五個人。
從康德主義 角度看,道德應該建立在必要的義務責任上。如果不可以殺人是一種道德義務,就不可以在上述兩個版本的思想實驗中動手讓一個人犧牲,即使這個行為的後果是犧牲五個人。
2001年,約書亞·格林 及其同事發表了有關人們對電車問題的抉擇的首次重要實證研究結果[ 16] 。通過使用功能性磁共振成像 ,他們證明「個人」困境(例如將人推下人行橋)優先由與情感相關的大腦區域,而「非個人」困境(例如通過翻轉開關使有軌電車轉向)優先由與推理相關的區域參與。基於這些理由,他們提倡雙重過程理論 ( 英語 : Dual process theory (moral psychology) ) 。從那以後,許多其他研究都採用了電車問題來研究道德判斷,調查壓力 的作用和影響等主題[ 17] ,例如情緒 狀態[ 18] ,印象 管理[ 19] ,匿名 的等級[ 20] ,不同類型的腦損傷 [ 21] ,生理覺醒 [ 22] ,不同的神經遞質 [ 23] ,遺傳 因素[ 24] 。
儘管電車問題已被廣泛用作衡量功利主義的手段,但它在此目的上的用途卻受到廣泛批評[ 25] [ 26] [ 27] 。
在2017年,由邁克爾·史蒂文斯 領導的小組進行了第一個實際的電車問題實驗,他們使受試者確信,如果不拉杆,火車將撞五人,如果拉,將撞一人。大多數參與者沒有拉操縱杆[ 28] 。
一個與電車問題近似的實際案例發生在2003年6月20日,一輛主要載有木材 和建築材料 的聯合太平洋鐵路貨運列車在一號鐵軌上失控衝向洛杉磯。如果失控列車駛入洛杉磯的聯合太平洋船廠,不僅會造成損壞,而且可能與當時被認為停於該地的一輛客運列車碰撞,調度員因而命令將失控列車換到第4軌,通過一個住房密度較低,主要是低收入居民的地區。切換到第4軌的安全速度為每小時15英里,而調度員知道火車的行駛速度明顯遠超安全速度,很可能導致脫軌[ 29] 。這列載有3800噸貨物的火車隨後出軌進入加利福尼亞州洛杉磯縣康墨斯城的居民區,撞上大街上的幾棟房屋。在其中一所房屋中睡着的一名孕婦 受傷,但設法通過窗戶逃脫,並沒有被掉落在她周圍的木材和鋼製火車輪砸傷。
電車問題一直是許多調查的主題,其中大約90%的受試者選擇殺死一人並保全另外五人[ 30] 。如果情況有所改變,為五人犧牲的一個人是親戚 或伴侶 ,則受訪者不太可能願意犧牲他們的生命[ 31] 。
大衛·布爾特 和戴維·查爾莫斯 在2013年聯合發表的論文中表示,在於2009年的電車問題測試中,有69.9%的專業哲學家會犧牲一個人以挽救五個人的生命。8%的人不會採取任何行動,其餘24%的人表示有其他觀點或無法回答[ 32] 。
在自動駕駛汽車 的軟件設計中出現了與電車問題類似的問題。[ 7] 可能發生這樣的情況:致命性碰撞似乎是不可避免的,但是汽車軟件做出的選擇(例如撞向誰或撞到什麼東西)會影響到後果。例如,該軟件是否應該比車外的受害者更多或更少地評估乘車者的安全。[ 33] [ 34] [ 35] [ 36] [ 37]
麻省理工學院媒體實驗室 創建了一個名為「道德機器 ( 英語 : Moral Machine ) 」的平台[ 38] ,使公眾可以就使用電車問題為模範的場景中對自動駕駛汽車應做出的決定發表意見。對通過道德機器收集的數據進行的分析表明,不同國家之間的相對偏好存在很大差異[ 39] 。其他的方法包括利用虛擬現實來評估實驗環境中的人類行為以進而研究[ 40] [ 41] [ 42] [ 43] 。但是,有些人認為對電車問題類似的案件進行調查對於解決無人駕駛汽車的道德問題是不必要的,因為電車問題具有嚴重的實際局限性。它必須是一個自上而下的計劃,以適應當前解決人工智能處於緊急情況的方法[ 44] 。
2016年,德國政府任命了一個委員會來研究自動駕駛的倫理意義[ 45] 。委員會通過了將在法律中執行的20條條例,這些條例將約束自動駕駛汽車將做出的道德抉擇。
在至少從1960年代中期開始就存在的都市傳說 中,被描述為是在現實生活中由一名吊橋管理員做出的,他被迫在犧牲一列車的旅客和犧牲他自己的四歲兒子之間做出選擇[ 46] 。
2003年捷克短片 《橋 ( 英語 : Most (2003 film) ) 》以一個類似電車問題的故事作為主題。
在2010年的電子遊戲《寓言3 ( 英語 : Fable III ) 》中,玩家做出的最早的道德選擇之一是不得不處決其兒時的情人或一群抗議者。如果在一定時間內沒有做出決定,國王會宣布玩家有五秒鐘的時間來決定他們的命運,否則兩邊都會死。
一些遊戲,例如《電車問題遊戲》[ 47] 、《電車難題》[ 48] 等已經從思想實驗脫離成了互動遊戲。
在《行屍走肉 》的第3季中,里克·格里姆斯(Rick Grimes)必須選擇將米瓊恩(Michonne)交給州長,或是冒險與伍德伯里(Woodbury)鎮作戰。如果格萊姆斯選擇前者,米瓊恩將面臨一定的酷刑和死亡。後者將意味着監獄中許多倖存者的死亡。
在2014年發表於《社會與人格心理學指南針》上的一篇論文中[ 25] ,研究人員批評了電車問題,並認為該問題所呈現的場景過於極端,與現實生活中的道德狀況無關,因此毫無意義[ 49] 。
2018年,在《心理評論》上發表的一篇文章中[ 26] ,研究人員指出,作為功利主義決策的量度,諸如電車問題之類的犧牲困境只能作為衡量原始功利主義傾向的一個方面,即對將人工具性損害的寬容態度,而忽略了公正性。因此,作者認為電車問題僅提供了部分衡量功利主義的手段。
^1.0 1.1 Philippa Foot, "The Problem of Abortion and the Doctrine of the Double Effect (頁面存檔備份 ,存於網際網路檔案館 )" inVirtues and Vices (Oxford: Basil Blackwell, 1978) (originally appeared in theOxford Review , Number 5, 1967.) ^ Judith Jarvis Thomson,Killing, Letting Die, and the Trolley Problem (頁面存檔備份 ,存於網際網路檔案館 ) , 59 The Monist 204-17 (1976) ^3.0 3.1 Judith Jarvis Thomson, "The Trolley Problem (頁面存檔備份 ,存於網際網路檔案館 )", 94Yale Law Journal 1395–1415 (1985) ^ Francis Myrna Kamm, "Harming Some to Save Others", 57Philosophical Studies 227-60 (1989) ^5.0 5.1 Peter Unger,Living High and Letting Die (Oxford: Oxford University Press, 1996) ^ Bakewell, Sarah.Clang Went the Trolley . The New York Times. 2013-11-22 [2020-04-11 ] . (原始內容存檔 於2020-12-17). ^7.0 7.1 Lim, Hazel Si Min; Taeihagh, Araz.Algorithmic Decision-Making in AVs: Understanding Ethical and Technical Concerns for Smart Cities . Sustainability. 2019,11 (20): 5791 [2020-04-11 ] .doi:10.3390/su11205791 . (原始內容存檔 於2019-12-25)(英語) . ^ Frank Chapman Sharp,A Study of the Influence of Custom on the Moral Judgment Bulletin of the University of Wisconsin no.236 (Madison, June 1908), 138. ^ Frank Chapman Sharp,Ethics (New York: The Century Co, 1928), 42-44, 122. ^ Engisch, Karl. Untersuchungen über Vorsatz und Fahrlässigkeit im Strafrecht. Berlinn: O. Liebermann. 1930: 288. ^ Hans Welzel,ZStW Zeitsdischrift für die gesamte Strafrechtswissenschaft 63 [1951], 47ff. ^ Hazon Ish, HM, Sanhedrin #25, s.v. "veyesh leayen". Available online,http://hebrewbooks.org/14332 (頁面存檔備份 ,存於網際網路檔案館 ), page 404 ^ Barcalow, Emmett,Moral Philosophy: Theories and Issues. Belmont, CA: Wadsworth, 2007. Print. ^ Peter Singer,Ethics and Intuitions The Journal of Ethics (2005).http://www.utilitarian.net/singer/by/200510--.pdf (頁面存檔備份 ,存於網際網路檔案館 ) ^ Shelly Kagan,The Limits of Morality (Oxford: Oxford University Press, 1989) ^ Greene, Joshua D.; Sommerville, R. Brian; Nystrom, Leigh E.; Darley, John M.; Cohen, Jonathan D. An fMRI Investigation of Emotional Engagement in Moral Judgment. Science. 2001-09-14,293 (5537): 2105–2108.Bibcode:2001Sci...293.2105G .ISSN 0036-8075 .PMID 11557895 .doi:10.1126/science.1062872 (英語) . ^ Youssef, Farid F.; Dookeeram, Karine; Basdeo, Vasant; Francis, Emmanuel; Doman, Mekaeel; Mamed, Danielle; Maloo, Stefan; Degannes, Joel; Dobo, Linda. Stress alters personal moral decision making. Psychoneuroendocrinology. 2012,37 (4): 491–498.PMID 21899956 .doi:10.1016/j.psyneuen.2011.07.017 . ^ Valdesolo, Piercarlo; DeSteno, David. Manipulations of Emotional Context Shape Moral Judgment. Psychological Science. 2006-06-01,17 (6): 476–477.ISSN 0956-7976 .PMID 16771796 .doi:10.1111/j.1467-9280.2006.01731.x (英語) . ^ Rom, Sarah C., Paul, Conway. The strategic moral self:self-presentation shapes moral dilemma judgments. Journal of Experimental Social Psychology. 2017-08-30,74 : 24–37.ISSN 0022-1031 .doi:10.1016/j.jesp.2017.08.003 (英語) . ^ Lee, Minwoo; Sul, Sunhae; Kim, Hackjin. Social observation increases deontological judgments in moral dilemmas. Evolution and Human Behavior. 2018-06-18,39 (6): 611–621.ISSN 1090-5138 .doi:10.1016/j.evolhumbehav.2018.06.004 . ^ Ciaramelli, Elisa; Muccioli, Michela; Làdavas, Elisabetta; Pellegrino, Giuseppe di.Selective deficit in personal moral judgment following damage to ventromedial prefrontal cortex . Social Cognitive and Affective Neuroscience. 2007-06-01,2 (2): 84–92 [2020-04-11 ] .ISSN 1749-5024 .PMC 2555449 .PMID 18985127 .doi:10.1093/scan/nsm001 . (原始內容存檔 於2020-01-22)(英語) . ^ Navarrete, C. David; McDonald, Melissa M.; Mott, Michael L.; Asher, Benjamin.Virtual morality: Emotion and action in a simulated three-dimensional "trolley problem". . Emotion. 2012-04-01,12 (2): 364–370 [2020-04-11 ] .ISSN 1931-1516 .PMID 22103331 .doi:10.1037/a0025561 . (原始內容存檔 於2016-04-09)(英語) . ^ Crockett, Molly J.; Clark, Luke; Hauser, Marc D.; Robbins, Trevor W.Serotonin selectively influences moral judgment and behavior through effects on harm aversion . Proceedings of the National Academy of Sciences. 2010-10-05,107 (40): 17433–17438.Bibcode:2010PNAS..10717433C .ISSN 0027-8424 .PMC 2951447 .PMID 20876101 .doi:10.1073/pnas.1009396107 (英語) . ^ Bernhard, Regan M.; Chaponis, Jonathan; Siburian, Richie; Gallagher, Patience; Ransohoff, Katherine; Wikler, Daniel; Perlis, Roy H.; Greene, Joshua D.Variation in the oxytocin receptor gene (OXTR) is associated with differences in moral judgment . Social Cognitive and Affective Neuroscience. 2016-12-01,11 (12): 1872–1881.ISSN 1749-5016 .PMC 5141955 .PMID 27497314 .doi:10.1093/scan/nsw103 (英語) . ^25.0 25.1 Bauman, Christopher W.; McGraw, A. Peter; Bartels, Daniel M.; Warren, Caleb.Revisiting External Validity: Concerns about Trolley Problems and Other Sacrificial Dilemmas in Moral Psychology . Social and Personality Psychology Compass. September 4, 2014,8 (9): 536–554 [2020-04-11 ] .doi:10.1111/spc3.12131 . (原始內容存檔 於2021-03-04). ^26.0 26.1 Kahane, Guy; Everett, Jim A. C.; Earp, Brian D.; Caviola, Lucius; Faber, Nadira S.; Crockett, Molly J.; Savulescu, Julian.Beyond sacrificial harm: A two-dimensional model of utilitarian psychology. . Psychological Review. March 2018,125 (2): 131–164.PMC 5900580 .PMID 29265854 .doi:10.1037/rev0000093 . ^ Kahane, Guy. Sidetracked by trolleys: Why sacrificial moral dilemmas tell us little (or nothing) about utilitarian judgment. Social Neuroscience. 20 March 2015,10 (5): 551–560.doi:10.1080/17470919.2015.1023400 . ^ The Greater Good - Mind Field S2 . [2020-04-11 ] . (原始內容存檔 於2019-04-30). ^ 存档副本 . [2020-04-11 ] . (原始內容存檔 於2021-03-23). ^ ' Trolley Problem': Virtual-Reality Test for Moral Dilemma – TIME.com . TIME.com. [2020-04-11 ] . (原始內容存檔 於2019-05-20). ^ Journal of Social, Evolutionary, and Cultural Psychology 網際網路檔案館 的存檔 ,存檔日期2012-04-11. –ISSN 1933-5377 – volume 4(3). 2010^ Bourget, David; Chalmers, David J.What do Philosophers believe? . 2013 [11 May 2013] . (原始內容存檔 於2019-04-29). ^ Patrick Lin.The Ethics of Autonomous Cars . The Atlantic. October 8, 2013 [2020-04-11 ] . (原始內容存檔 於2019-05-30). ^ Tim Worstall.When Should Your Driverless Car From Google Be Allowed To Kill You? . Forbes. June 18, 2014 [2020-04-11 ] . (原始內容存檔 於2019-03-30). ^ Jean-François Bonnefon; Azim Shariff; Iyad Rahwan. Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?. Science. October 13, 2015,352 (6293): 1573–1576.Bibcode:2016Sci...352.1573B .PMID 27339987 .arXiv:1510.03346 .doi:10.1126/science.aaf2654 . ^ Emerging Technology From the arXiv.Why Self-Driving Cars Must Be Programmed to Kill . MIT Technology review. October 22, 2015 [2020-04-11 ] . (原始內容存檔 於2016-01-26). ^ Bonnefon, Jean-François; Shariff, Azim; Rahwan, Iyad.The social dilemma of autonomous vehicles . Science. 2016,352 (6293): 1573–1576.Bibcode:2016Sci...352.1573B .PMID 27339987 .arXiv:1510.03346 .doi:10.1126/science.aaf2654 . ^ Moral Machine . [2021-12-26 ] . (原始內容存檔 於2018-09-27). ^ Awad, Edmond; Dsouza, Sohan; Kim, Richard; Schulz, Jonathan; Henrich, Joseph; Shariff, Azim; Bonnefon, Jean-François; Rahwan, Iyad. The Moral Machine experiment. Nature. October 24, 2018,563 (7729): 59–64.PMID 30356211 .doi:10.1038/s41586-018-0637-6 .hdl:10871/39187 . ^ Sütfeld, Leon R.; Gast, Richard; König, Peter; Pipa, Gordon.Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure . Frontiers in Behavioral Neuroscience. 2017,11 : 122.PMC 5496958 .PMID 28725188 .doi:10.3389/fnbeh.2017.00122 . ^ Skulmowski, Alexander; Bunge, Andreas; Kaspar, Kai; Pipa, Gordon.Forced-choice decision-making in modified trolley dilemma situations: a virtual reality and eye tracking study . Frontiers in Behavioral Neuroscience. December 16, 2014,8 : 426.PMC 4267265 .PMID 25565997 .doi:10.3389/fnbeh.2014.00426 . ^ Francis, Kathryn B.; Howard, Charles; Howard, Ian S.; Gummerum, Michaela; Ganis, Giorgio; Anderson, Grace; Terbeck, Sylvia.Virtual Morality: Transitioning from Moral Judgment to Moral Action? . PLOS ONE. October 10, 2016,11 (10): e0164374.Bibcode:2016PLoSO..1164374F .ISSN 1932-6203 .PMC 5056714 .PMID 27723826 .doi:10.1371/journal.pone.0164374 . ^ Patil, Indrajeet; Cogoni, Carlotta; Zangrando, Nicola; Chittaro, Luca; Silani, Giorgia. Affective basis of judgment-behavior discrepancy in virtual experiences of moral dilemmas. Social Neuroscience. January 2, 2014,9 (1): 94–107.ISSN 1747-0919 .PMID 24359489 .doi:10.1080/17470919.2013.870091 . ^ Himmelreich, Johannes. Never Mind the Trolley: The Ethics of Autonomous Vehicles in Mundane Situations. Ethical Theory and Moral Practice. June 1, 2018,21 (3): 669–684.ISSN 1572-8447 .doi:10.1007/s10677-018-9896-4 (英語) . ^ BMVI Commission.Bericht der Ethik-Kommission Automatisiertes und vernetztes Fahren . Federal Ministry of Transport and Digital Infrastructure (German: Bundesministerium für Verkehr und digitale Infrastruktur). June 20, 2016. (原始內容 存檔於November 15, 2017). ^ Barbara Mikkelson.The Drawbridge Keeper . Snopes.com. 27 February 2010 [20 April 2016] . ^ The Trolley Problem Game . Newfa Stuff. [2019-01-31 ] . (原始內容存檔 於2020-12-03)(美國英語) . ^ 電車難題 . [2020-10-17 ] . (原始內容存檔 於2021-01-25)(中文(臺灣)) . ^ Khazan, Olga.Is One of the Most Popular Psychology Experiments Worthless? .The Atlantic . July 24, 2014 [2020-04-11 ] . (原始內容存檔 於2017-11-17).