【轉載】自動駕駛車有天可能會選擇把你給殺死

usthk · 發表於 2015-11-15 21:07:37

本帖最後由 usthk 於 2015-11-15 21:08 編輯

【轉載】
以後的自動駕駛車有天可能會選擇把你給殺死，而且最可怕的是：你會很同意它的決定！

有看過哈佛大學教授《正義：一場思辨之旅》這本書或看過他的那堂課的人都知道人生抉擇真的沒我們想像中簡單，很多時候我們會被逼迫在人性與正確選擇之間做出二選一的困難決定！

而今天隨著科技進步，有了自動駕駛的車子，我們也面臨了一個預設問題：要是今天遇到了一場無可避免的車禍，自動駕駛車會選擇犧牲駕駛的性命來救其他路上10個人的性命呢，還是它會做出完全相反的抉擇？

一群由經濟學院Toulouse School of Economics的Jean-Francois Bonnefon領導的研究人員深信這樣的情況確實是無法避免的，而自動駕駛車將做出的決定也將有十分深遠的重要涵義。

在他們於科學刊物Arxiv發表的論文中寫說：「要定義出引導自動駕駛運輸工具面對道德問題的演演算法實在是個很大的挑戰。我們認為要設計出這樣符合道德觀的演演算法，製造商與監管機構就必須依賴心理學家把實驗性倫理觀運用在自動駕駛運輸工具及不可避免之傷害狀況上。」

為此，有好幾百人就在亞馬遜網站的線上群眾外包工具Mechanical Turk中幫忙回答問捲上的道德問題。問卷基本上問了他們，如果今天有一輛自動駕駛車無可避免地會撞上路邊的10個人 (撞上他們，駕駛就有辦法安然存活)，但選擇轉向的話就會殺死駕駛，救了這10個人，試問大家到底會做出怎麼樣的選擇。

最後統計結果顯示，大部分人都選擇犧牲駕駛者來救那10個路人！然而，他們做出這樣的選擇也多是在自己並非親自坐在那輛自動駕駛車中的駕駛人時，才會選擇犧牲1人救10人！同時，75%的調查物件都同意車子要轉向犧牲駕駛才是道德的作法，但卻只有65%的人認為車子到時候生產時會真的按照這個理念去設計抉擇系統。

研究員在調查中也遇到了更多問題：「如果製造商提供不同的道德演演算法選項給客人選擇，顧客在確定自己購買商品特色的情況下，要是出了人命、有人傷亡到底又該由誰負責演演算法最後做出的抉擇呢？」

研究員繼續說：「在現代社會中，要想出該如何打造出有道德觀的自動駕駛運輸工具是大家目前面對最困難的挑戰之一。所以，在我們要提供給好幾百萬個顧客自動駕駛車的最新科技以前，最急迫的問題還是要解決相關的道德議題！」

來源：IFL Science

對於自動駕駛車的模樣與功能還很好奇嗎？那就來看看賓士公佈的無人駕駛車模型吧！

ilovephoto · 發表於 2015-11-15 21:13:14

提示: 作者被禁止或刪除內容自動屏蔽

gc63hk · 發表於 2015-11-15 21:24:11

usthk 發表於 2015-11-15 21:07
【轉載】
以後的自動駕駛車有天可能會選擇把你給殺死，而且最可怕的是：你會很同意它的決定！

其實車子應該很早會計算出可能撞車的話，為甚麼不能老遠就煞車呢？如果是有後來的車會跟上來的話，那麼後來的車不是也有這種智能裝置去避免撞車而採取相應措施嗎？唯一說是被後來的車上人員追逐吧！那時候我想也應該關閉車子的全自動系統，就要讓車主取回主動權，這時車子只是把週邊的路面狀況報告和預算可能的碰撞點，讓車主把握資訊吧。就像星球大戰的戰機，唯然有很多資訊，但是還是要靠機師本身的操控技術了！

hung720 · 發表於 2015-11-16 02:37:10

gc63hk 發表於 2015-11-15 15:24
其實車子應該很早會計算出可能撞車的話，為甚麼不能老遠就煞車呢？如果是有後來的車會跟上來的話，那麼後 ...

it was a philosophical workshop, hypothetically, an auto-piloted car will have to make a decision between hitting a car and a live-being; so they were merely discussing the scenario and trying to find a morally justifiable answer for the program
just like I-Robot; the android saved a grown man with more mathematical chance of survival. yes, everyone believes we should try the child first. but trying to save the little girl will have more chance losing both than saving at least one. we human like to take chances, but a programmed robot is nothing beyond logic. and logic here says better saving one than feel sorry for losing two...

in contrast, quite a number of truck drivers (or stupid drivers, per se) have no problem hitting whatever comes in their way... just look at all the accidents...