一個(gè)細(xì)思極恐的問題，機(jī)器需要考慮倫理道德嗎？

 

今年3月份，Uber發(fā)生了全世界第一宗完全自動(dòng)駕駛汽車致死事故，當(dāng)時(shí)眾多結(jié)論認(rèn)為，是Uber無人車沒有開啟行人監(jiān)測系統(tǒng)，換句話說，這是一起由硬件引發(fā)的車禍，但如今結(jié)果似乎有所反轉(zhuǎn)。

 

 

相互甩鍋，真相依然撲朔迷離

 

據(jù)美國科技新聞網(wǎng)站The Information 5月7日消息，Uber公司基本查明了事故原因，兩位消息人士透露，在這名女性橫穿馬路時(shí)，Uber無人車（改裝自沃爾沃XC90）的傳感器已經(jīng)探測到了她，不過Uber的自動(dòng)駕駛軟件判斷認(rèn)為，系統(tǒng)無需對(duì)這位女性采取避讓措施。

因?yàn)楣雀柘档腤aymo和通用汽車的Cruise常常稍有威脅就會(huì)急剎，而Uber的系統(tǒng)調(diào)整了判斷策略，會(huì)忽略“誤報(bào)”或其他不會(huì)成為問題的東西，比如路上漂浮的塑料袋等，而事發(fā)時(shí)這位女子手里好像確實(shí)拎著塑料袋……

 

 

也就是說，事故罪魁禍?zhǔn)资擒浖到y(tǒng)而不是各種傳感器、攝像頭在內(nèi)的硬件系統(tǒng)。

 

我不知道是不是硬件方和軟件方在相互甩鍋，還是Uber為了給自己“技術(shù)不行”的傳聞洗白，畢竟檢測不到行人和能檢測到完全是兩個(gè)概念，后者只能說明大家對(duì)“安全文化”的理念不同（車禍發(fā)生后，有美國媒體指責(zé)說Uber自動(dòng)駕駛汽車項(xiàng)目過去的負(fù)責(zé)人將發(fā)展速度放在第一位，安全是其次），而技術(shù)是沒問題的。

 

 

但真相總歸依然是撲朔迷離，或許與Uber共同調(diào)查的美國國家安全運(yùn)輸委員會(huì)（NTSB）稍后出具的調(diào)查報(bào)告會(huì)更詳細(xì)些。

 

細(xì)思極恐，機(jī)器能決定人的生命了？

 

如果真的是軟件判斷覺得無需為行人違規(guī)買單，那么這件事就真的細(xì)思極恐了，因?yàn)闄C(jī)器已經(jīng)開始決定人的生命了。

 

在人工智能機(jī)器人的發(fā)展過程中，都要求把保護(hù)生命作為第一原則，其實(shí)在自動(dòng)駕駛汽車發(fā)展上也是如此，德國道德倫理委員會(huì)在2017年頒布的指導(dǎo)原則就規(guī)定了自動(dòng)駕駛車輛對(duì)保護(hù)對(duì)象的優(yōu)先等級(jí)：

人類生命＞動(dòng)物生命＞財(cái)產(chǎn)損失。

 

 

機(jī)器倫理，拯救誰又該犧牲誰？

 

但問題時(shí)，如果同等級(jí)的生命受到威脅怎么辦？這里又牽涉出倫理問題。

 

比如自動(dòng)駕駛車輛過來時(shí)兩個(gè)人同時(shí)過馬路，兩個(gè)中只能避開一個(gè)怎么選？是不是充了會(huì)員就有優(yōu)先被保護(hù)權(quán)？

 

再或者有10個(gè)人在違規(guī)橫穿馬路，旁邊有1位行人遵守交通規(guī)則走在非機(jī)動(dòng)車道上，當(dāng)自動(dòng)駕駛車輛遇到無法避免的碰撞，是選擇讓10個(gè)違規(guī)的行人為生命買單還是選擇撞向這1個(gè)人？

 

 

如果機(jī)器以保護(hù)人類生命為第一原則，那么很有可能選擇撞上這1個(gè)人拯救其它10個(gè)人，但對(duì)于這個(gè)路人來說，又是何其無辜。

 

可能有人覺得，這樣做沒錯(cuò)，犧牲少數(shù)挽救多數(shù)不是更符合倫理道德規(guī)范嗎？

 

那么如果有一天，你乘坐一輛無人駕駛車走在一邊懸崖一邊陡壁的彎道上，前面突然出現(xiàn)一群騎行客，事故傷亡無法避免時(shí)，你猜你的自動(dòng)駕駛汽車會(huì)不會(huì)帶著你一起跳崖？

 

 

好在這次車禍后，包括Uber在內(nèi)的多家自動(dòng)駕駛汽車研發(fā)公司都暫停了路測，這次嚴(yán)重車禍將促使研發(fā)企業(yè)更加重視無人車的安全性，在我看來，尊重生命遠(yuǎn)比發(fā)展科技重要。