3月10日發(fā)生了震驚世界的空難，一架波音“737MAX-8”型客機(jī)從埃塞俄比亞飛往肯尼亞，起飛不久就墜毀，機(jī)組人員及乘客共157人全部遇難。

4月4日，空難調(diào)查初步報(bào)告稱：事發(fā)時(shí)，飛機(jī)性能良好，起飛時(shí)狀態(tài)正常，但隨后“反復(fù)出現(xiàn)不受控的機(jī)頭朝下?tīng)顩r”。飛行員遵循了所有正確的操作程序，多次根據(jù)波音的緊急情況應(yīng)對(duì)程序試圖操控飛機(jī)，但客機(jī)仍然失控。

埃塞交通部建議波音公司審查飛機(jī)控制系統(tǒng)。這實(shí)際上把事故的罪魁指向了波音飛機(jī)的控制系統(tǒng)。此次空難造成巨大的災(zāi)難，除了對(duì)遇難人員的賠償，波音公司還面臨737減產(chǎn)、在用飛機(jī)處理、航空公司停飛損失賠償?shù)纫幌盗袚p失。

此次空難也引發(fā)了對(duì)智能駕駛（自動(dòng)駕駛）的討論。

據(jù)報(bào)道，737 MAX 飛機(jī)的防失速系統(tǒng)（MCAS）程序在發(fā)現(xiàn)失速后，只相信主傳感器，不與備份傳感器核實(shí)，也不通知飛行員，直接操縱機(jī)翼。即使飛行員改為手動(dòng)操作后，該系統(tǒng)仍舊會(huì)每五秒自動(dòng)執(zhí)行，飛行員不得不與飛機(jī)“較勁”。業(yè)內(nèi)人士指出：“因?yàn)?37 MAX 飛機(jī)可能在計(jì)算機(jī)控制下執(zhí)行長(zhǎng)達(dá) 10 秒的非指令性低頭，單靠駕駛桿操作很難拉住。而如果飛行員并不清楚這一切，那么就可能變成飛機(jī)俯沖 - 人工向上配平 - 飛機(jī)繼續(xù)俯沖的搏斗，飛行員的勝算并不大?！?/p>

據(jù)說(shuō)本來(lái)一種“迎角指示器”可在一定程度上幫助飛行員發(fā)現(xiàn)糾正MCAS的錯(cuò)誤，但據(jù)美國(guó)媒體報(bào)道，印尼獅航與埃塞航空失事飛機(jī)上都沒(méi)有安裝這兩個(gè)重要的安全設(shè)備。因?yàn)椤坝侵甘酒鳌焙汀熬緹簟辈⒎菢?biāo)配，需要另外付錢，一些航空公司誤以為這兩個(gè)設(shè)備可有可無(wú)，所以選擇不買。

《解放軍報(bào)》的評(píng)論認(rèn)為：“機(jī)器權(quán)限不能超越人類控制，一旦出現(xiàn)人與機(jī)器的沖突，或智能系統(tǒng)之間的相互沖突，必須允許人能及時(shí)進(jìn)行干預(yù)、糾正或終止智能系統(tǒng)的行動(dòng)。如果多個(gè)智能系統(tǒng)相互沖突，必須將對(duì)人的信任度置于最頂層，必須交由人而非單個(gè)系統(tǒng)裁決沖突、解決矛盾；如果人與智能系統(tǒng)發(fā)生沖突，智能系統(tǒng)必須無(wú)條件服從人發(fā)出的指令。這樣，才能保證智能化系統(tǒng)的可信、可靠、可用，避免悲劇的發(fā)生?！碑?dāng)然，這里指的是智能作戰(zhàn)系統(tǒng)，殺人權(quán)要掌握在人的手中，這是沒(méi)有異議的。

但是，這樣的原則與汽車自動(dòng)駕駛的目標(biāo)是不一樣的。汽車自動(dòng)駕駛的目的，是盡量減少人為的干預(yù)，從而減少誤操作，避免事故發(fā)生。據(jù)麥肯錫一份報(bào)告稱，自動(dòng)駕駛汽車的全面普及可減少90%的交通事故，每年可減少1900億美元的損害賠償和醫(yī)療費(fèi)用，挽救成千上萬(wàn)人的生命。

2014年，國(guó)際汽車工程師協(xié)會(huì)（SAE）制訂了一套自動(dòng)駕駛汽車分級(jí)標(biāo)準(zhǔn)，從完全手動(dòng)駕駛到完全自動(dòng)駕駛，其對(duì)自動(dòng)化的描述分為5個(gè)等級(jí)。

按照一般的理解，從L0到L5是一個(gè)漸進(jìn)的過(guò)程，而且由于技術(shù)的限制，目前正處在L2向L3過(guò)渡的階段，但是前兩年福特、豐田、沃爾沃等車企卻紛紛表示，要跨越過(guò)L3級(jí)，直接升級(jí)到L4級(jí)自動(dòng)駕駛階段。

L3定義是：即便駕駛員不操作汽車，汽車也可以行駛。這表示L3既能完成某些駕駛?cè)蝿?wù)，也能在某些情況下監(jiān)控駕駛環(huán)境，但在這個(gè)等級(jí)下，要求駕駛員必須時(shí)刻保持警惕，隨時(shí)準(zhǔn)備取回車輛控制權(quán)。

有人認(rèn)為，L3本質(zhì)上是“一種無(wú)法定義為安全的系統(tǒng)”：可能是在技術(shù)上無(wú)法實(shí)現(xiàn)，或者在現(xiàn)實(shí)行駛狀態(tài)下無(wú)法判定是否“安全”。

現(xiàn)在看來(lái)，在自動(dòng)駕駛前三個(gè)分級(jí)中，人始終是車輛的駕駛主體；在L4級(jí)之后，駕駛主體發(fā)生徹底改變，由自動(dòng)駕駛系統(tǒng)完成所有的駕駛操作，駕駛者不必對(duì)系統(tǒng)請(qǐng)求做出應(yīng)答L5級(jí)則代表了完全自動(dòng)化駕駛。

最尷尬的是L3級(jí)：需要駕駛員隨時(shí)做好接管車輛的準(zhǔn)備，這就使駕駛過(guò)程增加了很多不確定因素。有專家認(rèn)為，L3級(jí)其實(shí)是一個(gè)“人機(jī)共駕”的過(guò)程?！半m然駕駛員可以撒手，但又要準(zhǔn)備隨時(shí)接管，也就是既希望駕駛員可以‘睜一只眼，閉一只眼’，同時(shí)又要求駕駛員全程隨時(shí)全神貫注，這本身就自相矛盾?！?/p>

除了技術(shù)上存在難點(diǎn)以外，車企對(duì)于L3級(jí)最大的顧慮就是切換的時(shí)間不好確定，因?yàn)槿吮旧沓錆M不確定性，不同的人反應(yīng)速度也不盡相同，究竟設(shè)置多長(zhǎng)時(shí)間給駕駛員進(jìn)行切換反應(yīng)，一直存在巨大的爭(zhēng)議，因此企業(yè)想要跳過(guò)這個(gè)階段也合乎情理。

1942年，阿西莫夫在短篇小說(shuō)《環(huán)舞》中首次提出了機(jī)器人三定律：

• 機(jī)器人不得傷害人類，或因不作為使人類受到傷害；

• 除非違背第一定律，機(jī)器人必須服從人類的命令；

• 除非違背第一及第二定律，機(jī)器人必須保護(hù)自己。

后來(lái)，阿西莫夫加入了一條新定律---第零定律：機(jī)器人不得傷害人類整體，或因不作為使人類整體受到傷害。

但是，如果機(jī)器人獲取的信息不完整，它們可能無(wú)意中打破定律。比如波音737MAX-8的空難……