人工智能科學(xué)家本·格策爾認(rèn)為“定義一套倫理原則、把它作為機(jī)器倫理的核心路線，恐怕毫無希望?！?/p>

2017年7月德國提出了全世界首個自動駕駛汽車倫理準(zhǔn)則，一共20條，嘗試通過倫理準(zhǔn)則來約束制造商。核心的原則包括：其一，優(yōu)先保護(hù)人類，犧牲動物或者其他財產(chǎn)都是允許的；其二，道德困境之下的決策依賴于現(xiàn)實(shí)的具體情況，不其二，道德困境之下的決策依賴于現(xiàn)實(shí)的具體情況，不可能被清楚地標(biāo)準(zhǔn)化，因此也不可能被事先編程；其三，在事故不可避免時，禁止基于年齡、性別、生理或心理狀況等進(jìn)行歧視；其四，把選擇權(quán)留給人類。此外，德國還強(qiáng)調(diào)通過技術(shù)防范倫理困境，包括事先制定防范倫理風(fēng)險的策略、保障公眾的知情權(quán)、對已交付的系統(tǒng)進(jìn)行監(jiān)督、改進(jìn)等。與之相反，美國交通部2016年將倫理問題作為自動駕駛汽車15項安全評估標(biāo)準(zhǔn)之后，2017年卻將其從中刪除。

給機(jī)器提倫理問題，是不可能有答案的，其實(shí)根本上還是人與智能機(jī)器的倫理問題，需要廠家在軟件中設(shè)置一些規(guī)定條件。

不久前，德國聯(lián)邦參議院通過了首個自動駕駛相關(guān)法律，允許自動駕駛在特定條件下代替人類駕駛。法律要求，如果是在人類駕駛的情況下發(fā)生事故，由駕駛員承擔(dān)交通事故責(zé)任；如果是自動駕駛系統(tǒng)原因引發(fā)的事故，則由汽車制造商承擔(dān)責(zé)任。因高度或全自動化汽車的系統(tǒng)故障而導(dǎo)致事故中的人員傷亡，受害者可獲得的最高損害賠償額將升至一千萬歐元，比目前適用的駕駛事故最高賠償額高出了一倍。

從表面上看法律的界定是很明確了，但是L3存在人工駕駛與自動駕駛模式切換的問題，而這種切換可能存在延遲（不光人有延遲，汽車也會有延遲，比如Waymo在亞利桑那州鳳凰城推出的商用自動駕駛出租車服務(wù)中，有時車輛會在左轉(zhuǎn)彎時“猶豫不決”），如果恰好在切換的那幾秒鐘發(fā)生事故，那么權(quán)責(zé)就難以準(zhǔn)確界定。

德國自動駕駛車輛法律規(guī)定，所有自動駕駛汽車都必須安裝類似飛機(jī)上“黑匣子”的裝置，用于記錄相關(guān)系統(tǒng)運(yùn)行，以及人工介入操控和人工駕駛等不同階段的詳細(xì)情況。通過“黑匣子”的輔助可以查明，如果事故發(fā)生在人工駕駛過程中，則相關(guān)責(zé)任由駕駛員承擔(dān)。如果事故是自動駕駛系統(tǒng)失靈等原因所致，則需要自動駕駛汽車制造商來承擔(dān)責(zé)任。

這部法律還規(guī)定，自動駕駛汽車駕駛位置必須有司機(jī)、必須保留方向盤、油門和剎車等配置，這樣可保證駕駛者能隨時介入人工駕駛，也是自動駕駛系統(tǒng)出現(xiàn)故障情況時的必要防范措施。對于未來自動駕駛汽車進(jìn)入第 4 級和第 5 級而言，這種規(guī)定非常必要。

德國的立法還是把在L3級別功能啟動的情況下，駕駛員義務(wù)絲毫沒有改變，要時刻保持清醒，這比開一輛傳統(tǒng)汽車要求還要高。日本也采用這個思路，通過法律法規(guī)告訴所有的消費(fèi)者，你的駕駛義務(wù)絲毫沒有改變。

美國則要求廠家對消費(fèi)者進(jìn)行充分的教育，使其了解自動駕駛功能的使用方法。

一般認(rèn)為，至少在汽車實(shí)現(xiàn)自動駕駛的初期，大多數(shù)用戶將是有執(zhí)照的司機(jī)。比如第一個允許自動駕駛汽車進(jìn)行路測的內(nèi)華達(dá)州規(guī)定，以自動駕駛模式操控自動駕駛汽車的人必須持有該州獲得“G”簽證的駕照，確認(rèn)自己一向遵守交通規(guī)則和其他法律，并根據(jù)州機(jī)動車管理署的要求向該部門提交這些相關(guān)信息。

而加州要求所有自動駕駛汽車的駕駛座上必須始終乘坐一名擁有駕照的人士，并要求汽車在設(shè)計方面必須擁有方向盤、油門踏板、制動踏板等傳統(tǒng)機(jī)動車具備的基本操控裝置，以便具有駕駛資質(zhì)的人在自動駕駛汽車失靈時可隨時接管汽車的操作。