在Isaac Asimov的科幻小說中有三條關(guān)于機器人安全定律，它們看似簡單明了，但情節(jié)的發(fā)展卻揭示了意想不到的復(fù)雜性。相關(guān)人員在制定自動駕駛汽車安全標(biāo)準(zhǔn)時也用類似的簡單語言表達了他們的目標(biāo)。目前有小組正在開發(fā)自動駕駛汽車如何與人類互動以及與他人互動的標(biāo)準(zhǔn)，然而他們面臨的現(xiàn)實世界問題比科幻小說要復(fù)雜得多。

自動駕駛汽車的倡導(dǎo)者們聲稱，把車交給AI駕駛，每年可以減少全球130萬人死于機動車。然而，自動駕駛也會殺人，這讓公眾變得謹(jǐn)慎起來。美國國家運輸安全委員會近期公布的文件稱，2018年3月，亞利桑那州一名行人被自動駕駛的Uber車撞死，原因是車輛的安全駕駛員、優(yōu)步公司和亞利桑那州的安全問題。即使是無關(guān)痛癢的安全故障也是致命的，比如一輛處于自動駕駛模式的Tesla沒有足夠的智能來避免撞上一輛停著的消防車。

密歇根大學(xué)(University of Michigan) Mcity自動駕駛汽車測試實驗室(Mcity autonomous vehicle testing lab)副主任Greg McGuire表示，自動駕駛汽車的安全標(biāo)準(zhǔn)對于公眾接受這項新技術(shù)“絕對至關(guān)重要”。“沒有它們，我們?nèi)绾沃雷詣玉{駛是安全的，如何獲得公眾信任?”他補充說，贏得信任需要通過一個開放的過程來制定標(biāo)準(zhǔn)，公眾可以仔細審查，甚至可能需要政府的監(jiān)管。

開發(fā)自主技術(shù)的公司已經(jīng)注意到了這一點。今年早些時候，包括Aptiv、奧迪、百度、寶馬、戴姆勒、英飛凌、英特爾和大眾在內(nèi)的11家公司的合作撰寫了一份題為《自動駕駛安全第一》的白皮書。他們敦促將有安全特性的功能設(shè)計到自動駕駛中，并利用網(wǎng)絡(luò)安全來確保重要數(shù)據(jù)的完整性，比如車輛環(huán)境中其他物體的位置、移動和識別。他們還要保證驗證機器功能在各種操作條件下的性能。

11月7日，國際電信聯(lián)盟(International Telecommunications Union)宣布成立一個名為“自動駕駛和輔助駕駛?cè)斯ぶ悄?rdquo;(AI for Autonomous and Assisted Driving)的小組。其目標(biāo)是:為控制自動駕駛汽車的人工智能(AI)系統(tǒng)制定性能標(biāo)準(zhǔn)。(國際電聯(lián)自1865年成立國際電報聯(lián)盟(International Telegraph Union)以來已經(jīng)走過了漫長的道路，該聯(lián)盟的任務(wù)是規(guī)范電報服務(wù)的運營。)

自動駕駛聯(lián)盟的焦點小組主席Bryn Balcombe表示，該標(biāo)準(zhǔn)旨在成為“我們道路上人工智能的圖靈測試”。如果一臺電腦能讓人誤以為它是人，它就能通過圖靈測試。人工智能測試至關(guān)重要，可以確保司機和自動駕駛汽車背后的人工智能相互理解，并預(yù)測彼此的行為和風(fēng)險。

在一份規(guī)劃文件寫到，人工智能的發(fā)展應(yīng)該符合公眾的期望:

•人工智能從不從事粗心、危險或魯莽的駕駛行為

•人工智能始終保持意識，愿意，并能夠避免碰撞

•人工智能達到或超過了稱職、謹(jǐn)慎的人類駕駛員的表現(xiàn)

汽車的AI算法總體目標(biāo)類似于阿西莫夫定律(Asimov’s laws)，它們禁止傷害人類，并要求它們遵守人類命令，保護自己的存在。但國際電信聯(lián)盟的文件有一份包含15項“可交付成果”的清單，其中包括為評估人工智能制定規(guī)范，以及為驗證人工智能在道路上的表現(xiàn)起草技術(shù)報告。

但這里有一個核心問題，如何說服公眾將駕駛這項生死攸關(guān)的活動特權(quán)賦予一項技術(shù)，因為我們已經(jīng)遭遇了令人尷尬的失敗，比如對少數(shù)族裔的誤判，導(dǎo)致舊金山禁止警察和市政機構(gòu)使用面部識別技術(shù)。

McGuire說到，測試AI駕駛的能力非常復(fù)雜，人類的適應(yīng)性使我們成為相當(dāng)好的駕駛員。“我們并不完美，但我們在這方面做得很好，在兩次致命的交通事故之間，我們通常能行駛1億英里。” 在真實世界的測試中增加這么遠的距離是不現(xiàn)實的——而且這只是統(tǒng)計意義所需的數(shù)十億英里車輛里程的一小部分。這是開發(fā)人員轉(zhuǎn)向模擬的一個重要原因。計算機可以幫助他們增加虛擬里程，以發(fā)現(xiàn)在罕見情況下才會出現(xiàn)的安全隱患。

McGuire表示，AI還不足以保證汽車的安全性。“AI必須以人類能夠理解的方式工作。“由于汽車都停在了大多數(shù)人都想不到的地方，所以導(dǎo)致了自動駕駛汽車的追尾事故?；蛘呒词挂惠v卡車離騎車人很近，也可以認(rèn)為是安全的。

其他組織也在開發(fā)自動駕駛的標(biāo)準(zhǔn)，國際電信聯(lián)盟覆蓋了輔助自動駕駛和全自動車輛，保險商實驗室正在研究全自動汽車的標(biāo)準(zhǔn)。包括汽車公司、Lyft、Uber和SAE國際(前汽車工程師協(xié)會)在內(nèi)的自動車輛安全聯(lián)盟正在為SAE 4級和5級自動車輛制定安全原則。BSI集團(前身是英國標(biāo)準(zhǔn)協(xié)會)為聯(lián)網(wǎng)和自動駕駛汽車的英國標(biāo)準(zhǔn)制定了一項戰(zhàn)略，目前正在制定這些標(biāo)準(zhǔn)。