安全性是一個(gè)很難回答的社會(huì)問題

在今天的美國，由人類控制的駕駛已經(jīng)是一項(xiàng)相對安全的活動(dòng)，盡管顯然還有很大的改進(jìn)空間——2017年有3．7萬人死于機(jī)動(dòng)車碰撞，道路事故仍然是死亡的主要原因。因此，如果我們要讓自動(dòng)駕駛汽車車隊(duì)上路，我們希望它們更安全。這并不僅僅意味著自動(dòng)駕駛技術(shù)提高了，其安全性方面也取得了進(jìn)步，因?yàn)?span id="thxzznx" class='hrefStyle'>汽車更重了，有了安全氣囊和其他安全設(shè)備，剎車更好了，翻車的頻率也更低了。不過，當(dāng)談到我們究竟希望無人駕駛汽車達(dá)到何種安全程度的問題時(shí)，這仍然是一個(gè)懸而未決的問題。

“在我們確信一臺機(jī)器至少和人類一樣安全之前，我們應(yīng)該行駛多少英里呢？”密歇根大學(xué)MCity自動(dòng)駕駛汽車測試實(shí)驗(yàn)室主任格雷格·麥圭爾（Greg McGuire）在最近的一次采訪中表示�！斑�是自動(dòng)駕駛汽車需要比人類更安全？它需要達(dá)到人類10倍的安全性嗎？我們的閾值是什么？”

蘭德公司2017年的一項(xiàng)研究發(fā)現(xiàn)，越早部署高度自動(dòng)化的汽車，最終拯救的生命就越多，即使這些汽車只比人類駕駛的汽車安全一點(diǎn)點(diǎn)。研究人員發(fā)現(xiàn)，從長遠(yuǎn)來看，部署比普通人類駕駛員安全性高出10％的自動(dòng)駕駛汽車，比等到安全系數(shù)提高75％或90％后再部署，可以挽救更多的生命。

換句話說，在我們等待自動(dòng)駕駛汽車變得完美時(shí)，可能會(huì)有更多的人喪生。

自動(dòng)駕駛汽車除了安全性之外，還有一個(gè)難題，那就是當(dāng)出現(xiàn)問題時(shí)該由誰負(fù)責(zé)。當(dāng)一名人類駕駛員造成事故或死亡時(shí)，人們往往毫不懷疑誰應(yīng)該對此負(fù)責(zé)。但如果一輛自動(dòng)駕駛汽車發(fā)生事故，事情就沒那么簡單了。

斯珀林將這一情景與另一種交通方式——飛機(jī)進(jìn)行了比較。“如果飛機(jī)上沒有正確的軟件和技術(shù)，那么誰來負(fù)責(zé)呢？是軟件編碼嗎？是硬件嗎？還是擁有這架飛機(jī)的公司？”他說。

2018年，在一輛Uber測試車撞死一名女子后，我們已經(jīng)看到了無人駕駛汽車的責(zé)任界定問題。這起事件引起了媒體的一片嘩然，最終Uber與受害者家屬達(dá)成了和解。2018年，一名男子在駕駛特斯拉時(shí)死亡，他的家人今年早些時(shí)候起訴了這家汽車制造商，稱其自動(dòng)駕駛功能有問題。美國國家運(yùn)輸安全委員會(huì)（National Transportation Safety Board）在一份初步報(bào)告中表示，特斯拉的自動(dòng)駕駛系統(tǒng)在今年3月佛羅里達(dá)州的一起致命撞車事故中處于活躍狀態(tài)。然而，在2016年特斯拉撞車事故中喪生的一名男子的家人表示，事故并不怪他，也不應(yīng)該由特斯拉負(fù)責(zé)。

還有一個(gè)關(guān)于自動(dòng)駕駛汽車的爭論引發(fā)關(guān)注，焦點(diǎn)在于如果自動(dòng)駕駛汽車面對一個(gè)艱難的情況，車輛應(yīng)該做出怎樣的選擇呢？例如，如果事故是不可避免的，自動(dòng)駕駛汽車應(yīng)該轉(zhuǎn)向行人密集的人行道上，還是撞上一根桿子，這種情況會(huì)對車上的乘客造成更大的危險(xiǎn)。

麻省理工學(xué)院媒體實(shí)驗(yàn)室（MIT Media Lab）發(fā)起了一個(gè)名為“道德機(jī)器”（Moral Machine）的項(xiàng)目，試圖利用數(shù)據(jù)來弄清人們是如何看待這些類型的權(quán)衡的。該實(shí)驗(yàn)室去年發(fā)表了一份關(guān)于其研究結(jié)果的研究報(bào)告。“在傷害已經(jīng)降到最低，但可以在不同人群之間轉(zhuǎn)移的情況下，我們希望汽車如何做到這一點(diǎn)呢？”研究人員之一埃德蒙德·阿瓦德（Edmond Awad）說。

但正如Vox網(wǎng)站的凱爾西·派珀（Kelsey Piper）當(dāng)時(shí)所解釋的那樣，這些道德權(quán)衡問題雖然有趣，但并沒有真正觸及自動(dòng)駕駛汽車安全性辯論的核心：

整個(gè)自動(dòng)駕駛汽車的設(shè)置基本上只是一種新穎的方式，目的是將人們的注意力吸引到一系列老問題上。麻省理工學(xué)院媒體實(shí)驗(yàn)室讓受訪者回答的只是一系列經(jīng)典電車問題的變體。經(jīng)典電車問題是道德哲學(xué)中構(gòu)建的一個(gè)假設(shè)，目的是讓人們思考如何權(quán)衡道德。經(jīng)典電車問題問的是，你是否會(huì)拉動(dòng)一根杠桿，讓電車駛向偏離軌道的五個(gè)人，避免撞死另外一人。問題的變體探索了在什么樣的情況下，我們愿意犧牲一些人來換取拯救其他人。

當(dāng)人們被迫在糟糕的情況下做出兩難選擇時(shí)，這是一種了解他們?nèi)绾嗡伎嫉挠腥し绞�。有趣的是文化差異的存在。但是，盡管收集到的數(shù)據(jù)描述了我們?nèi)绾巫龀龅赖逻x擇，卻沒有回答我們應(yīng)該如何做的問題。目前還不清楚，這與自動(dòng)駕駛汽車的關(guān)系，是否比我們每天考慮的其他政策更密切——所有這些政策都涉及可能導(dǎo)致生命損失的權(quán)衡。

這項(xiàng)研究發(fā)表在《自然》雜志上時(shí)，奧迪公開表示，研究結(jié)果可能有助于圍繞自動(dòng)駕駛汽車的決策展開討論，但包括Waymo、Uber和豐田在內(nèi)的其他公司則保持沉默。

衡量安全性將非常困難

談到自動(dòng)駕駛汽車的安全性，更難回答的問題可能是如何測試它的安全性。

2017年，美國每行駛1億英里就有1．16人死亡。這意味著自動(dòng)駕駛汽車必須行駛數(shù)億英里，甚至數(shù)千億英里，才能證明其可靠性。去年，Waymo舉行了慶�；顒�(dòng)，慶祝自2009年推出以來，其汽車在公共道路上的行駛里程達(dá)到了1000萬英里。

為自動(dòng)駕駛汽車積累數(shù)十億英里的試駕里程幾乎是不可能的。這樣的項(xiàng)目將是耗費(fèi)數(shù)目非常大的資金和時(shí)間——據(jù)估計(jì)，需要幾十年甚至幾百年的時(shí)間。除此之外，每次技術(shù)發(fā)生變化時(shí)，即使只是改了幾行代碼，但是測試過程也可能不得不重新開始。

加州大學(xué)伯克利分校退休研究工程師史蒂文·施拉多弗（Steven Shladover）說：“沒人能負(fù)擔(dān)得起這些測試。這就是為什么我們必須開始尋找其他途徑來達(dá)到這種安全保障水平�！�

2018年，蘭德公司提出了一個(gè)衡量自動(dòng)駕駛汽車安全性的框架，包括通過模擬、封閉課程和有或沒有安全駕駛員的公共道路進(jìn)行測試。測試將發(fā)生在不同的階段，可以在技術(shù)開發(fā)時(shí)，可以在演示時(shí)，也可以在部署之后。

正如蘭德公司的研究人員布盧門撒爾所解釋的那樣，美國國家公路交通安全管理局的碰撞測試側(cè)重于車輛的抗沖擊能力和乘員保護(hù)，但“有必要測試使用體現(xiàn)自動(dòng)化的軟件的結(jié)果。”很多公司在做這種測試，但還沒有廣泛的、一致同意的框架。

密歇根大學(xué)的MCity今年1月發(fā)布了一份白皮書，列出了它認(rèn)為可行的安全性測試參數(shù)。它提出了一個(gè)“ABC”測試概念，即加速評估（專注于最危險(xiǎn)的駕駛情況）、行為能力（與重大機(jī)動(dòng)車碰撞相對應(yīng)的場景）和轉(zhuǎn)角案例（測試性能和技術(shù)極限的情況）。

在道路上測試完全無人駕駛汽車是最后一步，而不應(yīng)當(dāng)是第一步。來自MCity的麥圭爾說：“當(dāng)真實(shí)的人類在自動(dòng)駕駛汽車上的時(shí)候，自動(dòng)駕駛汽車需要有信心，有一定的安全空間，不會(huì)危及人類安全。”

即便如此，在哪里測試汽車仍會(huì)產(chǎn)生影響。許多公司在亞利桑那州等地測試汽車的原因是，這些地方相對比較平坦和干燥。在更多樣的地形或更惡劣的天氣條件下，汽車測試和其他自動(dòng)駕駛能力變得更加復(fù)雜，更加不可靠。

2018年11月，Waymo首席執(zhí)行官約翰·克拉夫西克（John Krafcik）表示，他甚至認(rèn)為自動(dòng)駕駛技術(shù)不可能在沒有人類互動(dòng)的情況下在所有可能的條件下運(yùn)行。他還表示，他認(rèn)為自動(dòng)駕駛汽車普及還需要幾十年時(shí)間。

布盧門撒爾說：“如果你注意聽各個(gè)公司的公開聲明，你會(huì)發(fā)現(xiàn)，隨著時(shí)間的推移，大多數(shù)公司在遇到現(xiàn)實(shí)問題時(shí)都變得更加謙虛、謹(jǐn)慎了�！�