10月10日消息，據(jù)國外媒體報道，特斯拉的最終目標是造出完全自動駕駛汽車。為了這一天的盡早到來，其在所有特斯拉汽車中安裝了Autopilot系統(tǒng)，并通過將司機作為志愿者進行道路實驗。Autopilot最終可能會挽救數(shù)百萬人的生命，但在此之前勢必會導致一些司機的死亡。
以下是翻譯內(nèi)容：
這是杰里米·班納（Jeremy Banner）生命中的最后一天。他在黎明前醒來，坐上紅色特斯拉Model 3，沿著佛羅里達大沼澤地的邊緣向南行駛。車窗外的沼澤和農(nóng)田在模糊的綠色中快速掠過。
班納輕按了方向盤下的操縱桿，車內(nèi)響起柔和的鈴聲。他啟動了市場上最復雜且最具爭議的自動安全功能：特斯拉Autopilot。在電腦控制下，汽車可以加速、變道、駛出出口，如果前方有障礙物，還可以自動剎車。
特斯拉的目標是制造出世界上第一輛自動駕駛商用汽車，從而主導全球汽車市場，公司認為Autopilot是關(guān)鍵的第一步。用戶也喜歡Autopilot。他們已經(jīng)通過Autopilot行駛超過15億英里(21億公里)，也常常將軟件功能發(fā)揮到極致。盡管車主手冊提醒司機需要密切監(jiān)視車輛狀況，但這并沒有阻止一些人在行駛的汽車上讀書、打盹、彈琴或做愛。大多數(shù)時候汽車能把他們安全帶到要去的地方。
但在3月的那個清晨，班納的轎車沒能發(fā)現(xiàn)正前方有一輛拖車正穿過四車道的高速公路。班納也沒有。轎車以109公里的時速撞了上去，車頂直接被掀翻，這位有三個孩子的50歲父親當場死亡。
計算機錯誤看起來和人為錯誤完全不同。Autopilot有閃電般的反應(yīng)能力，注意力從不減弱，但有時無法發(fā)現(xiàn)路上的危險。自特斯拉2015年引入Autopilot以來，已知5起死亡事故中的4起都是這種情況。事實上，班納發(fā)生的車禍與早先一起有著驚人地相似。今年8月，班納家人根據(jù)佛羅里達州的《非正常死亡法案》起訴特斯拉。原告發(fā)起直截了當?shù)漠a(chǎn)品責任索賠：特斯拉承諾提供一輛安全的汽車，卻交付了一輛存在缺陷的危險汽車。
但Autopilot與歷史上幾乎所有其他消費產(chǎn)品都不一樣，它在某些方面讓我們預見到即將到來的機器人時代會面臨哪些問題。特斯拉首席執(zhí)行官埃隆·馬斯克(Elon Musk)表示，這項技術(shù)挽救了生命，很多特斯拉車主都能證明自己的汽車發(fā)現(xiàn)了危險，避免了碰撞?？赡茈p方都是對的，電腦殺死了一些原本可以活下來的司機，但它們也挽救了更多司機的生命。
這個問題不再僅僅是學術(shù)問題。當馬斯克決定讓盡可能多的人擁有Autopilot時，這相當于在全世界高速公路上開展了一個巨大的實驗。
26歲的軟件工程師奧馬爾·卡齊(Omar Qazi)在洛杉磯405號州際公路上駕車向北行駛時，雙手從方向盤上拿開。當時汽車正以每小時80公里的速度行駛在全美最繁忙的高速公路上，卡齊的黑色Model 3轎車方向盤微向左轉(zhuǎn)，使汽車保持在車道中央?！斑@就像洛杉磯高峰時段的交通，對吧?”卡齊說，“這真完美?！碧厮估瓝碛写笈F桿粉絲，其中很多是富裕的極客，卡齊也是其中之一。
在洛杉磯郊外的特斯拉充電站，留著胡茬、穿著藍色耐克鞋的卡齊展示了實驗性的智能召喚功能，當時只有經(jīng)過挑選的特斯拉測試者可以使用這項功能。他按下手機上的一個按鈕，汽車駛出了停車位。卡齊看著它穿過停車場朝自己駛來?！斑@沒什么用處，”他笑著說。但卡齊很喜歡炫耀這個把戲，以至于會在停車場徘徊等待觀眾。
智能召喚可以一窺馬斯克所承諾的無人駕駛未來，但對于道路駕駛來說，Autopilot是目前最接近未來的。特斯拉表示，這項技術(shù)還不夠成熟，駕駛員仍要集中注意力，需要他們把手放在方向盤上。對州監(jiān)管機構(gòu)來說，Autopilot只是一個高級駕駛輔助程序，本質(zhì)上就是一個增強的巡航控制功能。Autopilot還不能解決非高速公路上的交通信號燈和停車標志等問題。但在上線的四年間，Autopilot的功能逐漸豐富起來:平穩(wěn)并線、避開插隊的汽車、駛?cè)肓硪粭l高速公路。
“它還不能完全實現(xiàn)自動駕駛，但每隔幾周就會有一次更新，而且汽車的駕駛特點更像人。這非?？膳?。”卡齊說。幾分鐘后，一輛銀色轎車駛?cè)胛覀兊能嚨?，車子穩(wěn)穩(wěn)地剎車，讓進汽車?！翱吹搅藛?”他說道。
這并不是說人類司機更優(yōu)秀。在洛杉磯，卡齊演示特斯拉的那天，一名非法賽車手的馬自達撞上了一輛停著的卡車；一名騎摩托車的人撞上一輛拋錨貨車而死亡；一名騎自行車的初中生被一輛車拖了四五百米，受了重傷。
事實上，駕駛是大多數(shù)成年人做的最危險事情之一。去年全美有4萬人死于車禍，全球范圍內(nèi)車禍事故造成140萬人死亡。但人們對自己的駕駛技術(shù)普遍自滿。幾年前，交通事故造成的死亡人數(shù)開始小幅上升，有專家將其歸因于智能手機的干擾。常常有人邊開車邊發(fā)信息。
但不管有什么缺陷，電腦都不會醉酒、疲勞、生氣，也不會有開車時刷手機的沖動。自動駕駛技術(shù)承諾會消除94%由人為失誤造成的車禍。從這個角度來看，自動駕駛汽車可能成為與青霉素和天花疫苗齊名的救命稻草。
卡齊已經(jīng)計算過了:他說自動駕駛汽車有朝一日將每天拯救3000條生命。按照他的邏輯，任何阻礙這一進程的人手上都沾滿了鮮血。他說:“想象一下，有人把軟件推遲一天?！薄澳阏娴臅⑺篮芏嗳??！?/p>
在班納發(fā)生致命事故后不到兩個月，馬斯克邀請了大約100名投資者和分析師來到特斯拉在帕洛阿爾托的總部。在2個半小時的演示過程中，馬斯克向投資者展示了新的關(guān)注點：制造第一輛真正的自動駕駛汽車。他說，今天上路的汽車將能在幾個月內(nèi)就用上Autopilot。到2020年的某個時候，它們將不再需要人工監(jiān)督，并可以在客戶不用的時候變成自動駕駛出租車。
“從財務(wù)角度講，購買特斯拉以外的任何東西都不再靠譜，”馬斯克舉起雙手說?！熬拖袢陜?nèi)擁有一匹馬一樣?！?/p>
對于任何關(guān)注自動駕駛汽車行業(yè)的人來說，馬斯克的時間表聽起來特別激進。包括通用汽車、戴姆勒和Uber在內(nèi)的大約36家公司正在競相開發(fā)這項技術(shù)。許多觀察人士認為實力最強的競爭者是Waymo，但它們都沒有向公眾出售自動駕駛汽車。
馬斯克告訴投資者，特斯拉將超越所有企業(yè)，這要歸功于已經(jīng)上路的50多萬輛汽車都配備了Autopilot。馬斯克將Autopilot描述為一種目前尚不完善，但會逐漸變得更加靈活和可靠的自動駕駛工具。
硅谷發(fā)布智能手機應(yīng)用程序和視頻游戲的方式就是，先向客戶發(fā)布尚不完善的軟件，并逐步解決問題增加功能。但這些產(chǎn)品并不會致人死亡。Waymo、通用汽車和其他公司也有類似方案，但它們只用在幾百輛測試汽車中，部署在全國少數(shù)幾個精心挑選的社區(qū)，而且?guī)缀蹩偸怯蓪I(yè)的安全駕駛員監(jiān)督行駛。目前通用汽車的原型車正以56公里的最高時速在舊金山多山的街道上挪動。
另一方面，馬斯克正以最快速度把他的工具送到消費者手中。這使得特斯拉工程師能夠從客戶那里收集到海量級駕駛數(shù)據(jù)，并根據(jù)真實世界情況完善Autopilot。即使特斯拉汽車沒有激活自動駕駛模式，它們也會自動將駕駛員的選擇與計算機進行比較。每隔幾周特斯拉就會完成Autopilot的更新，這讓卡齊和其他車迷們很高興。
馬斯克說:“每個人都在訓練這個網(wǎng)絡(luò)，每時每刻?！彼麑⑦@種良性循環(huán)稱為“快速學習”，并將其與谷歌搜索每年處理1.2萬億次查詢進行比較。他宣稱，未來某一天司機們不再需要方向盤。
當摩根士丹利的一名分析師就Autopilot的安全記錄向馬斯克施壓時，他很快把話題轉(zhuǎn)向人為駕駛的危險性，以及技術(shù)修復的潛力。他把汽車比作由人工操作的老式電梯。他說:“他們會周期性地感到疲勞、喝醉或其他什么?！薄八袁F(xiàn)在沒有電梯操作員了?！?/p>
考慮到生死攸關(guān)的利害關(guān)系，馬斯克有時會把自動駕駛汽車說成是一場正義斗爭也就不足為奇。他曾表示，讓Autopilot退出市場“應(yīng)該受到道德譴責”。第一位死于自動駕駛的美國駕駛員是來自俄亥俄州的約書亞·布朗(Joshua Brown)，他和班納一樣也撞上了拖車。車禍之后他的家人發(fā)表了一份聲明，基本上支持特斯拉的道德考量?！案淖兛偸前殡S著風險，”他們寫道?！拔覀兊膬鹤訉ξ磥淼母咚俟钒踩a(chǎn)生了如此積極的影響，這讓我們感到些許安慰和自豪?！?/p>
馬斯克表示，目前Autopilot是能力僅低于司機的最佳選擇。人類駕駛帶來的安全性加上計算機輔助保護。但問題在于當我們把大部分責任交給電腦時，自己就會走神。我們不知道計算機應(yīng)該做什么。我們的技術(shù)也會生疏。就像航空史上充斥著人類對飛機自動駕駛功能的過度依賴所導致的各種錯誤。
前海軍戰(zhàn)斗機飛行員、杜克大學普拉特工程學院教授米西·卡明斯(Missy Cummings)表示:“你的注意力會轉(zhuǎn)移，這是人的本性?！笨魉瓜Ｍ鸄utopilot退出市場。Waymo曾開發(fā)了一種類似系統(tǒng)，但在6年前放棄了。報告說，有太多司機在開車時發(fā)短信、化妝、打瞌睡。
與此同時，計算機也會在看似最不可能的地方出問題，因為很多對計算機來說最具挑戰(zhàn)性的任務(wù)對人類來說是小菜一碟。任何一個正常成年人都能分辨出良性道路特征和危險威脅之間的區(qū)別。但對于最復雜的機器視覺軟件來說卻非常困難的。
特斯拉一直拒絕對Autopilot設(shè)限，因為這會讓它更安全，但更不方便。該公司允許司機將Autopilot的巡航速度設(shè)置在當?shù)叵匏僖陨?，并允許在汽車能夠檢測到車道標記的任何地方打開Autopilot，盡管手冊上說僅限于在高速公路上使用。
圖示：特斯拉汽車行駛里程以及Autopilot行駛里程（英里）數(shù)據(jù)統(tǒng)計
馬斯克也或多或少鼓勵人們?nèi)y試Autopilot的極限。去年12月當馬斯克在電視節(jié)目上展示Model 3汽車時，他也打開了Autopilot并松開了方向盤。今年5月份，在一段有關(guān)自動駕駛狀態(tài)下的色情視頻走紅后，馬斯克在Twitter上開玩笑說:“事實證明，使用Autopilot的方式比我們想象的要多?！?/p>
鑒于Autopilot現(xiàn)在已經(jīng)行駛了超過15億英里，確定其安全記錄應(yīng)該很容易。馬斯克曾聲稱，使用Autopilot駕駛的安全性大約是不使用Autopilot的兩倍，但目前為止還沒有相關(guān)數(shù)據(jù)公開。特斯拉公布了Autopilot的每季度事故率數(shù)據(jù)，但安全專家表示，如果沒有這些事故發(fā)生的具體情況，這些數(shù)據(jù)毫無用處。一項針對特斯拉事故索賠數(shù)據(jù)的保險行業(yè)研究也沒有定論。
在2016年的布朗撞車事故后，美國國家公路交通安全管理局(NHTSA)對Autopilot進行了調(diào)查，發(fā)現(xiàn)沒有理由召回。該機構(gòu)發(fā)現(xiàn)安裝Autopilot的特斯拉汽車事故率比沒有安裝Autopilot的特斯拉汽車低40%，但相關(guān)計算仍然存疑。盡管特斯拉提交了4.4萬輛汽車的行駛和碰撞數(shù)據(jù)，但除了5700輛以外，其他所有車輛的關(guān)鍵數(shù)據(jù)都有缺失或相互矛盾。在5700輛汽車的數(shù)據(jù)中，使用Autopilot的事故率實際上更高。馬里蘭州獨立統(tǒng)計顧問蘭迪·惠特菲爾德(Randy Whitfield)今年指出了這些缺陷，但NHTSA堅持其結(jié)論。
評估Autopilot或完全自動駕駛技術(shù)的部分問題在于，不清楚社會將容忍何種程度的安全。機器應(yīng)該是完美無瑕，還是說比一般人類司機更好即可？豐田自動駕駛研發(fā)負責人吉爾?普拉特(Gill Pratt)曾表示:“人類對機器缺陷造成的傷害或死亡零容忍。”“要達到所需的完美水平，需要多年的機器學習以及多得多的行駛里程?！?/p>
圖示：特斯拉鐵桿粉絲卡齊
但如此高的標準反而可能導致更多的死亡。在蘭德公司2017年的一項研究中，研究人員發(fā)現(xiàn)，與接受只比人類安全好一點的汽車相比，等待近乎完美自動駕駛汽車的成本是用數(shù)萬條人命來衡量的。機器人專家卡拉就自動駕駛汽車政策在國會作證時表示:“等待這一完美技術(shù)的人應(yīng)該意識到，這并非沒有成本?！?/p>
其論點的關(guān)鍵是如何理解機器學習。特斯拉和其他自動駕駛汽車開發(fā)商的產(chǎn)品要識別一輛自行車，然后預測它會朝哪個方向走，這太復雜了，不能簡單歸結(jié)為一系列的指令。相反，程序員使用機器學習來訓練軟件。他們可能會給機器展示數(shù)千張不同自行車的照片，可能還會給機器看一些摩托車或單輪腳踏車，這樣機器就會知道其中的區(qū)別。隨著時間推移，這臺機器會生成自己的規(guī)則。
得到的信息越多，這些機器就越聰明?？ɡJ為，問題關(guān)鍵在于自動駕駛汽車在實驗室里變得完美并不現(xiàn)實。她說，如果我們真的想最大限度地挽救生命，我們甚至可以在自動駕駛汽車比人類更危險的時候讓它們上路，以加速訓練。
即使造出了一輛完美的自動駕駛汽車，唯一能確定的方法就是把它放在路上。從統(tǒng)計學角度講，致命車禍也是罕見的。在蘭德公司的另一篇論文中，卡拉估計一輛自動駕駛汽車要無故障行駛2.75億英里才能證明更安全，而這一里程需要100輛測試車連續(xù)行駛12年以上才能完成。
圖示：社交媒體上的視頻和照片顯示很多司機在啟用Autopilot時打瞌睡。
考慮到這一切，馬斯克計劃利用真實道路上的司機作為志愿者完善和測試他的產(chǎn)品，聽起來并不那么瘋狂。事實上，如果不讓大量司機面臨被機器殺死的風險，就不可能實現(xiàn)自動駕駛的安全。而允許自Autopilot加速并在普通道路上行駛也有一定的邏輯。每當駕駛員為了避免事故而接管汽車時，這都是一個潛在的訓練機會，能夠讓軟件學習什么不該做。
美國已經(jīng)有了一個對可能拯救生命但也可能有致命副作用產(chǎn)品進行測試的型：分階段臨床藥物試驗?？▋?nèi)基梅隆大學哲學教授亞歷克斯·倫敦(Alex London)等人呼吁汽車監(jiān)管機構(gòu)采取類似措施，允許新技術(shù)分階段上路，同時密切監(jiān)控其安全記錄。
卡齊驅(qū)車前往帕洛斯維德斯牧場，一路蜿蜒穿過起伏的棕色山丘和懸崖，俯瞰著太平洋。沿途并不是高速公路，但卡齊再次啟動了Autopilot?？偟膩碚f，汽車表現(xiàn)得很好。
當路繞過陡峭懸崖時，我們碰到一個同向而行的騎行者。特斯拉正確識別并超越了他。就在要超車的時候，卡齊踩了剎車，讓那人在超車之前騎到更寬的路上。他說自己希望機器也能做同樣的事情。
但卡齊似乎已經(jīng)接受了這樣一個事實：隨著特斯拉的普及，Autopilot造成的死亡人數(shù)將會增加?！白畲蟮墓P(guān)噩夢就在前方，”他如是指出，“通往目標的路只有一條。穿過雷區(qū)?！?/p>
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。