手机贤集

工业平台

返回贤集网

《消费者报告》怼马斯克:特斯拉拿我们做小白鼠

通信小金 2021-07-27 17:49:15

特斯拉FSD Beta V9在美国推送后,一些用户陆续上传了他们的评测视频。总得来看,FSD Beta V9的表现有好有坏。但某些时候特斯拉的操作确实让人捏一把冷汗。比如,AI Addict上传的这个视频中,行驶在公共道路上的特斯拉就出现了刮擦路边灌木丛、错过转弯等状况。


日前,针对于特斯拉的FSD Beta V9,美国《消费者报告》的作者、编辑Keith Barry专门撰写了一篇文章。不过,他没有针对软件本身发表过多言论,因为他质疑的重点是特斯拉的测试方式。在Keith Barry看来,车主和其他的道路使用者都成了特斯拉用来测试软件的小白鼠。


当自动驾驶越来越和人们的生活融为一体时,如何做好人们的出行安全保障已经成为系统工程,各个环节环环相扣。《消费者报告》的这篇文章对于思考这一问题也将带来一些启发。


以下是全文编译。


一、FSD Beta V9表现并不完美


特斯拉的最新版辅助驾驶软件(FSD Beta V9)在上周推送之后,已有部分车主发布了他们的体验报告。这些报告引起《消费者报告》及其他的研究人员和安全专家的关注,对于这套系统的性能表现和安全性,他们表示出了担忧。


《消费者报告》计划在我们的Model Y完成必要的软件更新后,就立刻对其展开独立测试。


而到目前为止,《消费者报告》的专家们已经先查看了发布在社交媒体上的测试视频,他们对自己看到的情况(比如错过转弯、刮擦到路边灌木丛和冲向停着的其他车辆)感到担心。


特斯拉CEO埃隆·马斯克同样敦促车主们在使用FSD Beta V9的时候要小心谨慎,他的推特写道,“会有未知的问题出现,所以请保持警惕。”


《消费者报告》怼马斯克:特斯拉拿我们做小白鼠


特斯拉计划推出所谓的“Full Self-Driving”(FSD)功能(虽然有这样一个名字,但特斯拉迄今尚未实现完全自动驾驶),而FSD Beta V9就是FSD的原型。尽管多年以来,特斯拉一直在自己的汽车上进行软件更新,而每次发布都会新增一些功能,但Beta 9却是给车辆的工作方式带来了最为彻底的改变。软件现在能自主执行更多的驾驶任务。比如,在有驾驶员监督的情况下,搭载FSD Beta V9的特斯拉现在能在城市道路和十字路口正常的行驶。


但同时,《消费者报告》汽车检测中心高级主管Jake Fisher表示,“FSD Beta V9的路测视频并未显示出这个系统正在让驾驶变得更安全或者更轻松。”


“消费者只是付费然后成为了测试工程师,并且是在没有足够安全保护的情况下做技术研发。”


与之前一样,《消费者报告》对于特斯拉依然在通过其现有车主和车辆,在公共道路上对新功能进行beta测试而感到担心。一些道路安全专家有同样的忧虑,因为在特斯拉测试期间,路上的其他司机、骑自行车的人和行人并不知道他们处于一场正在进行的实验里面,同时这是一次未征求其同意的实验。


Bryan Reimer是麻省理工学院的教授,也是研究车辆自动化的先进车辆技术(AVT)联盟的创始人。他告诉《消费者报告》,“虽然驾驶员对于他们承担的增加了的风险有所了解,但是其他的道路使用者(司机、行人、骑自行车的人)不知道他们面前是一辆测试车,他们也没有对承担这种风险表示过同意。”


特斯拉研发自动驾驶汽车的方法和其他公司(如Argo AI、Cruise、Waymo)形成了鲜明的对比。为撰写本文,我们和这些公司进行了交流并获悉,他们的软件测试被限制在非公开道路上并且/或者配备了训练有素的安全员。采访的几家公司都拒绝直接回答我们提出的有关于特斯拉的问题,并且他们只谈论了自己的研究计划。特斯拉没有回应《消费者报告》的置评请求。


Fisher等人认为特斯拉最不济也应该对驾驶员进行实时的监控,以此确保驾驶员在使用新软件的时候注意力是集中的。比如说,Fisher表示更新之后的软件拥有“让人印象深刻的”UI显示,但是他担心,即使驾驶员对屏幕只是短暂一瞥,这个时间对于防止(自动驾驶系统)撞上汽车和行人而言也可能太长了。一些新款特斯拉车型上配备了实时的驾驶员监控摄像头,不过《消费者报告》的专家对于其有效性已经提出了质疑。


“特斯拉只是要求人们专心这是不够的——还需要保证在(自动驾驶)系统运行期间人们确确实实有参与进来,”Fisher说道。他建议特斯拉使用车内驾驶员监控系统(DMS),从而确保驾驶员把他们的视线集中在道路上了。“我们已经知道,在没有充分的驾驶员支持的情况下,测试开发自动驾驶系统能够而且将会导致死亡事故。”


2018年,Uber的一辆自动驾驶测试车发生碰撞事故并导致49岁的Elaine Herzberg死亡。而调查显示,当时坐在测试车主驾位置的安全员分心了,没有越过(自动驾驶)系统进行刹车。一项联邦调查将碰撞部分归咎于Uber监管不足以及其制定的安全政策不够。那场悲剧之后,许多公司针对自动驾驶系统测试制定了更严格的内部安全方案,例如监督驾驶员从而确保他们没有分心、更多地依赖模拟和封闭场景测试。


二、有时特斯拉表现得像是喝醉的司机


除了《消费者报告》的工程师,观看过特斯拉全新FSD软件工作视频的行业专家也对它的性能表现表达了担忧。


美国大学公共事务学院研究自动驾驶汽车的教授Selika Josiah Talbott表示,更新了FSD Beta V9的特斯拉表现得“几乎像是一个醉酒的司机”,正努力做到车道中间行驶。“车辆歪歪扭扭向左边、向右边,”她说道。“虽然右转弯看上去相当平稳,但左转弯几乎可以说是疯狂的。”


ID是AI Addict的用户在YouTube上上传了一段视频。视频显示特斯拉在道路穿梭和通过十字路口时有许多令人印象深刻的操作,不过它也有很多次看走眼:行程中,特斯拉曾刮擦到路旁的灌木丛、转弯之后驶进错误的车道、向一辆停着的车直接开了过去等。行车期间,软件还会偶尔“退出”,突然地让驾驶员去接手开车。


《消费者报告》怼马斯克:特斯拉拿我们做小白鼠


“只看这些视频,很难确切知道问题究竟是什么。但另一方面,通过视频已经可以明显的看到它在目标物检测和/或分类上存在一些问题”,杜克大学人类和自动化实验室负责人Missy Cummings表示。换句话说,在她看来,汽车正在努力确定它感知到的是何种物体或是如何处理这些信息,亦或者是两者兼而有之。


按照Cummings的说法,特斯拉最后有可能制造出一辆自动驾驶汽车,但是,它迄今为止测试的数量还不足以在现有软件架构的基础上达到这样的能力。“我不排除这在未来某个时刻是一个可能出现的事件。但是这是现在的事吗?不是。特斯拉已经逼近了这个目标吗?没有。”


三、一场未事先征求同意的测试


Cummings表示,虽然特斯拉这种将软件测试版直接交到消费者手里的方式在计算机软件开发中很常见,但是它上路后可能会带来真的问题。“先让你的软件实现80%的能力、发布它,接着让你的用户找出问题所在,这是一种典型的硅谷做派”,她说道。不过,“这种方式对于手机来说可行,但是放到和安全相关的关键系统上就不行了。”


Reimer则说他不认为路上有谁理应承受测试车带来的风险,但是他也告诉《消费者报告》,他已注意到特斯拉自动驾驶的新视频和以前的表现相比,性能上有了显著提高。Reimer认为,“特斯拉工程师们使用数据很快就能提高系统的性能,这很有趣。”


然而,在特斯拉实现完全自动驾驶之前,渐进式改进的方式可能会让驾驶员开始依赖汽车去帮他们做决定,从而导致其变得没有那么安全,Fisher表示。“当大部分时候软件都运行良好…出现一个小故障就可能导致一场灾难,这背后的原因是司机已经给予了(自动驾驶)系统更多的信任,并在需要他们介入时参与的更少。”


为防止出现这样的事,Fisher、Reimer、Talbott等人已经向特斯拉呼吁,使用强大的驾驶员监控系统(DMS)——它能实时工作并确保一旦汽车无法应对某个驾驶任务,方向盘后面的驾驶员已经准备好姐关了。在过去,特斯拉不愿意采用这种方式。


在监管机构汽车安全中心的执行董事Jason Levine看来,除非特斯拉改变路线,不然它走向自动化的方法最后可能适得其反。Levin认为,自动化(automation)能够挽救生命,但如果司机没有清楚地了解其局限性,那就会成为空话。


“在未获得同意的情况下,汽车制造商通过其车主和公众展开未经确证的技术测试,充其量往好了说是为了安全,往坏了想是会导致原本可预防的碰撞和死亡事故”,Levin对《消费者报告》表示。


此外,Levin等一些人认为,特斯拉使用的营销术语,例如“完全自动驾驶”(Full Self-Driving)会给人造成一种虚假、具有欺骗性的印象,让人们认为汽车能够在没有人类驾驶员干预的情况下工作。


四、更安全的测试方法是什么?


Talbott现在是美国大学的教授,她以前曾从事机动车监管的工作,并担任过产品责任律师。在她看来,不做任何驾驶员监控措施的情况下就在公共道路上测试软件的特斯拉,放到安全行业中是一个“独行侠”。行业里的其他人会说,“我们想正确行事,我们想让监管者变成我们的合作伙伴”。而到目前为止,“正确行事”意味着在公共道路上展开测试之前,已经通过配备有安全员的路测和封闭场景测试对车辆软件进行了验证。


《消费者报告》和其他几家从事自动驾驶研发的公司Argo AI、Cruise和Waymo进行了交流。尽管没有人直接就特斯拉的情况发表看法,但这三家公司都向我们展示了他们自己的安全策略。


Waymo发言人Sandy Krap告诉我们,“每一次软件更改都经过了严格的发布过程,包括仿真测试、封闭场景下的测试和公共道路上的路测。”


Cruise 的 Ray Wert表示,只有在公司确信自动驾驶汽车比人类开车更安全之后,才会做部署。他表示,“我们的计划是和社区合作,而不是让社区被动接受。”此外,一位Argo AI的代表指出该公司大量的驾驶员培训以及软件开发标准在网上都是公开的。


行业组织自动驾驶汽车合作伙伴教育 (PAVE)表示,它支持在测试的时候配备训练有素的专业安全员,并认为使用未经培训的安全员可能会对公众接纳自动驾驶带来负面影响。


最终,可能要由联邦监管机构来确定哪种类型的汽车软件可以在公共道路上使用——这一步他们迄今为止没有迈出去。Talbott称,“从未见过像我们今天在特斯拉身上看到的那样,就好像美国交通部对某家特定公司的行为视而不见。”


但是,关于进一步的监管有了些新的动向。例如,美国国家公路交通安全管理局(National Highway Traffic Safety Administration)已下令对牵涉自动驾驶系统的车辆发生车祸时的事故报告提出新的要求。


《消费者报告》怼马斯克:特斯拉拿我们做小白鼠


“我希望这些数据能让 NHTSA 在未来几十年更好地监控和管理那些致力于完善自动驾驶系统的汽车及技术公司”,Reimer表示。


而最终,监管机构将不得不赶上汽车制造商测试自动驾驶技术的步伐。


《消费者报告》安全政策经理William Wallace认为,“汽车技术发展非常迅速,自动驾驶具有很大的潜力,但是政策制定者需要加快制定强有力、合理的安全规则。” “否则,一些公司会将我们的公共道路视为私实验场,而我们却几乎不要求他们对安全负责。”


来源:AutoLab

注:文章内的所有配图皆为网络转载图片,侵权即删!

免责声明

最新回答

还没有人评论哦,抢沙发吧~

为您推荐