草庐IT

特斯拉FSD系统测评:开上电车轨道,认不出停车标志,且差点撞上行人

机器之心 2023-03-28 原文
最近的一段时间,特斯拉的完全自动驾驶系统(FSD)似乎经常被曝出 bug。最近的一次发生在春节期间:特斯拉因 FSD 的「rolling stop」功能违反美国交规而召回 53,822 辆汽车。即在某些标有「all-way stop」标志的十字路口,该软件将允许部分汽车低速前行,而不是有一个彻底停下来的动作。

当时,特斯拉表示,截至 1 月 27 日,它还没有收到任何与这次召回相关的保修索赔、撞车、受伤或死亡事件的消息。因此,特斯拉首席执行官埃隆 · 马斯克在推特上表示,该功能「不存在安全问题」。

目前,特斯拉已经停用了 FSD 的「rolling stop」功能,但关于此功能安全性的讨论仍在继续。与此同时,更多有关 FSD 的问题开始浮出水面。

在 2 月 10 号的一份报道中,《华盛顿邮报》提到,他们召集了一个专家小组对特斯拉车主上传的一些驾驶视频进行了逐帧分析,结果显示,特斯拉的 FSD 存在根本性的弱点。专家们表示,这些问题都是不容易解决的,修补一个问题可能会带来新的复杂性。

有的问题令人哭笑不得,比如一个右转之后,特斯拉直接驶入了电车轨道:


他们分析的这些视频来自 YouTube,FSD 出现的更多问题包括:

  • 以每小时 11 英里的速度撞向自行车道护柱;
  • 在即将有行人经过的斑马线前没有停车让行;
  • 远距离停车;
  • 争夺方向盘的控制权;
  • 无法辨认某些交通标志。

撞上护柱


在一个晴朗的日子里,一辆搭载了 FSD Beta 的特斯拉以每小时 15 英里的速度右转通过圣何塞的一个十字路口。一条自行车道位于道路内侧。然后,车就以每小时 11 英里的速度撞上了自行车道的保护柱。

「这个问题既是制图问题,也是感知问题。作为永久性的护柱而不是临时的圆锥体,它们应该出现在地图上,」长期从事自动驾驶汽车开发的 Brad Templeton 说。

「至于为什么 FSD 没有及时感知到这些护柱,也许是因为护柱的形状和颜色不太常见,所以系统在训练的时候没有见过它们,」特斯拉的一位车主兼粉丝 Templeton 表示。

特斯拉的超声波传感器有望探测到这些危险,但它们的位置(前保险杠等)可能是一个弱点。Templeton 说:「它们可能看不到稀疏的、薄的东西,比如贴纸。」

差点撞上行人

第二个例子同样发生在圣何塞,在遇到绿灯照例右转之后,特斯拉险些撞上一位即将过斑马线的行人。行人看到特斯拉之后突然停了下来,特斯拉也出现了减速,但减速时已经走过了斑马线的大半部分。

在分析了这段视频和其他类似视频后,《华盛顿邮报》的专家小组表示,FSD 似乎并没有识别出人行道的标志,也没有预料到一个静止的行人可能会冒险穿越马路。亚利桑那州立大学风险创新实验室主任 Andrew Maynard 教授说:「目前还不清楚汽车是否对行人的出现做出了反应,但显然司机受到了惊吓。」

激光雷达技术公司 AEye 首席研发官 Hod Finkelstein 表示,他不相信光是摄像头就足以在所有情况下检测到行人的意图,因为它们不擅长测量远处物体的距离,并且会被汽车前灯和太阳「闪瞎」眼睛。传统的自动驾驶汽车制造商已经将摄像头、激光雷达、传统雷达甚至超声波传感器结合起来使用。

特斯拉的软件结合了机器学习软件和更简单的软件「规则」,比如「见到停车标志和红灯就要停。」但正如一位研究人员指出的那样,机器学习算法总是会学到不该学的东西。比如,如果软件被告知「永远不要撞到行人」,它可能会错误地理解成:如果行人即将被撞到,他们自己会让开。

软件开发人员可以创建一个「规则」,即汽车必须为行人减速或停车。但这样一来软件就会瘫痪,因为城里到处都是人。所以,这最终还是一个长尾问题。

远距离停车

在同一位司机 12 月初录制的另一段视频中,特斯拉会在人行横道外有行人过马路时停下来,并且是在行人距离很远时就开始停下来。此时,许多人类驾驶员会选择继续行驶。

该视频表明,如果行人向道路方向行进,特斯拉可能会被命令减速。但一位专家提出了另一种可能性:汽车可能是因为视觉错觉而停下来的。

在这个视频中,特斯拉和行人之间的红色标志与人行道上的一棵树重合在一起,创造了一个类似于停车标志的图像。今年 2 月上传的一段视频展示了同样的现象,表明停车标志错觉确实在欺骗汽车。

争夺方向盘的控制权

当然,这些视频中的特斯拉并没有造成真正的危险,因为大多数情况下车主会在系统做出错误选择时及时接管。特斯拉官网显示,在使用 Autopilot 和 FSD 时,驾驶员必须「始终将手放在方向盘上」,并始终「保持对汽车的控制和责任」。



但有时候,接管也会出现麻烦。在另一个例子中,同一辆特斯拉正在经过一辆停在狭窄街道上的卡车,同时两边都停着车辆。在不确定该怎么做时,汽车软件会提示驾驶员接管。但此时驾驶员难以控制车辆,因为方向盘在剧烈地左右摆动。

在这个案例中,计算机系统和人类都试图驾驶汽车通过一个狭窄的位置,几乎没有左右摆动的空间。在大多数情况下,司机通过向软件试图转向的相反方向猛拉方向盘来接管。但是,在这种情况下,这种运动是不可能的,因此不清楚是汽车还是人在控制。由于没有急转弯,驾驶员无法通过转动方向盘来重新获得控制权,因此情况变得棘手。

认不出只有字母的停车标志

还有一个严重的问题是,特斯拉的汽车没有对「Stop here on red」(红灯在此停车)标志做出反应。密歇根州的一位司机 Chris 在 11 月发布了一段视频,在这个过程中,他被迫踩下了刹车。

一位自动驾驶研究者表示,这种在美国道路上随处可见的标志会给特斯拉工程师带来困扰。除非汽车摄像头能够识别出标志上的字母,否则计算机将不得不寻找其他线索,例如箭头标志或画在马路上的白线。但这可能会在其他情况下产生问题,导致汽车在看到道路上的线条或类似箭头标志时错误地停车。

特斯拉的许多竞争对手都使用高清地图来猜测停车和转弯的位置,但这种策略也会引发其他问题,比如任何地图都有可能跟不上持续变化的道路网络。

所以,在使用 FSD 大约一年后,Chris 认为汽车距离实现可靠的自动驾驶还需要十年时间。

除了自动驾驶,特斯拉最近还因为其他问题召回近 58 万辆汽车。

行人警告系统声音被掩盖,再次召回近 58 万辆汽车

2 月 10 日,美国监管机构表示,特斯拉正在美国召回 578607 辆汽车,因为行人可能无法听到汽车驶近时所发出的必要警报声,原因是该车的「Boombox」功能会大声播放音乐或其他声音。

在过去的四个月里,特斯拉已经在美国发布了 10 起召回事件,其中就包括最近两周的 4 起。美国国家公路交通安全管理局 (NHTSA) 对这家总部位于德克萨斯州的公司进行了越来越严格的审查。特斯拉表示,目前还没有发现任何与引发最新召回的车辆警报问题有关的撞车事故、伤亡事故。

特斯拉在 2020 年 12 月推出了「Boombox」,可以让驾驶员改变汽车喇叭音,车主可以定制其他声音来代替正常的汽车喇叭声,还可以通过外部扬声器播放车上的音乐,比如一边驾车一边在车外播放自己喜欢的歌曲。

「Boombox」允许在车辆行驶时通过外置扬声器播放声音,这可能会掩盖所需的行人警告系统声音。美国国家公路交通安全管理局表示,他们没有遵守联邦机动车安全标准关于电动车辆最低音量的要求。因此,特斯拉正在召回 2020-2022 款 Model S、 Model X、 Model S 和 2017-2022 款 Model 3 车辆。

电动汽车在低速行驶时往往比汽油发动机更难及时「听到」。根据美国国会的规定,汽车制造商必须在电动汽车以高达每小时 18.6 英里 (30 公里) 的速度行驶时,在电动汽车上添加声音播放,以防止行人、骑自行车者和盲人受伤。美国国家公路交通安全管理局表示,在更高的速度下,轮胎噪音、风阻和其他因素都会掩盖掉警报声。

软件更新后,特斯拉将在 D、N、R 三种模式时禁用 Boombox 功能。事实上,特斯拉最近的多次召回都是为了解决软件问题。在 NHTSA 对特斯拉汽车的特性和投诉提出质疑后不久,特斯拉就发生了几起召回事件。目前,监管机构正在调查特斯拉的驾驶辅助系统 Autopilot 和车载游戏功能。

在 NHTSA 的压力下,特斯拉在 2021 年 1 月同意召回 13.5 万辆触控屏可能出故障的车辆。在这种情况下,NHTSA 采取了非正常步骤正式要求召回。

特斯拉曾试图通过 OTA 更新解决这个问题,但 NHTSA 在 2021 年初表示,这些更新可能「从程序上和实质上都不够充分」。

据特斯拉介绍,NHTSA 在 2021 年 1 月发出了信息请求,随后的几个月里,双方就这个问题召开了几次线上会议。

特斯拉表示,到了 2021 年 9 月,NHTSA 升级了对此事的调查。10 月,特斯拉为用于确定 Boombox 合规性的测试和基本原理进行了辩护,但在 12 月的会议后,特斯拉最终同意召回车辆。

有关特斯拉FSD系统测评:开上电车轨道,认不出停车标志,且差点撞上行人的更多相关文章

  1. 阿里云,华为云,腾讯云三大公有云厂商,香港地区主机测评 - 2

    三大公有云厂商,香港地区主机测评一、ping时延比对(厦门电信本地测试):Ping时延测试腾讯云阿里云华为云延迟率最低时延44ms,最高72ms,平均46ms47.242段:最低时延59ms,最高204ms,平均107ms最低时延45ms,最高93ms,平均47ms丢包率丢包率小有的ip段丢包率较大每个段都会有概率丢包阿里云:47.242段:最低时延59ms,最高204ms,平均107ms,有的ip段丢包率较大8.210段:最低时延64ms,最高232ms,平均119ms,丢包率较好腾讯云:最低时延44ms,最高72ms,平均46ms,丢包率小华为云:最低时延45ms,最高93ms,平均47m

  2. 停车系统源码-基于springboot+uniapp开源项目 - 2

    Iparking停车收费管理系统-可商用介绍Iparking是一款基于springBoot的停车收费管理系统,支持封闭车场和路边车场,支持微信支付宝多种支付渠道,支持多种硬件,涵盖了停车场管理系统的所有基础功能。技术栈Springboot,MybatisPlus,Beetl,Mysql,Redis,RabbitMQ,UniApp功能云端功能序号模块功能描述1系统管理菜单管理配置系统菜单2系统管理组织管理管理组织机构3系统管理角色管理配置系统角色,包含数据权限和功能权限配置4系统管理用户管理管理后台用户5系统管理租户管理多租户管理6系统管理公众号配置租户公众号配置7系统管理操作日志审计日志8系统

  3. 特斯拉后端面试(部分) - 2

    HR告知如果面试通过要转.net-_-round1有没有用过Java新版本,知道有哪些特性吗?A:没有。Q:我们基本在用JDK11,有的新项目用到JDK17了。参考答案1:ZGC:AScalableLow-LatencyGarbageCollectorEpsilon:ANo-OpGarbageCollector。no-opGC的几个使用场景:性能测试、极度短暂job任务等String类新增的isBlank等方法RunningJavaFilewithsinglecommand:Youdon’tneedtocompilethejavasourcefilewithjavactoolfirst.You

  4. 华为OD机试用Python实现 -【停车找车位】 |2023.Q1 A卷 - 2

    最近更新的博客华为od2023|什么是华为od,od薪资待遇,od机试题清单华为OD机试真题大全,用Python解华为机试题|机试宝典【华为OD机试】全流程解析+经验分享,题型分享,防作弊指南)华为od机试,独家整理已参加机试人员的实战技巧华为OD机试300题大纲参加华为od机试,一定要注意不要完全背诵代码,需要理解之后模仿写出,通过率才会高。华为OD清单查看地址:blog.csdn.net/hihell/category_12199275.html华为OD详细说明:https://dream.blog.csdn.n

  5. 【华为OD机试真题JS、JAVA、Python】找车位 停车找车位 - 2

    前言《华为机试真题》专栏为华为OD机试真题,源码包含多种语言。如果找不到想要的考题,或者需要最新考题的答案,请进行留言机试题目,【注:留言考题请注明机试的时间】java版、javascript版和Python版三种实现方式标题:找车位 |时间限制:1秒 |内存限制:32768K |语言限制:不限题目描述停车场有一横排车位,0代表没有停车,1代表有车。至少停了一辆车在车位上,也至少有一个空位没有停车。输入描述1、一个用半角逗号分割的停车标识字符串,停车标识为0或1,0为空位,1为已停车。2、停车位最多100个。输出描述输出一个整数记录最大距离。示例1输入1,0,0,0,0,1,0,0,1,0,1

  6. 今天面试,不该说的全都说出去了,该说的迟迟说不出口 - 2

    不敢相信我已经坚持写作一个半月了,打卡已过半,但是我还是没有觉得自己进步了,可能是因为我总是把这当成一个任务,没有真正的去思考吧!唯一的好处就是,这45天是有迹可循的,每天做了什么,想了什么,发生了哪些事情,都一一用文字记录下来了。今天出去面试了,了解公司的基本情况之后,我终于又一次走出家门了!说实话,我不是很看重这家公司,各方面条件不是很成熟,又是一个从0到1的项目,会不会做到中途又烂尾还是个迷,所以面试过程虽然聊了很多,也感觉面试官不是很在意我,在问到我的期望薪资的时候,我又说了10K。唉,每一次面试我就要反省自己,说话说不到重点,不该说的全都说出去了,该说的迟迟说不出口,还总是没有逻辑,

  7. 【仿真建模】第三课:AnyLogic入门基础课程 - 多层建筑行人疏散仿真讲解 - 2

    文章目录一、Agent类的概念二、行人疏散仿真2.1仿真模型示意图2.2具体实现步骤学习、参考链接:Anylogic入门基础课程一、Agent类的概念二、行人疏散仿真2.1仿真模型示意图2.2具体实现步骤首先,新建模型新建一个MyFloor1对象,代表第一个楼层创建矩形墙,并放到原点建立如下的模型,需要注意的是:服务的延迟时间、PedWait的延迟时间的单位都设置为分钟PedSource、PedGoTo和PedWait都设置在矩形范围修改PedSource到达根据为inject()函数调用在启动时执行命令【作用是一次性生成20个人】:pedSource.inject(20);回到Main窗口,

  8. SAI创始人谈美股IPO:做清洁算力领域“特斯拉” 减少碳排放 - 2

    雷递网雷建平5月5日报道总部位于新加坡、提供清洁算力的算能运营商SAITECHLimited于2022年4月29日与SPAC(特殊目的收购公司)“TradeUPGlobalCorporation(TUGCU)”完成合并,并于5月2日开始交易。合并后的公司在纳斯达克上市,股票代码为“SAI”,合并交易的公司股权估值为1.88亿美元。SAI创始人兼首席执行官ArthurLee接受雷递网专访时表示,SAI力争成清洁算力领域的“特斯拉”,帮助减少整个社会的碳排放。ArthurLee表示,希望SAI未来在清洁算力领域能像特斯拉在汽车领域一样,对行业带来颠覆性改变,让行业的底层基础设施向更清洁、更高效方向

  9. 转行人必看:数字IC前端设计学习路线与方法(内附学习视频) - 2

    众所周知,数字前端设计对于工程师的能力要求比较高,不仅有学历上的要求,还要求掌握很多的知识技能。不少跨专业想要转行的小伙伴对数字前端设计这个岗位不是很了解,下面IC修真院就带大家全面了解一下数字IC前端设计。数字前端到底是什么?集成电路设计(IntegratedCircuit,简称IC)一般分为数字IC设计、模拟IC设计和数模混合IC设计。数字IC设计一般又会进一步细分为前端设计(Front-endDesign)和后端设计(BackendDesign)。前端数字IC工程师的工作一般包括电路规范(Spec.)的撰写,电路架构的设计,电路的实现以及验证、综合出符合要求的电路网表(netlist),

  10. 等保中级测评师知识框架——一、基础知识(8) - 2

    工具测试与渗透测试方法什么是工具测试工具测试的目的工具测试的作用测试流程收集目标系统信息规划接入点制定《工具测试作业指导书》现场测试结果整理注意事项什么是工具测试工具测试,是利用各种测试工具,通过对目标系统的扫描、探测等操作,使其产生特定的响应等活动,通过查看、分析响应结果,获取证据以证明信息系统安全保护措施是否得以有效实施的一种方法工具测试的目的利用工具测试,可以直接获取到目标系统存在的系统、应用等方面的漏洞。还可以在不同的区域接入测试工具所得到的测试结果,判断不同区域之间的访问控制情况。结合其他核查手段,可以为测评结果的客观和准确提供保证。工具测试的作用工具测试作为一种灵活的辅助测评手段,

随机推荐