第二张“幻影”图像可能使特斯拉的自动驾驶仪蒙上阴影参考译文安全问题像特斯拉这样的自动驾

文章插图
文章插图
文章插图
文章插图
文章插图
文章插图
文章插图
文章插图
文章插图
参考译文
文章插图
安全问题像特斯拉这样的自动驾驶辅助系统通常专注于汽车看不见的东西，例如2016年一辆特斯拉与明亮的天空相混淆的卡车的白色侧面，导致驾驶死亡。但是，一组研究人员一直专注于自动驾驶系统可能会发现人类驾驶员没有看到的东西，包括那些实际上不存在的“幻像”物体和标志，这可能在路上造成严重破坏。
以色列内盖夫本古里安大学的研究人员在过去两年中一直在尝试使用这些“幻像”图像欺骗半自动驾驶系统。他们之前曾透露，他们可以使用瞬间的光线投射来成功诱使特斯拉的驾驶员辅助系统自动停车，而不会在特斯拉的摄像头看到道路标志或行人的假像时发出警告。在新的研究中，他们发现只需在广告牌的视频中插入几帧路标，就可以实现相同的技巧。他们警告说，如果黑客劫持了一个连接互联网的广告牌来实施该技巧，那么它可能会导致交通拥堵甚至交通事故，同时留下的证据很少。
本·古里安大学和佐治亚州的研究员伊斯罗尔·米尔斯基（Yisroel Mirsky）表示：“攻击者只是照亮道路上的物体图像，或者向数字广告牌中注入几帧，汽车就会踩刹车或可能转弯，这很危险。 ”研究工作的技术人员，将在下个月的ACM计算机和通信安全会议上发表。 “驾驶员甚至根本不会注意到。因此，有人的汽车会做出反应，而他们也不知道为什么。 ”
在今年初发布的第一轮研究中，研究小组将人物形象投射到道路上，并将道路标志投射到树木和其他表面上。他们发现，当晚上可以看到投影时，他们可以欺骗运行HW2.5 Autopilot驾驶员辅助系统的特斯拉Model X（当时可用的最新版本，现在是第二最新的版本）和一个Mobileye 630设备。他们设法让特斯拉停了下来，让幻影的行人出现了不到一秒钟的时间，并诱使Mobileye设备将不正确的速度限制传达给了带有预计道路标志的驾驶员。
在最新的一组实验中，研究人员将幻影停车标志的帧注入了数字广告牌，模拟了他们所描述的场景，即有人侵入路边广告牌以更改其视频。他们还升级到了特斯拉最新版本的自动驾驶仪，称为HW3 。他们发现，他们可以再次欺骗特斯拉，或导致同一台Mobileye设备仅用几帧更改后的视频就给驾驶员错误的警报。
研究人员发现，出现0.42秒的图像会可靠地欺骗特斯拉，而只出现八分之一秒的图像会欺骗Mobileye设备。他们还尝试在视频帧中找到可以吸引人眼最少注意的点，以至于开发了自己的算法来识别图像中像素的关键块，从而可以使用半秒的幻像路标滑入“无趣”部分。他们说，虽然他们在一条小路上的电视大小的广告牌屏幕上测试了他们的技术，但他们说它很容易适应数字高速公路的广告牌，因为它可能引起更大范围的混乱。