【特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车( 二 )||刹车|特斯拉】_

按关键词阅读：

算法的错误操作，也绝不是代码执行效果不佳的结果。
它们不是典型的功能性缺陷（如缓冲区溢出、SQL注入），可以通过添加 “if “语句轻松修补。
这种现象反映了模型对于目标检测的基本缺陷，即它们没法分辨目标的真假。
简单的办法攻击是直接使用投影仪，在车辆行进线的道路上投射出一个物体，可影像以是行人、汽车、交通标致等等。
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

第二种方法，是在路边的广告牌上显示出某些干扰信息，比如限速、转弯等。
这些干扰信息的持续时间不用很长，只需要几百毫秒的时间，就足以让号称最先进的特斯拉Autopilot作出错误反应。
研究人员分别测试了Autopilot系统和Mobileye面对干扰持续时间出错的概率：
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

可以看出来，干扰持续时间超过0.4秒，两个系统100%会出现问题。
Moblieye的反应更是比特斯拉自动驾驶灵敏的多，几乎对任何细微的干扰都会有反应。
特斯拉反应慢半拍，在这种攻击下却意外起到了「正面作用」。
如何解决这个问题？
研究人员提出了GhostBuster ，意思是「捉鬼小分队」。
「分队」表示这套系统不止一个神经网络，团队在整个「捉鬼」行动中设置了5层不同的深度神经网络。
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

其中，核心的四个轻量级深度CNN ，通过检查物体的反射光、上下文、物体的表面和形状深度来评估物体的真实性和可靠性。
第五个模型使用前四个模型的结果给出最终判断。
这套5个不同神经网络构成的系统在测试中取得了不错的成绩，在阈值设置为零的情况下， AUC超过0.99（ROC曲线下面积）， TPR为0.994（真阳性比率）。
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

使用了GhostBuster的带有七个传感器的自动驾驶系统，攻击成功率从之前的99.7-81.2%降低到0.01% 。

本文图片

单看实验结果，这套系统效果十分好，但是研究人员也指出了它的不足，因为这套系统只针对纯视觉的自动驾驶方案，而激光雷达的案例未考虑在内。
而对于特斯拉这种纯视觉方案来说，一旦系统认定“非障碍” ，其他摄像头探测结果都会被忽略，形成严重安全隐患。
特斯拉自动驾驶方案的局限
其实，对激光雷达有所了解的读者，应该会质疑这项研究的有效性。
因为，激光雷达是不受视觉图像干扰的。
团队也承认一般采用混合方案的自动驾驶系统基本能解决这个问题。
但，路上确实也存在想像特斯拉这样纯视觉方案的车不是？
这项研究揭示的自动驾驶模型本身的缺陷，大大降低了不法之徒攻击的难度和成本。
由于不涉及算法底层代码，幽灵攻击甚至不要求任何专业知识，也不要复杂的前期调查准备，花几百美元买个投影仪或者无人机就能实现。
而且在攻击时，不需要人员靠近现场，完成后也能迅速撤离，难以留下证据。
低成本的犯罪手段，造成的后果轻则交通拥堵，重则车毁人亡。
科技媒体Wired已经就这个问题联系了特斯拉和Mobileye ，但是双方均未回应。
研究团队
这次「幽灵攻击」的实施者，是来自以色列本·古里安大学和美国佐治亚理工学院的研究人员。