【特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车||刹车|特斯拉】_

按关键词阅读：

金磊贾浩楠发自凹非寺
量子位报道 | 公众号 QbitAI
讲个「鬼故事」：
夜深人静，一辆特斯拉Model X在空无一人的公路上行驶着。瞬间！它看到了「人类看不见的东西」，于是便刹车在路上停了下来……
来感受一下这种feel 。
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

而这辆特斯拉停车的原因，竟然是因为它看到了「幽灵」。
坐在自动驾驶车上，大半夜的又遇上这种事情，可以想象驾驶员的心理阴影了。
……
但实际上，其实特斯拉看到的并非是「不干净的东西」，而是被称作「幽灵」（Phantom）的一种攻击自动驾驶辅助系统（ADAS）的图像——掺杂在路边广告牌视频中。
这种图像出现的时长极短，可以用一瞬间来形容。
人类驾驶员往往不会注意到，但对于自动驾驶系统，却成为「强有力的停车信号」。
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

也千万不要小瞧这种攻击，它给自动驾驶车辆和人类带来的后果，或许要比这个「鬼故事」还要恐怖。
隐藏在广告牌中的「幽灵攻击」
在这个案例中，「幽灵攻击」是隐藏在路边广告牌的视频中。
当时，视频中的内容是这样的。
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

看似是美味的汉堡包广告，但播放期间掺杂了一张「幽灵攻击」图像，这就是「鬼故事」的罪魁祸首——0.42秒的停车路标。
人类驾驶员大概率在行驶过程中，不会过分关注路边广告牌的视频内容；即使看到了这一闪而过的图像，也基本会认为是个bug 。
但自动驾驶系统就不同了，顶着那么多雷达和摄像头，时时刻刻「眼观六路」。
于是，搭载特斯拉HW3的Model X ，便采纳了这一瞬间停车路标的「建议」。
可能你会说，特斯拉Model X或许是个例。
别急，「幽灵攻击」还在Mobileye 630 Pro系统做了实验。
这次隐藏在视频中的内容是这样的。
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

此次的「幽灵攻击」是一张仅闪现0.125秒的「90英里/小时」路标。
于是，搭载Mobileye 630 Pro的车辆，在「看到」这个视频后，速度就真的控制在了90……
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

「幽灵攻击」都是这种一闪而过的图像吗？
不不不。
在路上投影个图像，也是可以的。

本文图片

这一次，「幽灵攻击」不再是转瞬即逝，而是一直好好的「躺」在那里。
然后搭载HW2.5的特斯拉，就把图像检测成了「人」，车速从18英里/小时，降到了14英里/小时。
来看下AI眼中的世界：
特斯拉|特斯拉大半夜“见鬼”！空无一人的路上，它却看见“幽灵”秒刹车
本文图片

安全，一直是自动驾驶领域十分关注的问题，也是必须要保障的一个点。
但为什么如此简单的图像攻击，就能把这些可以说最先进的自动驾驶系统，秒秒钟给忽悠「瘸」了呢？
「幽灵攻击」背后原理
其实，攻击自动驾驶辅助系统的手段再简单不过了，根本不涉及黑进特斯拉或Mobileye的系统。