按关键词阅读:
算法的错误操作 , 也绝不是代码执行效果不佳的结果 。
它们不是典型的功能性缺陷(如缓冲区溢出、SQL注入) , 可以通过添加 “if “语句轻松修补 。
这种现象反映了模型对于目标检测的基本缺陷 , 即它们没法分辨目标的真假 。
简单的办法攻击是直接使用投影仪 , 在车辆行进线的道路上投射出一个物体 , 可影像以是行人、汽车、交通标致等等 。
本文图片
第二种方法 , 是在路边的广告牌上显示出某些干扰信息 , 比如限速、转弯等 。
这些干扰信息的持续时间不用很长 , 只需要几百毫秒的时间 , 就足以让号称最先进的特斯拉Autopilot作出错误反应 。
研究人员分别测试了Autopilot系统和Mobileye面对干扰持续时间出错的概率:
本文图片
可以看出来 , 干扰持续时间超过0.4秒 , 两个系统100%会出现问题 。
Moblieye的反应更是比特斯拉自动驾驶灵敏的多 , 几乎对任何细微的干扰都会有反应 。
特斯拉反应慢半拍 , 在这种攻击下却意外起到了「正面作用」 。
如何解决这个问题?
研究人员提出了GhostBuster , 意思是「捉鬼小分队」 。
「分队」表示这套系统不止一个神经网络 , 团队在整个「捉鬼」行动中设置了5层不同的深度神经网络 。
本文图片
其中 , 核心的四个轻量级深度CNN , 通过检查物体的反射光、上下文、物体的表面和形状深度来评估物体的真实性和可靠性 。
第五个模型使用前四个模型的结果给出最终判断 。
这套5个不同神经网络构成的系统在测试中取得了不错的成绩 , 在阈值设置为零的情况下 , AUC超过0.99(ROC曲线下面积) , TPR为0.994(真阳性比率) 。
本文图片
使用了GhostBuster的带有七个传感器的自动驾驶系统 , 攻击成功率从之前的99.7-81.2%降低到0.01% 。
本文图片
单看实验结果 , 这套系统效果十分好 , 但是研究人员也指出了它的不足 , 因为这套系统只针对纯视觉的自动驾驶方案 , 而激光雷达的案例未考虑在内 。
而对于特斯拉这种纯视觉方案来说 , 一旦系统认定“非障碍” , 其他摄像头探测结果都会被忽略 , 形成严重安全隐患 。
特斯拉自动驾驶方案的局限
其实 , 对激光雷达有所了解的读者 , 应该会质疑这项研究的有效性 。
因为 , 激光雷达是不受视觉图像干扰的 。
团队也承认一般采用混合方案的自动驾驶系统基本能解决这个问题 。
但 , 路上确实也存在想像特斯拉这样纯视觉方案的车不是?
这项研究揭示的自动驾驶模型本身的缺陷 , 大大降低了不法之徒攻击的难度和成本 。
由于不涉及算法底层代码 , 幽灵攻击甚至不要求任何专业知识 , 也不要复杂的前期调查准备 , 花几百美元买个投影仪或者无人机就能实现 。
而且在攻击时 , 不需要人员靠近现场 , 完成后也能迅速撤离 , 难以留下证据 。
低成本的犯罪手段 , 造成的后果轻则交通拥堵 , 重则车毁人亡 。
科技媒体Wired已经就这个问题联系了特斯拉和Mobileye , 但是双方均未回应 。
研究团队
这次「幽灵攻击」的实施者 , 是来自以色列本·古里安大学和美国佐治亚理工学院的研究人员 。
稿源:(量子位)
【】网址:http://www.shadafang.com/c/hn1012963R32020.html
标题:特斯拉|特斯拉大半夜“见鬼”!空无一人的路上,它却看见“幽灵”秒刹车( 二 )
人文
时尚探究社@衣服绑了几根“绳子”就穿出门,靓女的穿搭风格就是与众不同
阅读(21)
文章图片 这个世界上很多东西都是相反的 , 就比如一个女人的年纪越大可能就越喜欢年轻可爱的东西 , 而对于一些年纪比较青春的却喜欢一些成熟风韵的东西 。 所以我们在大街上看到一个穿着很性感的女生她很有可能是一个俏皮可爱的青春女孩 , 那么我们今天的...
人文
年薪制| 年薪制要来了吗?事业单位职工收入或将有大变化!
阅读(22)
近日,人社部组织实施人才服务专项行动,推进高校、科研院所薪酬制度改革。落实高层次人才工资分配激励政策,鼓励事业单位对高层次人才实行年薪制、协议工资制、项目工资等灵活多样的分配形式。鼓励事业单位对高层次人才实行年薪制、协议工资制、项目工资等灵...
人文
午间时刻《欢喜猎人》要播了吗?包贝尔贾玲再次合作,携手《欢喜密探》原班人马回归
阅读(35)
网剧《欢乐密探》就是一部不错的喜剧作品,而《欢乐猎人》是《欢乐密探》原班人马打造的第二部影视作品,所以有很多人都等着可以早点看到这部剧,然则在《欢乐猎人》拍了两年今后,一向没有播出,大年夜家也都等得异常焦急。不过,有传言说《欢乐猎人》这部电...
人文
凤眼看房长沙|长三角多市出台调控政策 房企拿地热情不减
阅读(17)
回望过去一段时间,不仅是宁波,整个长三角已是房企必争之地。今年融资环境稍有宽松后,大小房企集体携金杀往长三角,土拍市场屡现高溢价,即便多地出手调控,仍有地王出现。楼市也在市场情绪助推下迅速反弹。“近年来三四线城市房产饱和、风险积聚,标杆企业...
人文
#quot#六旬男子足底黑痣会长大 检查发现是恶性肿瘤
阅读(10)
本年60 岁的陈师长教师比来有些忧?。本来,三年前他的左脚底足跟邻近长了一颗黄豆大年夜小、凸起的黑" 痣"。一年前开端,这颗" 痣" 有逐渐长大年夜之势,伴有些许压痛,于是陈师长教师按期到家邻近的修脚店把这颗" 痣" 磨平,...
阅读(20)
1供给侧改革进展迟缓大年夜实际来看,医疗供给侧改革在社会办医、医务人员自由执业、公立病院去行政化三个方面并没有太多本质性的进展,这也是我国医改未能有大年夜冲破的重要原因。1.1社会办医成长迟缓成长社会办医,不仅是实际须要,也是一种策略。在公立病...
人文
格萨尔|《藏地奇兵》石渠开机 穿越藏地最后秘境热血探险
阅读(15)
由沃星影业、拉近影业、拉近沃星影业出品,成都影视硅谷集团、青岛东望影业联合出品的电影《藏地奇兵》于10月12日在四川石渠正式开机。该片由著名演员秦岚担任出品人兼艺术总监,张楚晗担任总制片人,张著麟、李希杰、温子迅执导,魏千翔、屈菁菁、邢瀚卿、吴...
人文
Tina|卫衣 + 半裙,照着穿好看爆了 !
阅读(21)
卫衣+半裙的搭配,属实是显胖王者,它要是称第二,那也是太谦虚了。当你挑选的裙子也很宽松时,穿上它就是灾难本身,转过身去看背后,Tina都想落泪,这五五分的身材是真实存在的吗?明明是同款卫衣,却比旁边穿裤子的look,腿长短了好多!不过小可爱们不用害...
阅读(43)
这个夏天阴阳色也太好看了吧~又个性,又显白的发色,就算搭配学院风也一点都不突兀。一看就是经常健身的小姐姐,这个身材曲线真的羡慕了~不要太美~...
人文
怪我碍你|十月再见,十一月你好,释然过往,砥砺向前
阅读(12)
逝去的时光中,总有一些东西会在心中成为永恒,那么,就铭记那些美好吧,心中有阳光,充满正能量,微笑着面对生活;也会有些事情成为遗憾,有些心愿没能实现,但也不要气馁,更不要抱怨,笑看过往,努力过好当下和明天,不胡思乱想,不执着于过去。愿所有的真...