据《麻省理工科技评论》网站报道,在无人驾驶卡车和出租车能真正上路前,厂商需要解决的问题远不止防止碰撞和导航这么简单。
无人驾驶汽车将必须提前预见到和抵御恶意黑客全方位的传统网络攻击和基于对抗性机器学习的新一代攻击。业内越来越达成共识,未来数年无人驾驶汽车将被用作机器人出租车,或用于卡车,但大量的媒体报道对这种攻击威胁基本上视而不见。
这使我想起1990年代大量宣扬电子邮件的文章,当时还没有出现令人讨厌的垃圾邮件。当时,机器学习被认为能解决垃圾邮件难题。事实上,目前垃圾邮件问题已经基本上得到解决——但却用了数十年时间。
目前尚没有恶意黑客攻击自动驾驶汽车的媒体报道。具有讽刺意味的是,这是个问题。当互联网创业公司在1990年代开发首批电子商务平台时,世界上还没有恶意黑客呢。在电子商务遭遇第一波大规模攻击后,比尔·盖茨(Bill Gates)发表备忘录,要求微软认真对待安全问题。结果是:Windows成为目前最安全的操作系统之一,微软每年在网络安全方面的支出超过10亿美元(约合人民币67亿元)。虽然如此,黑客并未放弃在Windows操作系统、浏览器和其他软件中寻找安全缺陷。
《麻省理工科技评论》表示,汽车公司可能经历相似的历程。在因没有考虑安全问题而遭遇尴尬后——1980年代设计的CAN总线,就没有认证的概念——它们似乎现在注意到这一问题。当黑客证明在路上行驶的汽车可能因数个安全缺陷遭到攻击时,汽车厂商做出了回应:召回数百万辆汽车,并对固件进行升级。去年7月,通用汽车首席执行官玛丽·巴拉(Mary Barra)表示,保护汽车不会遭到网络攻击“是一个公共安全问题。”
但迄今为止的努力可能错过了下一个安全趋势。正在开发中、用于无人驾驶汽车的计算机视觉和防碰撞系统,依赖于复杂的机器学习算法——这些算法不容易理解,即使是对于依赖它们的公司。
去年卡耐基梅隆大学研究人员通过演示表明,佩戴镜架上印有时髦图案的眼镜,能使先进的人脸识别算法失效。这一项目的首席研究人员马哈茂德·谢里夫(Mahmood Sharif)在一封电子邮件中写道,“我们的研究表明,黑客能绕开先进的人脸识别算法,或使系统不能正确识别目标。”
去年,南卡罗来纳大学、浙江大学和奇虎360的研究人员通过演示表明,他们能破坏特斯拉S电动汽车的多个传感器,使其导航系统“看不见”其他物体。
最近许多有关无人驾驶的文章,都对恶意黑客尝试让汽车碰撞轻描淡写,甚至避而不谈。在接受《麻省理工科技评论》采访时,美国国家运输安全委员会主席克里斯托弗·哈特(Christopher Hart)表示,他对自动驾驶汽车能减少交通事故“非常乐观”。在讨论安全问题时,哈特强调让自动驾驶汽车做出符合伦理的决策——例如,当一辆8万磅(36吨)的卡车突然挡住一辆汽车的去路时。
《麻省理工科技评论》称,知道会造成车毁人亡交通事故的情况下,为什么还会有人攻击自动驾驶汽车?一个原因是自动驾驶汽车的广泛普及,会让许多人失业,部分失业者可能心生怨气。
2016年8月,福特首席执行官马克·菲尔兹(Mark Fields)表示,他预计到2021年,无人驾驶出租车就会投入运营。谷歌、尼桑和其他公司,则计划最早在2020年推出类似的无人驾驶汽车。只需一个大功率激光棒,这些无人驾驶出租车或送货车就“眼花缭乱”了。
在被问到应对对抗性机器学习威胁的计划时,Uber发言人萨拉·阿布德(Sarah Abboud)表示,“我们的安全专家团队在不断探索未来的自动驾驶汽车安全措施,包括数据完整性和滥用探测。但是,随着自动驾驶技术的进步,威胁模式也会随之发展,这意味着目前的一些安全问题,在未来真正的无人驾驶环境中已经不再是个问题。”
数次交通事故就能叫停自动驾驶汽车的部署。这可能不会影响先进的自动驾驶系统,但对于无人驾驶汽车的部署,却是一个相当大的障碍。
智能界(www.znjchina.com)中国智能科技聚合推荐平台,秉承“引领未来智能生活”的理念,专注报道智能家居、可穿戴设备、智能医疗、机器人、3D打印、智能汽车、VR/AR/MR/、人工智能等诸多科技前沿领域。关注智能创新对人的生活方式、价值的改变,致力传播放大这部分声量。聚合品牌宣传、代理招商、产品评测、原创视频、fm电台与试用众测,深入智能科技行业,全平台多维度为用户及厂商提供服务,致力成为中国最具影响力的智能科技聚合推荐平台。
智能界【微信公众号ID:znjchina】【新浪/腾讯微博:@智能界】
评论列表(已有条评论)
最新评论