腾讯安全科恩实验室最新自动驾驶研究成果入选国际顶会USENIX Security 2021
腾讯安全科恩实验室最新自动驾驶研究成果入选国际顶会USENIX Security 2021
2021-08-13 16:33:33 来源:
抢沙发
2021-08-13 16:33:33 来源:
摘要:安全领域四大顶会之一USENIX Security 2021近日正式举办。腾讯安全科恩实验室最新自动驾驶安全研究成果相关论文:《Too Good to Be Safe: Tricking Lane Detection in Autonomous Driving with Crafted Perturbations》在会议上发布。
关键词:
腾讯安全
安全领域四大顶会之一USENIX Security 2021近日正式举办。腾讯安全科恩实验室最新自动驾驶安全研究成果相关论文:《Too Good to Be Safe: Tricking Lane Detection in Autonomous Driving with Crafted Perturbations》在会议上发布。

USENIX Security始于上世纪90年代初,是信息安全领域四大顶级学术会议之一,研究领域涵盖二进制安全、固件安全、取证分析、Web安全、隐私保护、恶意分析等。USENIX Security同时被中国计算机学会(CCF)认定为网络安全A类国际学术会议,多年来的论文接受率均低于20%。
该研究由科恩实验室和香港理工大学罗夏朴教授团队及宾州州立大学王挺教授联合完成,基于黑盒测试和优化算法,在科恩实验室2019年发布的车道线系统攻击(即在路面部署干扰信息,导致车辆经过时对车道线做出错误判断,致使车辆驶入反向车道)方法基础上,设计了一套针对车道线系统的自动化攻击方法。

研究团队基于对抗样本的思路,旨在找到人眼不易发现漏洞、并且可以欺骗系统的扰动。基于黑盒测试和优化算法在数字图像层面找到最佳扰动,并将该扰动布置到物理世界。在实验中,处于自动驾驶状态的车辆成功被引入逆向车道。

攻击场景:在十字路口引导自动驾驶车辆驶入逆向车道
自2018年起,腾讯安全科恩实验室积极布局人工智能安全研究,并在"安全+AI"交叉领域结合应用场景研究探索。基于对抗样本生成、二进制分析等问题的研究,先后在多个顶级期刊与会议上发表了自动驾驶的实验性安全研究、基于图神经网络的二进制代码分析、基于跨模态检索的二进制-源代码匹配等论文。2019年12月,科恩利用图神经网络解决二进制程序函数相似性分析问题的论文,被人工智能顶级学术会议AAAI-20会议收录;2020年11月,科恩提出基于AI的二进制代码/源代码端到端匹配算法,入选人工智能顶级学术会议NeurIPS 2020。
在AI安全研究与能力建设领域,科恩实验室始终秉持开放合作的态度,通过各类研究合作项目与广大研究学者进行深入学习交流,并积极与香港科技大学、香港理工大学、中科院信息工程研究所等权威机构开展合作科研。未来,科恩实验室也将对外开放更多技术能力,并持续将前沿领域的探索成果应用在安全领域当中。
论文链接: https://keenlab.tencent.com/zh/whitepapers/Tricking-Lane-Detection-pre-publication.pdf
第三十八届CIO班招生
国际CIO认证培训
首席数据官(CDO)认证培训
责编:baxuedong
免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。