周鸿祎：当下AI技术并不完善存四大“冰点”

2019-01-22 10:12:55 来源：新浪网抢沙发

2019-01-22 10:12:55 来源：新浪网

摘要：周鸿祎还指出，人工智能是个热词，也是未来的大势所趋。但当下的人工智能技术并不完善，存在四大冰点
关键词：周鸿祎 AI

　　1月21日晚间消息，中国人工智能学会“人工智能与安全专委会”昨日在京成立，360集团董事长兼CEO周鸿祎当选首任专委会主任。他表示，智能音箱变身窃听器并不是科幻电影里的场景。

　　周鸿祎称，360与浙大合作发现了一种“海豚音攻击”，该攻击人耳无法听见，但通过超声波信号可以劫持智能设备的语音控制系统，再利用麦克风的硬件漏洞，就可以悄悄开启语音助手，把智能音箱变成窃听器，窃取用户隐私。此外，“海豚音攻击”还可用于攻击多种拥有语音助手的智能设备，包括智能手机、智能手表、智能汽车等。

　　周鸿祎还指出，人工智能是个热词，也是未来的大势所趋。但当下的人工智能技术并不完善，存在四大冰点：

　　第一、前端传感器可以被干扰。人工智能广泛依赖音视频采集、红外感应、激光雷达等各类传感器。但这些传感器自身并不安全，能够被干扰，造成人工智能识别和决策失误。“海豚音攻击”就是干扰语音传感器的方式之一。

　　第二、人工智能的数据样本可以被污染。目前人工智能采用深度学习模型，黑客可以构建畸形输入或者污染训练数据集，进行“数据投毒”，导致人工智能出错。比如，通过给智能汽车输入“污染”过的训练样本，就可以把“禁止通行”的交通标志牌识别为“可以通行”，从而造成交通事故。

　　第三、内部算法可以被欺骗。人工智能本质上是一种用大量数据训练出来的概率判断系统，其内部复杂的计算逻辑和决策过程还不透明，可以被欺骗或绕过。周鸿祎表示，人工智能也许可以有99.99%的概率保证识别是正确的，但是对于安全来讲，它只要出现一次识别错误，就会造成严重后果。

　　第四、实现平台有漏洞。周鸿祎介绍，当下的人工智能系统都依赖开源的深度学习框架，存在大量漏洞，当前360研究人员已经发现了40多个深度学习框架的软件漏洞。

　　“人工智能无疑是下一轮技术革命的焦点，在技术高速发展的同时，如何保持这个技术更安全是重中之重”，周鸿祎建议，解决人工智能时代的安全问题，能够防范的唯一方法就是利用基于大数据的人工智能，“希望通过开放数据、技术、能力和平台，与产学研各界通力合作，真正把360安全大脑的产业生态做起来，在未来的国家安全、城市安全中发挥重要作用”。

第三十五届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训

责编：kongwen

免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。