“人工智能用于许多无人值守系统，一旦被网络劫持，将带来严重的安全问题。”360公司创始人、董事长周鸿祎今天在第二届世界智能大会的主论坛发表了演讲。

周鸿祎坦言做安全的人都有点“变态”，是“破坏狂”。当大家都在琢磨一个好事时，他们会下意识地思考这个事情有没有什么问题。做防守的人要想打磨出真正好的“盾”，就要先透彻研究“矛”。

世界上没有攻不破的网络

网络安全已进入“大安全”时代。物理世界和虚拟世界通过万物互联已经打通，线上线下的边界正在消失，所有过去在网络空间里对信息的攻击，都会穿透虚拟空间直接映射到物理世界的安全。去年勒索病毒的流行，造成有的医院做不了手术、机动车上不了牌照，影响了社会的稳定和安全。

在周鸿祎看来，最主要的挑战有三点：一是世界上没有攻不破的网络。软件是人写的，人写的就会犯错误，每一千行代码就有4-6个错误，可以想象一下今天许多复杂的系统背后有多少行代码。这些有意无意留在系统里的漏洞一旦被人利用，整个系统就变得让人如入无人之境。二是，人是最薄弱的环节。虚拟配音、虚拟视频的手法很容易用于“钓鱼”攻击，可以伪造出亲友的声音和视频，跟你说请速给我打钱。三是信息领域核心技术受制于人。大家都知道英特尔的AMT的CPU有一些漏洞，导致运算性能的下降。但大家没有关注到的是CPU里还可以隐藏系统，这个隐藏的系统是独立于电脑之外的，基本是超级权限，可以干任何事情。这些问题不解决，即使有再强大的人工智能系统，在关键的时候，CPU不工作了，人工智能系统也就“歇菜”了。

特斯拉每出一款新车，360都可以最快速度劫持

网络攻击对智能经济发展带来严重威胁。制造业是立国之本，也是经济发展的主力军。但是，这个方面已经开始成为黑客攻击的目标。

去年5月份的勒索病毒，全球150个国家受到影响，我国不少工业企业也中招。病毒爆发2周，全国各地的工业园区爆发攻击事件2000多起，不少大型制造企业车间停摆。据介绍，某汽车制造企业的工业控制系统被勒索病毒攻击，整个生产系统20%的工业终端中招，生产流水线的核心部分动力电池生产系统陷入瘫痪。当天晚上该企业向360公司寻求帮助，他们发现这么大的工厂根本没有安装任何安全软件，他们只能逐一对其电脑进行排查，用了一天才救活了动力电池系统，后来又用了2个月时间，这家企业生产网里的病毒才被清理干净。“举这样的例子，可能是不给企业面子。但一个残酷的事实是，很多工厂在进行数控车床等工业机器联网的时候，没有考虑到会有漏洞，也从来没有升级过。”

周鸿祎给当下“火热”的智能汽车“泼冷水”。“没有安全就不可能有真正的智能汽车时代。既然汽车可以联网，用手机可以远程地打开车门和空调，也一定可以被劫持。”据介绍，特斯拉公司每出一款新车，360公司都可以最快速度进行劫持，他们已三次入选特斯拉的模拟名人堂。

人工智能自身存在着安全问题

周鸿祎认为，人工智能自身存在着安全问题。人工智能依赖的传感器、训练数据和使用的开源软件等都可能存在安全隐患，可以被欺骗或入侵。因此，当人工智能用于许多无人值守系统，一旦被网络劫持，将带来严重的安全问题。

“人工智能是用大量数据训练出来的概率系统，并不是证明完备的系统。它可能有99%的识别率是正确的，但只要有一次识别错误就会造成严重的后果。”今天所有的无人驾驶汽车都经过了大量的图像、视频识别路况的训练，但只要某一种情况没有经过训练，产生了误判，可能就会带来严重的结果。最近的一个案例，就是Uber的无人驾驶车撞死了一位过马路的行人。据当时的情况来看，没有路灯的夜晚，这位行人穿着黑衣服，推着自行车横穿马路。Uber的传感器和摄像头都感知到了这位行人，但它的概率系统并没有将其判断成一个人。

目前很多国内企业用的是美国和国际上开源的深度学习系统。“360已发现了几十个开源深度学习系统的安全漏洞。”他们针对智能音箱最近做了一个实验，先伪造了一段超声波的声音传给智能音箱，让其产生错乱，从而劫持这个音箱。“你有人工智能新的输入方法，我就有人工智能新的攻击方法，所谓道高一尺魔高一丈。”做防守的人要想打磨出真正好的“盾”，就要先透彻研究“矛”。

周鸿祎透露，5月18日，公司将借助这次在天津举办的世界智能大会发布360“安全大脑”。据介绍，之前，这一“安全大脑”系统曾经提前一周感知到对美国东海岸网络的潜在攻击。