AI的安全挑战

　　近两年人工智能（Artificial Intelligence）已经成为一个炙手可热的名词，各行各业尤其是信息产业已将人工智能视为行业的下一个发展方向。

 

　　遍地开花的人工智能

 

　　人工智能不断涌现的各种成果频繁刺激着社会的认知，改变着人们的生产生活方式。各类智能机器人不断面世，机器人索薇娅成为全球首位被赋予法律公民身份的机器人；继AlphaGo横扫围棋大师后，来自国产的人工智能程序星阵围棋（Golaxy）也战胜了中国围棋第一人柯洁；在自动驾驶领域，美国和中国的人工智能无人驾驶进展遥遥领先，无人车上路正在逐步变为现实??

 

　　无论是资本领域，还是国家层面，都敏感地意识到了人工智能可能带来的变革。各国在顶层设计上出台各种政策规划，促进人工智能产业发展，力图抢占未来科技制高点。美国的《美国国家人工智能研究和发展战略计划》，欧盟的《欧盟人工智能》草案积极推动发展人工智能行业；我国的《新一代人工智能发展规划》、《促进新一代人工智能产业发展三年行动计划》以及十三五规划，更是对人工智能的创新发展做出了战略部署。

 

　　在中国这个最大的全球市场支撑下，人工智能的应用在中国发展的风生水起。人们日常的信息获取、出行、网购、身份识别、语音互动等场景，人工智能技术早已深植其中。2017年麻省理工科技评论公布年度全球十大突破技术，包括深度学习、刷脸支付、自动驾驶等在内的人工智能领域热门技术均入选，而这些技术的主要研究者包括了科大讯飞、阿里巴巴、百度等多家中国企业，表明我国在人工智能技术研究方面已经走在了世界前列。

 

　　在政务应用上，我国也开始采用人工智能技术提升工作效能，促进政务服务创新。如应用了人工智能技术的“天网”目前已在全国16个省市自治区部署，其动态人脸识别技术成效显着；在司法领域，法院智能研判系统可以为法官提供办案规范和量刑分析等精准信息，刑事案件智能辅助办案系统可对几万份刑事案件的卷宗、文书数据进行“深度学习”；部分城市已经开始试点为市民提供基于智能语音技术的人机互动咨询服务??

 

　　显然，人工智能无论在改善民众生活还是提升政府能力方面，都在发挥着越来越重要的作用。虽然美国是当前人工智能领域的领跑者，但中国正在迎头赶上，尤其在应用方面更胜一筹。

 

　　利大于弊 人工智能存争议

 

　　在人工智能如火如荼发展的同时，对人工智能的未来也存在着不同的声音。

 

　　科技界对人工智能存有深深的担忧，他们认为人工智能所带来的改变，将对现有的法律体系、道德标准以及利益分配模式带来冲击，从而影响到现有的社会体制。人工智能越“聪明”，就越会威胁到人类的生存。

 

　　着名的物理学家霍金生前一直坚定认为人类应该节制甚至停止发展AI技术。他认为当人工智能发展的足够成熟时，尤其是机器人拥有独立思维和逻辑判断能力时，将是人类最危险的时候。

 

　　特斯拉的CEO马斯克也对人工智能发出了自己的警告。尽管作为前沿的科技领袖，马斯克夫对人工智能的典型应用无人驾驶技术情有独钟，但他一直以来都认为人工智能是人类生存的最大威胁，最直接的就是人工智能将取代人类工作，导致大量失业。他在回应俄罗斯总统普京提出的谁能成为人工智能领域的领导者，就可能主宰这个世界的言论时还表示，对人工智能统治权的争夺可能引发第三次世界大战，因为人工智能时代的战争不是由某国领导人发起的，人工智能会自动规划战略，如果算法认为能够获胜，就有可能发起战争。

 

　　阿里巴巴董事长马云也表示，机器学习和人工智能会逐步消灭工作岗位，但马云同时认为，机器本质上是人制造出来的，永远不会获得堪比人类的智慧和经验。

 

　　乐观者如Facebook创始人扎克伯格，他表示关于人工智能基础研究的进步能够在很多的领域得到应用：诊断疾病、自动驾驶、得出最优的搜索结果，帮助人们得到更多科技进步所带来的福祉。

 

　　谷歌董事长施密特亲身参与了许多复杂的人工智能系统研发，他认为所有对机器将抢走人类工作、占领世界的恐惧都毫无根据，并且希望人们能够意识到：机器人会成为人类的朋友。

 

　　微软创始人比尔盖茨也曾就人工智能可能带来的挑战发出过警告，但他认为人工智能带来的好处将远超这些潜在的隐患。

 

　　种种争议表明，人工智能技术在人们的眼里已经成为一把“双刃剑”。它既是人类寄予厚望以促进经济发展、提升生活水准的利器，也同样给人类带来了潜藏的巨大威胁，如何让人工智能最终走向乐观尤为重要。

 

　　人工智能放大网络安全威胁

 

　　体现在网络安全领域，人工智能的“双刃剑”属性更为明显。安全研究专家认为，网络世界中的薄弱环节会因为人工智能的出现而不断被放大，早在五年前就已经有黑客利用人工智能技术进行网络犯罪活动。

 

　　如作为热衷于新技术并舍得投入的黑灰产业，已经开始了对人工智能的利用。人工智能领域的人脸识别技术，同样可以被用来破解图片验证码，甚至被用来收集特定目标信息，实现精准钓鱼攻击。去年就有“刷脸支付”被成功破解的报道。

 

　　人工智能的自动化也被应用于很多被广泛使用的恶意软件，这些软件带有诸多自动化功能，使用者不需要懂得任何黑客技术，只需要点击鼠标便可实现攻击。

 

　　除此之外，人工智能自身也存在安全风险，如针对算法的欺骗、机器学习所使用的数据污染、模型安全风险，代码安全风险等。

 

　　所幸的是，作为网络的保卫者，网络安全行业对人工智能技术更为敏感。人工智能技术正在引发网络安全领域的新热潮和新增长。不仅投资机构青睐在人工智能领域有创新能力的网络安全公司，传统的科技巨头也在加紧研究人工智能与网络安全中的结合。

 

　　人工智能中的机器学习很早就用于恶意软件检测上，当前，更多的人工智能技术如神经网络、Agent系统等广泛应用在入侵检测、态势分析、云防御、反欺诈、物联网安全等领域。

 

　　得益于其通过新机器学习算法模型和技术检测的能力，Google 去年利用人工智能从Play Store中移除超过 70 万款恶意应用。而在我国不仅传统网络安全企业在继续深化人工智能技术的应用，阿里巴巴、腾讯、360等互联网企业也在积极利用人工智能，来开展反欺诈、终端防御、隐私保护等工作。

 

　　在国家安全层面上，对人工智能的重视程度也越来越高，有专家认为人工智能将成为未来网络军备竞赛的关键所在。哈佛大学的《人工智能与国家安全》报告称未来的AI技术有可能与核武器、飞机、计算机和生物技术一样，成为给国家安全带来深刻变化的颠覆性技术。

 

　　国外已加紧展开人工智能在网络安全国家层面的部署。2018年3月，美国国际战略研究中心（CSIS）在题为《美国机器智能国家战略》的报告中，明确提出美国政府应在战略层面注重机器智能与人工智能发展齐头并进。4月，美国美国防部宣布将成立“联合人工智能中心”， 作为联邦政府国家安全机构的重点优先事项，负责领导军队和工业机构研发和采办人工智能工具。在具体做法上，美国国土安全部和国防部都在积极推动“人工智能+网络安全”的研究，将更多人工智能的创新技术引入网络安全领域。

 

　　人工智能所带来的深刻变革已有目共睹，历史的经验证明，过去的经济繁荣时期，大多数是因为采用新技术而引发的。我们需要用长远的眼光看待人工智能的发展，如何使用好人工智能这把“双刃剑”，不仅是网络安全领域，更是全世界所需解决的实际问题。