郑建华院士：从信息安全角度谈AI

 

　　人工智能应用是指能够对输入数据，包括图像、语音、文字等各种信息，进行感知、分析、学习，进而能够采取恰当反应与行动的信息处理系统。人工智能的信息属性，决定信息安全问题始终贯穿于人工智能应用的整个过程之中。

 

　　保密性、完整性、可用性、可控和不可抵赖性是信息安全的五个基本属性。信息安全要实现的目标是，对信息的使用和处理均经过所有权人的授权、严格按所有权人要求、真实地顺畅地合理地进行，并做到结果可认证可追溯。这句话中“真实”指信息的使用要真实，不是经过篡改、伪造、有选择性的，要保证其真实性；“顺畅”是针对至瘫、拒绝服务等攻击造成的，信息系统不能够正常有效使用而提出来的；“合理性”是强调信息理性使用、对面向公众的信息的进行必要管控、对有害信息进行有效治理。

 

　　从信息流程看，人工智能应用大体可分为以下四个层面：（1）感知层，通过各类传感器采集信息，有效地感知周围环境。需要解决传感器的身份识别认证、可靠控制等问题，以保证采集数据的真实性、防伪造、防篡改、防抵赖等。（2）传输层，依靠各类基础网络对采集的信息数据进行传输处理，还有对传感器的控制信息数据进行反向传输，需要解决数据传输过程中的保密、防伪造、防篡改、防抵赖和抗干扰等一系列安全问题。（3）数据层，进行数据汇聚，通过大量数据的融合分析，产生新的知识。需要解决多类型多用户数据的安全保密及可控安全利用问题。（4）应用层，提供服务与控制，需要解决服务与控制信息的防篡改、防伪造、不可抵赖等安全问题。可以看出，人工智能应用各层涉及了信息数据采集、传输、存储、管理、分析以及信息的处理和使用，其中每一个环节都会涉及信息安全问题。

 

　　信息安全是国家安全的重要组成部分。随着人工智能应用的不断深入，信息安全不仅仅关乎信息本身的安全，进而关乎设施设备安全，甚至关乎人身安全和社会安全。因此提高信息的安全性显得尤为重要。

 

　　技术层面需要特别关注以下四个问题。一是基于移动智能终端的密码体系。作为重要的人机交互设备，其在人工智能应用中的重要作用是显而易见的。由于其便携、更新快、安全环境差等特点，对基于PKI的传统密码体系带来了挑战，安全性得不到保障，轻量级不够。如何在这种条件下解决身份识别、密钥协商、数据加密、完整性认证和数字签名是比较棘手的问题。二是生物特征的利用问题。随着人工智能技术的发展，指纹识别、脸部识别、虹膜识别等技术更加成熟，基于这些生物特征的身份识别认证得到了广泛的应用。由此产生了大量的个人生物特征信息数据，被运营商收集、存储、管理、使用，没有得到政府切实有效的监管，而且运营商信息安全防护并非牢不可破，容易发生重大失泄密事件。需要创新生物特征安全存储、使用技术，特别是和经典密码融合技术，以便充分发挥生物特征的唯一性、不变性在身份识别等应用中的作用。三是面向大数据的数据加密技术。当前以数据支撑的人工智能应用非常广泛，要使人工智能的服务和控制更加准确，需要多用户多类型数据的协同融合分析利用，只有解决好数据的有效保护、可控利用，才能真正发挥大数据的应有的作用。四是人工智能应用中软硬件的脆弱性分析和加固防护。通过模拟仿真靶场建设，深入分析应用系统的脆弱性，提前进行修改和有针对性的加固，确保应用系统的安全可靠。

 

　　从另一方面，人工智能技术也能够应用到信息安全领域，创新信息安全技术，助力提高信息安全水平。首先，人工智能技术能够辅助解决身份识别问题，提高身份认证能力，解决信息数据访问授权问题。其次，它在主动安全防护、主动防御、策略配置方面发挥的作用越来越大，比如基于神经网络，在入侵检测、识别垃圾邮件、发现蠕虫病毒、侦测和清除僵尸网络设备、发现和阻断未知类型恶意软件执行等方面进行了大量的探索。基于专家系统，在安全规划、提高安全运行中心效率、量化风险评估、威胁情报等方面也做了很多探索，收到了良好的效果。

 

　　人工智能与信息安全紧密耦合，人工智能的安全问题应该得到高度重视。人工智能的安全问题，应该通过安全与应用建设同步发展的思路来解决，需要由政府与企业共同完成。

 

　　政府方面要发挥主导作用，在人工智能应用中深入分析安全需求，进行顶层的设计，推动人工智能技术自主与理论创新，提出安全发展战略，设置安全要求；加强安全制度建设，加快人工智能应用立法工作，建立安全准入制度和检测评估方法、机制。

 

　　企业方面应该从人工智能发展战略大局出发，创新发展人工智能技术，开发自主框架平台，在感知、传输、分析协同、服务控制等方面建立一些安全标准。既要重视机制的保障还要重视技术的保障，使人工智能的应用和信息安全建设同步发展。

 

　　当前我国人工智能普遍使用国外深度学习框架，遍地开花的人工智能应用，难以掩盖我国在人工智能核心技术与基础理论上缺失主导权。人工智能基础理论创新研究投入不足，也没有占据主流地位的深度学习框架及其生态圈。以美国为首的科技巨头在人工智能技术的投入非常巨大，开发了主流的深度学习框架，如TensorFlow、Caffe、Theano、Torch、CNTK、DNNTNE、MXNet等等，它们作为主要的深度学习应用工具与研究工具，得到广泛的推广使用，建立了良好的应用生态圈。我国百度开源的Paddle，影响力非常有限。目前，我国严重依赖于国外开源框架，这先天决定了很难在技术上领先超越国外。人工智能核心技术的自主性，是信息安全的根本保证。从信息安全角度看，人工智能核心技术自主，才能保证人工智能在国家重大应用、国防应用中的安全，有效避免敌对者进行攻击。国家及企业共同应推动人工智能基础理论创新，加大自主深度学习框架的开发、推广、应用，合力建立良好框架应用生态。

 

　　正如张钹院士所说，网络安全为人工智能保驾护航，人工智能改变网络安全的未来。人工智能技术的蓬勃发展，在对工业生产与社会生活带来变革的同时，也必然对信息安全带来重大的机遇和挑战。人工智能的发展既能带来一些原来不曾出现的信息安全问题，也能为信息安全领域带来原来不曾拥有的智能安全技术。人工智能的发展将会对信息安全带来深远影响。