吴文俊人工智能科学技术奖
FRONTAL OBSERVATION
前沿观察
首页 > 前沿观察 > 正文

郑建华院士:解读人工智能与信息安全

2019年02月14日   来源:网信军民融合     

1926

人工智能领域涉及的安全问题较多,如国家安全、社会安全、人的安全,还包括一些伦理问题和隐私问题。人工智能主要是基于信息基础构建的一些应用,它离不开信息的采集、存储、分析、传播。同时,人工智能领域的思想、方法、理论对信息安全也有很多的应用。

郑建华院士

  一、信息安全的基本要求

  习近平总书记曾经说过,没有网络安全就没有国家安全,没有信息化就没有现代化。这充分表达出了信息化与现代化、信息安全与国家安全的关系。同时,从新技术,比如“互联网+”、物联网、云计算、大数据到区块链等新技术的进一步发展,都要以信息技术为引导,人工智能也是如此,通过一系列技术的创新,最终才能真正发展国家经济,提升国家综合实力。从这个意义上说,没有信息化就没有现代化,包括人工智能在内的新技术的发展,都需要以信息技术为主导。

  信息化是一个双刃剑,带来很多便利的同时,也出现了很多安全问题,因此应当把信息安全提高到国家安全重要组成部分的高度。保密性、完整性、可用、可控和不可抵赖性是信息安全的五个基本属性。信息安全要实现的目标是,对信息的使用和处理均经过所有权人的授权、严格按所有权人要求、真实地顺畅地合理地进行。要经过所有权人授权,主要是指身份识别问题,身份是有所有权的,要经过授权对信息进行使用;在使用中是可读、可写还是可改,就需要按照授权人的授权要求进行;真实指信息的使用要真实,不是经过篡改或者伪造的,要保证其真实性;顺畅是指在信息使用过程中,能够保证信息系统能够正常使用;合理性就是要理性使用,主要是对信息的管控,如要对有害信息进行有效治理。

  信息的采集、传输、存储、管理以及信息的处理和使用等环节中,都会涉及到安全问题。

  信息采集主要是指控制问题,如是不是按照真实情况进行采集?采集数据过程中是不是是否严格遵守规定?

  信息传输中要有效地进行保护,做好保密工作,要保证它的真实性不被篡改,保证传输过程的可靠性,能够抗干扰。

  信息存储和管理,强调的是真实性和保密性,不会被篡改,不会被滥用。以后,很多的信息都会放在云上面,那么要如何保证个人信息的安全呢?要知道云的管理者是不可信的,每个用户的信息对他也要进行保密,因此说云的安全或大数据的安全,只是指存储和管理方面的安全。

  那么在信息处理和使用中,就会存在另外一个问题,就是怎样进行身份识别和权限的有效管理?最后,处理的结果要进行签名,保证它的真实性,同时可以对信息使用的整个生命周期进行追溯。

  总之,信息安全不仅仅是在于信息本身的安全,信息的作用也不仅仅只是针对设备而言,它甚至延展到了人的身上,因此提高信息的安全性显得尤为重要。

  二、人工智能应用的信息技术体系

  当前社会引发了一轮又一轮的人工智能热潮,很多都是由于数据驱动,正是在云计算、大数据等技术的发展下,人工智才有了一次又一次的飞跃。所以数据的安全、信息的安全贯穿着人工智能应用的过程中。

  人工智能大体分为几个层面。

  (1)感知层,各类传感器采集各类信息,也就是信息的采集,这涉及到很多安全问题。

  (2)传输层,采集过程要进行处理,进行反作用,靠的是基础网络,涉及到传输过程的安全。

  (3)数据层,可能进行数据汇聚,通过大量数据的分析和协同,来产生新的知识和价值。

  (4)应用层,也就是服与控制,提供服务,对终端进行反控制,类似一个循环吧,一个有机的循环回路。

  三、人工智能应用的安全需求

  人工智能的每一层都涉及到安全问题和数据安全问题。在身份识别认证中,人和设备是不是可信的,是不是有正当权限的人和设备。数据保护中,不管是传输还是存储过程,都要保证数据的可控性、真实性和可追溯。如果数据在传输或存储过程中被篡改了,那到最后通过算法推导出的结果,也必然是不真实和不可信的。

  但在这个过程中也存在一个问题,保证数据能够进行有效地汇聚,既要保证数据所有者的权益,同时又能够通过这种大数据的汇聚产生价值,在可控的范围之内,这里的安全问题也是现在研究的重点和难点。

  四、人工智能应用的安全建设

  安全问题在重视应用的同时也要考虑到安全和应用建设的同步发展。

  政府要主导,在人工智能应用中深入分析安全需求,进行顶层的设计,提出安全要求;加强安全制度建设,建立安全准入制度和检测评估方法、机制。

  企业应该从感知、传输、分析协同、服务控制等方面建立一些安全标准。同时既要重视机制的保障还要重视技术的保障,使人工智能的应用和网络安全建设同步发展。

  五、需要关注的网络安全技术

  (1)身份识别和生物特征识别。身份识别的核心是密码技术,但对于轻量级设备、便携的智能设备而言,它们的计算能力还较弱,使用成熟的密码技术会存在一些问题,这需要对原来的身份识别进行改造。生物特征识别也是如此,目前的生物识别技术还没有建立一个安全的逻辑链条。

  (2)移动安全。现在各种智能应用的终端主要以手机为主,手机与PC机相比更不安全,因为手机更便捷、成本低、更新快,所以安全隐患更多,更难解决,建立体系建立难度更大。

  (3)大数据安全。大数据安全比一般意义上的云安全难度更大,云安全主要是用户信息是放在云上,仅供用户使用,同时云的管理者是不能看到用户的信息。而大数据安全相对来说更加复杂,它是将很多用户的数据都放在云上,将不同用户的信息进行融合处理,每个用户需要自己进行加密,否则无法保证数据的安全,但是加密之后如何让其他人使用,或在一定限度内实现共享,既要加密保护,又要能够有效地进行数据的融合和利用,这是很难解决的问题,同时也涉及到加密检索,保证数据的完整性,安全的计算外包。

  (4)系统脆弱性。目前网络攻防态势非常严峻,主要就是是利用信息系统,要知道现在的信息系统还不完善,具有脆弱性,将来人工智能应用也是一个程序、一段代码,如果出现严重漏洞,就会被恶意代码取得它的控制权,带来极大的危害,所以系统的脆弱性也是网络安全非常重要的问题之一。

  六、网络安全中的人工智能

  人工智能在网络安全领域也得到越来越多的应用,它在主动安全防护、主动防御、策略配置方面发挥的作用越来越大,但是当前仍旧处于探索阶段。比如基于神经网络,在入侵检测、识别垃圾邮件、发现蠕虫病毒、侦测和清除僵尸网络设备、发现和阻断未知类型恶意软件执行等方面进行了大量的探索;基于专家系统,在安全规划、提高安全运行中心效率、量化风险评估、威胁情报等方面也做了很多探索,收到了良好的效果。

  人工智能技术的蓬勃发展,也必然对网络空间安全带来重大的机遇和挑战。

  最后用张钹院士的一句话进行总结:网络安全促进人工智能的未来发展,人工智能改变网络安全的未来!

组织机构

主管单位
中华人民共和国科学技术部
国家科学技术奖励工作办公室
主办单位
中国人工智能学会

奖励资质