我们也看到广泛应用的，包括近期的阿塞拜疆和亚美尼亚的智能机器人的战策，包括无人机的作战场景，包括从人工智能，我们也有很多工作在做的，包括图灵测试、鲁棒性测试、隐私性测试、侧信道测试，基于各种各样的安全保障测试，大家都在进行探索。
这当中来讲，我们也知道关于对抗欺骗，对抗欺骗主要几种方式一个是样本毒化，还有后门，以及梯度泄露等这几种方式，大家都在寻找很好的防护机制。
还有隐私窃秘，它主要是基于推理攻击，包括定向和非定向两种。
我们可以看到很多国际标准，以及国内我们在做的工作方面一直都非常关注这个领域的进展，但是我感觉进展还有一点慢，一些工作还需要加大力度做，从可信度量的角度方面来讲，它有多个维度，从泛化、对抗鲁棒性角度，隐私和数据安全以及科学体系构建的角度进行展开，比如如何认证。另外从公平性的角度对于算法模型的偏差进性优化也是永恒的话题。
从可认证鲁棒性测评，特别是对数据的隐私安全管理，包括隐私模型训练和隐私服务的布局角度来讲，这都是很重要的研究点。我们也在做一些工作，一个是从可视化鲁棒性测试，还有动态隐私保护测试等。可视化鲁棒决策来讲，基于权重的方式研判输入特征对目标类别贡献度，进行量化。
比如我们下面的例子，通过遮挡头像的设置，它可以对目标的敏感性进行鲁棒性测试。还有动态剪枝，我们希望通过梯度剪枝，这样也是为了研究基于微型化的考虑，使得我们做鲁棒性测试的环境，包括对于整个逆向过程等方面，提高效率。
还有差分隐私，目前它是最容易和密码学，包括访问控制学形成可认证的鲁棒构造方案，这也是一个热点，它是可以通过控制向数据或模型中的添加噪声量来调节模型鲁棒性。在这里面，我们非常关注一件事儿，去年国家正式公布《密码法》，就是说密评成为业界关注的非常重要的一点。尽管在等保2.0，没有把人工智能加进去，但是未来在等保3.0里面这会成为非常热门的话题，因为今天的人工智能应用越来越广泛，我们的等保检测体系，不可能不把这样重要的应用环境放进去，所以这当中基于深度学习的多方计算，它当中如何保证模型使用安全，包括5G的切片问题，这是它底层的技术能力。如何使得微型的边缘智能数据模型平台安全，构建这种安全的屏障，这有几个研究的角度。
我们知道在这个当中，边缘计算是未来在密码学系统应用当中来讲，特别是云管端边的发展，对于云、边、端的可信评测将显得更显重要。包括大家一直讲特斯拉有问题，问题在什么地方，是否能够给合理的解读和解释，从功能安全和信息安全角度来讲，是否能够支撑国家安全的需要。
另外我们在整个密码层面的应用，包括同台、门限、函数以及PASSGAN等，在大量的结合人工智能、大数据的应用的密文空间，你是否能开展可信测评。我们在各种各样的人工智能体的部署应用当中，其实还有很多值得研究的，包括它的部署复杂性以及捷径学习、突变理论，我们如何构建可信的，可以演进的动态评测指标体系，我觉得都是非常重要的方向，也是我们希望为国家开展工作有一些贡献。
