40655
技术的发展从来都是一把双刃剑，未来值得信赖的人工智能将成为焦点。
技术的发展从来都是一把双刃剑，未来值得信赖的人工智能将成为焦点。人工智能的“可信”，也需要建立相应的法律、法规、标准和社会伦理准则，如何构建一个可信赖的人工智能环境、保证数据安全和隐私，可信人工智能如何落地实践是人工智能浪潮中亟待解答的问题……4月10日至12日，中国人工智能学会举办“吴文俊人工智能科学技术奖十周年颁奖盛典暨2020中国人工智能产业年会”，在上海特设的“可信AI专题论坛”吸引了众多专家学者、企业以及广大开发者参与，共话“可信”的人工智能。
上海市科协副主席、中国人工智能学会监事长蒋昌俊表示，随着人工智能作为社会与经济转型变革的核心驱动力被广泛运用于不同行业领域，其日新月异的发展正带来人机关系的变化，对法律、伦理、社会等不断提出新的挑战，不可解释、偏见歧视等伦理和安全问题日益引发全社会关注。在此背景下，“可信AI”的理念逐渐成为全球共识，是未来人工智能产业健康发展的必由之路。
“人工智能发展仍旧面临诸多挑战。”京东集团技术委员会主席、京东人工智能研究院院长周伯文指出，真实世界环境开放、边界和规则模糊、数据噪音多、AI模型的部分结果难以信赖等引发的问题层出不穷。如智能摄像头将公车上的广告识别为闯红灯者、AI写作软件创作核材料被盗的假新闻、智能音箱建议使用者自杀等，不难发现，这些问题已经逐渐与人们的生活密切相关。
他说，过去几年京东一直在推动“可信赖AI”的系统性建设。什么是“可信赖AI”？定义有很多种，我们认为可信AI起码在六个维度上具有可量化进展：鲁棒性、可解释性、可复制性、公平性、隐私保护、负责任和价值对齐。
复旦大学计算机学院院长姜育刚则指出，要通过“技术+规则”双轮驱动算法治理。“技术与规则联动，一方面研究更符合规则的人工智能算法，发展评估技术以度量现有人工智能算法的合规程度；另一方面通过规则自顶向下约束人工智能技术活动牵引其健康发展。”
中国科学院院士何积丰现场指出，可信人工智能包含三个要素：人、信息、物理。过去是人类社会和物理世界的交互，现在的安全是指可信安全的强人工智能系统，实现复杂的信息、物理与人的融合交互。
何积丰同时表示：“从本质上说，人工智能产品最后都是软件，我们国家软件产业的发展是远跟不上的，我相信人工智能学会的专家们都发现了这个问题，像我们培养人的数量和质量，与需要的一比，差距还很远。现在很多做智能汽车的单位需要上万软件工程师，上海那么多高校，能培养多少软件人员？因此人才培养是需要解决的问题。”
