2020年天府杯将聚焦AI+新基础设施，百度将连续第三年举办AI安全论坛

11月7日，“天府杯”2020国际网络安全大赛暨2020天府国际网络安全高峰论坛在成都举行，主题为“数字驱动发展，安全保护未来”。作为联合组织者之一，百度安全已经连续第三年参加了中西部地区最重要的网络安全行业会议，并主办了AI安全论坛。会上，百度副总裁马杰与来自学术界、产业界和监管机构的众多专家学者、行业领袖共同探讨了“新基础设施”战略背景下网络安全面临的新机遇和挑战，并分享了各自领域特别是AI安全领域的最新研究成果。

[第1001号]

百度副总裁马杰表示，安全无疑是2020年的关键词。它不仅关系到虚拟网络空间，还关系到国家、行业、设备，甚至是我们每个人的健康。从某种角度来看，人工智能带来的安全主张也涉及到线上和线下的各个方面。“人工智能安全是整个新基础设施非常重要的基石，随着中国人工智能技术与世界领先水平站在同一起跑线上，人工智能安全的研究也需要跟上这一步伐。在马杰看来，在AI时代，我们不仅要面对来自传统安全领域的长期弊病的密集爆发，而且还需要积极应对AI自身的安全问题。“这超越了我们对安全边界和框架的传统理解，网络安全人员有责任通过长期的研究和实践，在这些威胁造成重大伤害之前实现这些威胁。在“AI，更安全”的理念下，百度在AI安全领域的探索始终走在行业前列。在今年9月举行的百度世界大会上，从安全、安全、隐私出发，马杰首次揭示了百度在AI安全领域探索和实践的三个新维度。他们还指出了三个AI安全研究方向：强对抗性环境下的安全威胁；非对抗性条件下来自自然环境的真实威胁；数据安全和隐私保护，主要围绕计算能力、算法、数据，涵盖云、管、端等各个阶段。目前的AI安全研究不仅为AI模型的鲁棒性、AI模型的保护、安全技术在数据采集、处理、分发、可信计算等领域的应用提供了深刻而前瞻性的视角。它为行业公司开发更专业的人工智能安全解决方案带来了有方向的规划指导原则。事实上，基于AI安全的三个方面，百度的关键AI安全功能投入了一系列“实战”，包括系统评估AI模型的鲁棒性、增强AI模型的安全性、监控整个网络的恶意网页、内容安全的生态管理、整个数据生命周期的安全保障。作为百度大脑的核心架构，上述AI安全功能全面覆盖了百度的整个AI技术研发过程，支持了百度智能云智能集成云安全体系的构建。当然，构建新基础设施时代的人工智能安全生态也需要行业同仁的共同合作。在百度安全部副总监沈的主持下，网络安全学科组成员、大学计算机学院科研副杨、四川大学网络与通信研究所李焕洲、西南交通大学系统可靠性验证国家工程实验室副主任李志辉、德国PA赫兹安全中心张阳、成都无糖伙伴李维、与百度安全部者韩祖利一起，在随后举行的AI安全论坛上，我们分享了AI安全领域的最新研究进展。

[第1002页]

百度安全部门副总监沈鹏飞表示，新基础设施的大规模部署催生了大量人工智能技术的创新应用，作为人工智能时代最重要的生产要素之一，数据安全问题已成为第一安全挑战。因此，韩祖利首先向大家介绍了百度在数据安全和隐私保护方面的实践。以隐私合规检测、差分隐私、人工智能自动脱敏、联邦计算、可信计算等技术为代表，百度在整个数据生命周期中提供人工智能安全功能，包括收集、处理、分发、计算等，同时更好地保护企业机密和个人隐私。它为数十亿个大数据的安全协作计算创造了可能性。它进一步释放数据的价值，拓宽了人工智能时代大规模数据协作的信任界限。

百度安全部门产品负责人韩祖利表示，在确保数据安全的基础上，在软件与软件融合趋势下，AI系统的安全问题也不容忽视。杨敏教授以分布式智能系统的安全性为核心，探讨了开放网络下分布式学习系统中的“拜占庭式攻击与防御”问题，并通过GAA，即基于梯度聚合代理的鲁棒分布式学习，强化学习来调整评估策略，并提出有效防御此类攻击的对策。

国务院网络安全科学评审委员会成员、复旦大学计算机学院科研副院长杨敏专注于隐藏通信领域，李花州教授带来了与深度学习模型InfoGAN有机结合的创新研究。在隐藏载体迁移、多种隐藏机制组合嵌套、隐藏领域多样化的背景下，两者的协同在保持一定传输效率的同时，可以获得比传统隐藏通信工具更强大的隐藏能力，既具有理论创新的前景，又具有工程可行性。

作为人工智能安全技术矩阵的另一大领域，四川师范大学网络通信技术研究所所长李凡洲专注于可靠性研究领域，以自动推理为中心。该技术的应用在源代码漏洞挖掘、协议漏洞挖掘、需求漏洞挖掘、网络漏洞检测和智能控制等方面发挥着越来越重要的作用，以及基于逻辑推理的安全可靠性研究，也是AI安全问题的一部分。这是一个很好的选择，特别是在解决基于推理的形式验证时。

西南交通大学系统可靠性自动验证国家工程研究院常务副所长李志辉表示，受国外交通管制流行的影响，德国CISPA张洋博士通过远程视频分享了他在机器学习和隐私方面的研究成果，特别是利用机器学习模型来解决隐私问题和机器学习模型本身的隐私风险。我们使用了机器学习模型。他还介绍了欧洲人工智能安全方面的最新进展，以及常见的反样本攻击，例如攻击GNN图神经网络造成的隐私泄露。

与CISPA Helmholtz安全研究中心对专业领域的深入研究形成鲜明对比的是，行业安全专家专注于人工智能安全如何使当今安全挑战成为可能。会上，成都无糖科技合作伙伴李伟介绍了人机在电信诈骗、网站诈骗等网络犯罪案件中的对抗行为，以及行业的一系列成就。蚂蚁集团反情报负责人薛峰认为，对未知风险的快速准确识别、风险等级的感知和实时检测能力是下一代安全技术的三大主要模块，并专注于构建未来反情报技术体系。

无糖技术合伙人李伟。

随着中国逐渐进入经济智能化深度发展阶段，以人工智能为代表的新技术、新应用正在产生越来越大的能量。在当前新旧安全问题叠加的趋势下，人工智能安全防护技术的不断升级，为我们提供了更有效地应对这些安全挑战的新工具，成为人工智能系统建设过程中不可或缺的重要组成部分。未来，百度将以此次“天府杯”为契机，继续与各领域合作伙伴携手，以开放代码、开放技术，推动AI安全开放的生态建设。支持监管部门，护送“新基础设施”，为创造更安全的人工智能时代贡献智慧，加速“智慧经济”时代的到来。