腾讯数据安全专家谈联邦学习开源项目FATE：通往隐私保护理想未来的桥梁

数据孤岛、数据隐私和数据安全是目前人工智能和云计算在大规模工业应用过程中无法回避的“三大山”。作为新一代的人工智能算法，“联邦学习”可以在数据不是本地的情况下实现通用建模，提高AI模型的有效性，确保数据隐私和安全性，突破数据孤岛和小数据的限制。这将是穿越“三山”的一种方式。因此，作为Federal Learning全球首个工业级开源项目，FATE也备受关注，开发者们也期待参与社区建设。在推出贡献者激励措施后，FATE开源社区迎来了腾讯云的一级贡献者刘阳。联邦学习如何确保行业数据的安全隐私保护从业者如何评估？刘阳博士在采访中表达了自己的观点。

刘阳博士毕业于澳大利亚国立大学，是腾讯云的高级研究员，负责腾讯盾牌沙盒的隐私保护算法部分。刘洋表示，由于他的专业领域，自今年年初以来，他一直在密切关注“联邦学习”。因此，FATE进入了这一愿景，引起了刘阳和腾讯云团队的注意。在深入了解FATE之后，刘阳认为，腾讯屏蔽沙盒构建的隐私安全+分布式学习的理念，与FATE想要解决的“数据安全”、“数据隐私”、“数据合规”三大问题相一致。渐渐地，我们开始使用FATE来满足屏蔽沙箱的功能需求。

刘阳表示，经过长时间的接触，他非常认同FATE的逻辑回归和XGBoost算法流，于是他开始参与FATE开源社区的建设，用对称仿射密码代替Paillier密码，将训练时间提高了70%以上，并提出了优化建议，将同态运算“减负荷”。如果未来的合作企业应用优化后的FATE版本，可以有效降低数据处理的时间成本，提高人工智能时代企业的技术竞争力。在AI应用场景中，传统的多方数据中心合作方式的整合存在着严重的隐私侵犯问题，而这一问题已成为AI在企业大规模应用的重要障碍。在刘阳看来，混乱的关键仍然在于数据安全问题的解决，即数据隐私和实用性的妥协。具体来说，要安全地从孤岛中共享数据，需要一些“掩码”操作。它通过加密工具将有效数据转换为乱码，并保持隐私，但密钥掌握在谁手中会极大地影响数据的实用性。我们还可以用噪声混淆原始数据，例如差分隐私。虽然噪音越大，隐私就越有保障，但用户获得的数据的实用性就越低。如何在隐私和实用性之间找到权衡是数据安全流程中的关键问题之一。理想的未来是数据使用者能够自由流动，在聚合的分布式数据上进行高效的数据挖掘操作，而不会感到隐私保护的约束。MPC（MPC）在（多方计算、多方安全计算）领域，目前行业仍停留在混电路、可信计算等解决方案上，虽然支持的计算任务很常见，但额外的硬件支持、学习成本很高。它阻碍了大规模应用，也不利于建立安全的数据联盟。联邦学习是一个通用的联邦框架，它为所有或每类机器学习算法进行自定义的隐私保护更改，其使用方式与传统的集中式机器学习模型不同。相比之下，联邦学习确保了基于稳定成本的易用性。刘洋表示，联邦学习提供的解决方案对企业来说很有吸引力。对于行业而言，更简单的操作将吸引更多的开发者，推动安全数据联盟的建立。FATE Eco ×腾讯云数据安全的未来从今年5月初开始，FATE与腾讯云盾沙盒开始业务往来和技术交流，目前的Shield沙盒核心计算模块由FATE提供。在平台建设过程中，双方进行了密切合作。刘洋在接受采访时表示，团队在使用FATE框架和算法时，会为FATE开源项目提供有效的建议，并参与开源社区的建设。

[第1003号]

这种合作形式具有“互助、互利、开源共建”的特点，不仅促进了屏蔽沙盒产品的打磨和FATE项目的完善，也为其他技术项目和团队提供了良好的榜样。以开放的态度接受新技术，不仅有利于自身，而且有利于整个行业的发展。在刘阳的愿景中，未来，为了加强技术影响力和业务落地，如联合发表重要论文、提交专利、联合收购内外实体业务等，双方可以进行更深层次的合作，形成“学术”和“产业”蓬勃发展的美好局面。随着越来越多的贡献者参与FATE理论标准和行业应用的构建，FATE将迎来更加广阔的前景。对此，刘阳表示，Shield Sandbox与FATE的合作将加速数据安全的巩固和成长，并在数据孤岛上构建一个安全的数据联盟。