中国移动通信有限公司研究院关于联邦学习安全需求的白皮书概览
联邦学习发展概述
- 数据要素市场与安全合规：随着国家对数字经济的大力推动，数据要素市场迅速发展，强调数据的生产要素地位和安全合规。法律法规日益严格，保障数据隐私。
- 联邦学习技术进展：联邦学习作为一种分布式机器学习方法，允许多个参与方在不共享原始数据的情况下协同训练模型，旨在保护数据安全与隐私，适用于多种应用场景。
联邦学习面临的挑战
- 缺乏合规及安全性评测：目前缺乏统一、标准化的安全评测体系，难以验证联邦学习系统的安全性和协议一致性。
- 性能开销与规模应用限制：加密技术的引入增加了计算、存储和通信成本，系统性能受限于最弱环节，影响规模化应用。
- 异构框架间的互联互通壁垒：不同联邦学习框架间的不兼容性制约了技术的广泛应用。
安全风险分析
- 信息平台安全风险：包括物理、网络、主机、应用和数据安全风险。
- 联邦协议安全风险：涉及联邦学习协议、安全多方计算算法和基础密码算法的安全性。
- 联邦业务安全风险：涵盖合规性、公平性、模型可解释性与防攻击性。
安全需求总体框架
- 安全目标与要求：涵盖平台、协议和业务层的安全属性。
- 安全框架：信息平台安全、联邦协议安全与联邦业务安全三层结构。
- 安全分级建议：建议将联邦学习安全分为三级，从基本安全到高级安全逐步提升。
展望与倡议
- 构建安全标准体系：推动建立联邦学习安全标准，包括安全指标、分级分类和安全能力分级。
- 建立安全评估体系：制定联邦学习安全评估标准，推动安全认证机制。
- 聚焦关键领域：重点解决联邦学习的安全挑战，促进技术创新与应用。
结论
本白皮书全面分析了联邦学习在发展、挑战、安全风险与需求、框架以及未来展望方面的关键点，旨在推动联邦学习技术的安全、合规和规模化应用。通过构建安全标准体系、推动安全评估认证，以及聚焦关键领域，可促进联邦学习技术的健康发展和广泛应用。
