7-5 端侧隐私计算的算法与应用探讨 -王俊

端侧隐私计算需求

• 数字经济增长：中国数字经济占比从2014年的38.6%增长至2020年的50.0%，全球数字经济占比也在逐年增加。
• 法律法规发展：各国纷纷出台相关法律法规，如欧盟的GDPR、美国的CCPA等，强调数据隐私保护。
• 标准日益完善：国内外已发布多项标准和指南，涵盖同态加密、安全多方计算、可信执行环境等技术。

端侧隐私计算关键技术

• 同态加密：通过格理论支持加法和乘法运算，但噪音累积会导致解密错误，可通过bootstrapping技术降低噪音。
• 安全多方计算：通过安全协议实现多方数据的联合计算，保护数据隐私。
• 可信执行环境（TEE）：构建安全区域，保护程序和数据的机密性和完整性。
• 差分隐私：通过引入不确定性隐藏单个数据点对输出结果的影响，保护隐私。
• 联邦学习：在本地进行大量计算，减少通信成本，但存在中间计算结果泄露的风险。

端侧隐私计算应用案例

• 端侧数据采集：采用局部可同态加密（LDP）和数据交换机制进行频率统计分析。
• 端云协同计算：谷歌Gboard通过联邦学习实现关键词推荐，提高数据处理效率。
• TEE方案：如苹果Face ID，通过TEE保护用户敏感数据。
• 谷歌Android隐私沙盒：通过进程隔离和API控制减少第三方访问用户数据，实现匿名化处理。

端侧隐私计算风险与挑战

• 模型精度：优化协同聚合和算法以提高模型精度。
• 数据风险：包括数据采集、传输、存储和网络攻击等。
• 模型风险：包括投毒、隐私泄露、模型窃取和后门攻击等。
• 计算风险：包括窃听、未授权对话攻击和物理攻击等。

以上是对端侧隐私计算相关内容的总结。