金融行业：金融业隐私计算安全验证技术研究报告

金融业隐私计算安全验证技术 研究报告 北京金融科技产业联盟 2023 年 12 月 版权声明 本报告版权属于北京金融科技产业联盟，并受法律保护。转载、编摘或利用其他方式使用本报告文字或观点的，应注明来源。违反上述声明者，将被追究相关法律责任。 qZuXoXhVdYiYxVgVjZfU7NbP6MoMqQoMrNiNoOmNkPmMsQbRqRpONZmNpNMYmMrN金融业隐私计算安全验证技术研究报告 编制委员会 编委会成员： 何 军 聂丽琴 杨晓辉 编写组成员： 张翼飞 石新蕾 卞 阳 杨天雅 王 超 胡静洁 周建平 毛 娟 黄司辉 黄一珉 王湾湾 李 博 陈嘉俊 张敬之 曹旭涛 王云河 靳 晨 张嘉熙 单进勇 金银玉 蔡超超 陈浩栋 宋雨筱 刘 尧 张亚申 黄翠婷 陈 涛 康和意 杨 波 邱晓慧 胡师阳 李克鹏 陈 明 刘站奇 高志民 邵云峰 李秉帅 蒋美献 顾逸晖 昌文婷 袁鹏程 王 磊 周雍恺 李定洲 张远健 杨 柳 张佳辰 黄东庆 于 博 编 审：黄本涛 郭 栋 刘宝龙 金融业隐私计算安全验证技术研究报告 参编单位： 中国银行股份有限公司 上海富数科技有限公司 蓝象智联（杭州）科技有限公司 中国工商银行股份有限公司 深圳市洞见智慧科技有限公司 浙商银行股份有限公司 华控清交信息科技（北京）有限公司 北京数牍科技有限公司 北京冲量在线科技有限公司 同盾科技有限公司 北京银联金卡科技有限公司 腾讯云计算（北京）有限责任公司 华为技术有限公司 蚂蚁集团股份有限公司 中国银联股份有限公司 深圳致星科技有限公司 上海光之树科技有限公司 金融业隐私计算安全验证技术研究报告 目 录 一、概述 ............................................. 1 （一）研究对象 ..................................... 2 （二）研究目标与原则 ............................... 5 （三）研究内容与思路 ............................... 6 （四）研究意义 ..................................... 7 二、应用现状 ......................................... 8 （一）数据安全相关法律法规日趋严格 ................. 8 （二）隐私计算国内外相关标准专项化 ................ 11 （三）金融领域隐私计算应用痛点 .................... 20 三、隐私计算系统及产品安全验证技术 .................. 21 （一）安全风险 .................................... 21 （二）安全验证技术 ................................ 39 （三）验证方式 .................................... 46 四、 未来发展趋势及建议 ............................. 49 参考文献 ............................................ 56 金融业隐私计算安全验证技术研究报告 摘要：隐私计算从技术角度上可以有效解决数据融合应用与数据隐私安全之间的矛盾，为数据安全保护提供了一种可行的技术路径。隐私计算技术落地化、产品化后面临更复杂的产品、系统、应用层面的安全风险，目前金融领域的隐私计算通用安全验证技术尚未有统一的研究，因此，本报告对隐私计算安全性验证技术进行研究，分析多个层次的安全风险项，重点关注金融领域的隐私计算可实现工具化的安全验证技术，梳理可验证方式，验证隐私计算在金融应用中是否满足协议一致性要求、输入输出数据和中间数据是否满足加密要求、通信信道是否安全，并以可视化方式展示隐私计算内部流程，使得整个过程变得更加透明可控，保障金融领域隐私计算安全应用。 金融业隐私计算安全验证技术研究报告 1 一、概述 多方数据融合利用能够发挥数据最大价值，释放数据作为数字经济时代关键生产要素的潜能，而多方数据融合总是涉及数据隐私安全问题，数据共享容易产生隐私数据和商业秘密泄露，诱发金融企业利益损失、个人财产盗窃等安全事件，相关责任主体面临违反隐私法律法规、遭受经济处罚的风险，严重时可能会影响社会公共安全甚至国家安全。 数据信息安全是金融领域数据要素安全融合、互联互通的关键所在，金融机构需在保证使用目的与方式可控前提下传递数据的金融使用价值。隐私计算技术能够实现数据要素安全流通中隐私安全、管控数据使用目的与方式，促进数据生态闭合。 隐私计算（Privacy-Preserving Computation），是指在提供隐私保护的前提下，通过协作对多方的数据进行机器学习和数据计算分析，实现数据价值挖掘的技术体系。隐私计算成为构建数据要素流通基础设施的关键技术，能够实现数据安全融合，使“数据可用不可见”“按用途用量使用”，从技术角度上可以根本解决数据融合利用和数据隐私安全之间的矛盾，为数据安全保护提供了一种可行解。但隐私计算自身不同算法协议能保证的安全程度不同，同时隐私计算技术落地化、产品化后也面临更复杂的产品、系统、应用层面的安全风险。包括：如何验证隐私计算协议本身是安全的，如何防止数据泄露；如何验证隐私计算的实 金融业隐私计算安全验证技术研究报告 2 现与声明的计算协议是一致的，如何验证交互的数据未包含敏感信息且无法推测出原始数据；隐私计算需要参与方之间的多轮通信，在这期间通信信道是否安全；在有第三方的架构中，如何验证第三方是否可信；产品能否抵抗参与方进行数据投毒、模型投毒；隐私计算的结果数据是否泄露敏感信息等等。 隐私计算在金融领域应用的一大关键问题是应用方对其安全性的认同。隐私计算安全性不仅包括通用的网络层、主机层的安全性，还包括硬件安全、密码安全、算法安全、应用安全等系统/产品应用的安全性，涵盖隐私计算系统/产品整个生命周期，需要全方位考虑。目前金融领域的隐私计算通用安全验证技术尚未有统一的研究，因此，本报告对隐私计算系统/产品安全性验证技术进行研究，分析多个层次的安全风险项，梳理可验证技术，实践、论证可验证方式，验证隐私计算在金融应用中是否满足协议一致性要求、输入输出数据和中间数据是否满足加密要求、通信信道是否安全，并以可视化方式展示隐私计算内部流程，使得整个过程变得更加透明可控，推动隐私计算技术在多领域的广泛应用。 （一）研究对象 对现有学术成果、技术应用进行高度抽象，描述金融领域最大范围隐私计算通用系统/产品的工程安全性要素及其所包含的整体范围，形成具有通用性的隐私计算安全验证技术论证结果。 金融业隐私计算安全验证技术研究报告 3 广义隐私计算是面向隐私信息全生命周期保护的计算理论和方法，涵盖信息所有者、信息转发者、信息接收者在信息采集、处理、发布（含交换）、销毁等全生命周期过程的所有计算操作，是实现隐私保护前提下数据安全共享的一系列技术，技术体系如图1所示，包括但不限于： 1.隐私计算技术 从技术应用方向来分，当前主流应用技术包括多方安全计算（MPC）、联邦学习（FL）、可信计算（TEE），还包括同态加密、零知识证明等辅助技术。按技术层次来分，隐私计算技术划分为应用技术和安全保护技术。这些技术分离了数据的持有权和使用权，实现多方数据在保护隐私的前提下联合计算，使数据需求在不接触原始数据的情况下获得数据的增值价值，降低隐私泄露风险。 我们从技术特点、数据处理、安全基础三个角度对比分析隐私计算的三大主流技术在安全性能方面的不同应用形式，如表1。 表1 隐私计算技术路径对比 对比项 MPC FL TEE 技术特点 侧重于基于特定规则的多方安全数据的通用安全数据加密计算分析，提供隐私求交、隐匿查询、联合统计等应用 侧重于多方数据的分布式机器学习模型训练和推理，提供特征工程、模型训练和推理预测的应用 侧重于多方数据的通用安全数据加密计算分析，提供可信信道、远程证明等功能 数据处理 各方数据在各方本地加密后交换，依不交换原始数据，原始数据在本地模型训练，通过硬件提供安全的执行环境，原始数据加密 金融业隐私计算安全验证技术研究报告 4 赖纯密码学协议的实现 只交互模型的中间计算结果 后在“可信环境”中执行，依赖特定硬件环境实现 安全基础 密码学的安全证明 同态加密等安全机制 可信硬件 2.基于数据限制发布的技术 基于数据限制发布的技术，有选择地发布原始数据、不发布或者发布精度降低的敏感数据从而实现隐私保护，包括数据脱敏以及各类去标识化技术（如掩码、抑制、泛化、截断、混淆、k-匿名、l-多样性、t-贴近等）。这类技术保证对敏感数据及隐私的披露风险在可容忍范围内，但是需要考虑隐私披露和可用性之间的平衡，隐私保护的强度越强，丢失的信息就越多，数据的可用性越低。 3.基于数据失真的技术 基于数据失真的技术，通过添加噪音等方法，使敏感数据失真的同时并保持某些数据或数据属性不变，仍然可用保持某些统计方面的性质，包括随机扰动、合成数据技术等。数据失真是一种能够抵御背景知识攻击的隐私保护方法，这类方法不依赖复杂的密码技术，用户计算开销小，并可获得精准的查询结果。 4.辅助融合技术 隐私计算最核心的是计算，但整个数据共享过程以及完整的系统需要借助多个辅助技术支撑，包括区块链、可验证计算、内容跟真实性检验及溯源技术（如数字水印）和访问控制技术等。userid:497168,docid:150289,date:2024-01-02,sgpjbg.com 金融业隐私计算安全验证技术研究报告 5 这些技术虽不是完全实现数据的联合隐私计算，但能在数据共享过程中有效保护个人信息，实现全流程可记录、可验证、可审计、可控制的安全、可控的数据共享，为数据真实性、数据确权等问题提供可行解决方案，如图1所示。 图1 广义隐私计算技术体系 （二）研究目标与原则 1. 研究目标 重点关注金融领域的隐私计算系统/产品可工具化实现的安全验证技术，保障金融领域的隐私计算系统/产品应用、实施安全性，为形成自动化安全验证工具的实施奠定基础。 2. 原则 本报告、制定过程遵循以下原则： 金融业隐私计算安全验证技术研究报告 6 以现有大数据、数据安全、隐私保护相关的法律法规为准绳，与已有标准规范内容保持一致； 覆盖金融领域的隐私计算系统/产品生命周期全过程； 以金融应用为导向，描述粒度能够面向未来金融领域的隐私计算通用安全验证技术，指导工程实践和产品落地。 （三）研究内容与思路 本报告论证内容与思路包括如图2所示： 图2 研究内容与思路 金融业隐私计算安全验证技术研究报告 7 1.调研 对现有大数据、数据安全和隐私保护相关法律法规政策，国家、行业、团体标准进行调研，对隐私计算现有成熟学术成果、技术应用情况进行调研，梳理目前隐私计算存在的安全问题； 2.分析安全风险项 对金融领域的隐私计算技术系统/产品安全风险项进行分层分析，包括网络层风险、主机层风险、硬件安全风险、基础密码安全风险、协议密码安全风险、算法安全风险。 3.梳理安全验证技术 从基于TEE的计算安全、区块链、基础性检测、通信数据解析、日志分析、代码审计、可视化等多维度详细描述现有的安全验证技术。 4.提出验证方式 以覆盖金融领域的隐私计算系统/产品生命周期全过程的角度出发，提出一系列隐私计算安全可验证的方式。 5.实践安全验证项 对金融领域现有的隐私计算系统/产品的安全风险项进行安全验证，验证数据在存储、流转、处理中是否符合安全要求。 （四）研究意义