Squirrel 用于训练的可扩展安全计算框架

核心观点与关键数据

背景

• 决策树与梯度提升决策树（GBDT）：决策树构建最接近Y的分支模型F(X)，GBDT通过训练多棵决策树并使用“提升”技术纠错，实现最终预测为所有预测的总和。
• GBDT优势：高精度、可解释性，被Kaggle获奖者使用，支持多变量处理（如XGBoost/LightGBM）。

隐私保护需求

• 垂直分割数据集上的协作目标：保险公司A/B通过A/B对齐ID（如PSI）共享数据，A在B帮助下改进决策。
• 隐私要求：采用半诚实两方计算，最终模型（如“年龄<20”）对外保密，属性值（如年龄）私有，通过秘密指示器向量V保持样本分布私有。

挑战

• MPC GBDT培训：隐私保护GBDT培训有前景，但联合学习信息泄漏风险高，直接共享数据损害用户隐私，高效MPC GBDT对大规模样本计算和通信要求高。

相关工程

• 联邦学习方法：如SecureBoost和VFboost，但存在样本分布泄漏和计算增益在清除中计算的问题，导致计算和通信负担重。

MPC工具

• 加性秘密共享（ASS）与线性同态加密（LHE）：ASS需多轮交互，LHE计算密集但评估非线性函数效率低。
• 混合原语评估：基于格子的LHE（如BFV）优于Paillier，通过A2H/H2A切换实现低通信。
• 蚂蚁集团隐私增强技术（PETs）：支持外部和内部数据协作，但A2H/H2A使用Paillier存在明文空间不匹配陷阱。

松鼠GBDT安全管道

• 步骤1：PSI：计算样本分布差异。
• 步骤2：数据编码（Binning）：将数据离散化。
• 步骤3：梯度表存储：使用秘密共享存储梯度g,h，A公司和B公司间进行加性共享。
• 步骤4：梯度聚合：高效进行A2H和BinMatVec操作，通过RLWE-LWE编码优化计算。
• 步骤5：最大增益计算：使用GMW协议和Ferret-OTs进行安全ArgMax。
• 树节点拆分：使用“AND-shared”指示向量V更新梯度表，Bob不清楚Vi。
• 新Sigmoid协议：基于傅立叶级数，通过2次私有乘法实现，精度更高且通信更少。

实验结果

• 加速比：28-40倍加速比枢轴（VLDB20），3-4倍加速比HEP-XGB（CIKM21）。
• 技术实现：使用TEE生成乘法三元组。

结论

• RLWE-LWE快速梯度聚合：显著提升计算效率。
• LWE-RLWE减少通信：优化密文大小。
• 创新点：基于PEGASUS的“AND-shared”指示向量和平滑Sigmoid协议。