1-3 推荐系统算法与应用 - 连德富 教授

推荐系统算法总结

研究背景及意义

• 背景：在信息爆炸的时代，个性化推荐技术已成为解决信息过载的有效手段。
• 重要性：个性化推荐在教育、商务、医疗等多个领域具有重要价值，有助于提高学习效率、满足用户需求，并提升经济和社会效益。

关键数据

• 经济价值：Netflix通过推荐系统每年节省10亿美元，天猫双十一产生的453亿次AI个性化推荐促进了销售额。
• 技术成就：推荐算法已入选MIT技术评论十大突破性技术，并为互联网信息服务算法推荐立法。

常见推荐场景

• 教育场景：根据学生考试历史推荐试题，提升学习效率。
• 消费场景：根据用户购物历史推荐商品，满足个性化需求。

技术体系

• 模型介绍：
  • 神经编码器：用于神经网络模型，包括神经编码器（ECC）、偏好得分、情境向量、物品向量等。
  • 双塔模型：包括用户特征、社交网络、物品特征、交互数据等。
  • 无塔模型：包括交互数据、预测偏好、计算损失等。

损失函数

• Softmax损失：最小化负对数似然，计算复杂度为O(N)。
• Sampled Softmax损失：通过采样减少计算复杂度至O(S)。
• BPR损失：通过成对排序损失优化目标，计算复杂度为O(1)。

采样技术

• 重要性重采样：通过权重调整，提高收敛速度。
• 基于量化的精确采样：通过量化空间进行精确采样。
• 基于量化的近似采样：通过简化模型提高计算效率。

线上服务

• 候选生成排序：第一阶段召回模型，第二阶段排序模型。
• 召回模型：
  • 精确结果：使用最大内积搜索。
  • 近似结果：使用最近邻搜索。
  • 可学习索引：通过端到端构建法提高效率。
  • 可学习哈希：通过二值向量表示和块坐标下降法提高搜索效率。
  • 可学习量化：通过隐向量优化目标提高模型准确性。

推荐算法库——RecStudio

• 模块化：首个高度模块化的推荐算法库，支持旧算法和新模型的搭建。
• 分类：分为排序模型和召回模型两类。
• 数据集：根据不同任务分为MF、AE、Seq、ALS等数据集。

结论

• 推荐系统技术在多个领域展现出巨大潜力，通过不断优化算法和模型，可以进一步提升推荐系统的性能和效率。