张祺深_支付宝搜索的Query理解与语义召回技术_DataFun分享

移动APP时代搜索场景的变化和挑战

• 搜索内容的变化：从传统搜索引擎的网页和文档，转向移动APP中的商品、门店、视频、小程序、账号载体、股票基金等多样化内容。用户Query难以完整表示被检索内容，更注重语义相关性。
• 结构化信息检索问题：检索内容中，文本信息较少但具有结构化信息（如商品的品牌、类目，小程序的意图、功能，基金的类型、经理人等）。挑战在于如何将用户Query与检索Item的结构化信息进行综合语义匹配。
• 多属性语义匹配算法：通过多属性文本表征、多属性匹配任务、联合匹配概率建模和整句embedding表征优化等方法，融合不同属性文本信息，提升语义匹配准确率。具体步骤包括：
  • C1：多属性文本表示：将每个属性的token embedding进行first-last layer average pooling作为属性表征。
  • C2：多属性间文本匹配：计算query对每个属性的attention weight，使用对比学习InfoNCE Loss优化query与多属性表征的相似度。
  • C3：语义向量融合表示：利用query与item之间的余弦相似度作为相关性得分，通过对比学习优化query与整句embedding表征的相似度。

生成式的层次化文本多分类样本增强

• Query文本分类问题：Query文本分类是召回、相关性、排序的重要特征，但面临大规模层次化文本分类（分类节点1000-100万）和样本稀缺的挑战，人工标注成本高。
• 层次化文本多分类样本生成的挑战：生成样本的label需准确，多样性需保证。方法包括：
  • C1：label语义和关键词短语增强的prompt
  • C2：融入label层级信息的关键词抽取器
  • C3：过滤模块（类似CF training过滤）
  • C4：通用生成式样本增强框架
• 实验效果：对比不同Backbone模型下不同生成式样本增强方法的效果，包括EDA（基于规则的增删改）、BT（反向翻译）、LAMBADA、GDA、PromptGDA等。

大模型时代还留给了搜索哪些NLP问题？

• 大模型目前的局限性：生成结果准确性、在线服务耗时、实时信息获取能力不足。
• 对应的NLP问题：大规模语义检索任务、大规模文本分类任务。