陈赢,网易云音乐资深算法平台工程师,18年加入公司,主导研发在线投放系统、在线精排系统,并从0到1构建模型实时化项目和FeatureStore特征平台,基于MLOps理论研发磐石机器学习平台,助力云音乐算法在商业化与内容分发侧效果提升,荣获集团1024创新技术奖。
云音乐算法业务背景与挑战
云音乐业务发展迅速,但面临多场景、多团队协作及精细化运营的工程挑战,主要体现在:实时化程度低(T+N数据无法反映用户实时兴趣)、建模效率低(烟囱式开发导致新业务落地慢)、模型能力受限(系统能力未跟上业务发展,存在计算性能、一致性等问题)。
模型实时化实践
为解决实时推荐场景中User与Item变化快的问题,云音乐通过实时特征快照、实时样本归因和模型增量训练实现实时化:
- 实时特征快照:异步回放重排后的TopN item特征,避免全量特征IO压力,解决特征穿越问题。
- 实时样本归因:采用Twice Fast-Train矫正或负样本Cache归因法,确保样本Label准确性。
- 模型增量训练:通过Base模型+增量样本累积、样本置信度处理、训练任务性能优化,实现15分钟内完成38万+样本训练。
实验表明,模型更新越快效果越好(点击率提升6%+,有效观看率提升5%+)。
磐石机器学习平台
基于MLOps理论,平台覆盖特征工程、存储、应用、训练、推理、度量分析全流程,解决特征共享、一致性等问题:
- 特征工程:
- 特征管理:元数据管理、统一读写API、一键上线,解决格式混乱、重复开发问题。
- 特征存储:定制高性能存储内核(Tair-DB支持高并发读、批量导入、长序列特征),优化ROI。
- 特征应用:算子编排保证一致性,实现跨平台运行。
- 模型训练:
- 高阶训练框架(TensorFlow/PyTorch定制)+ CI/CD流水线,缩短更新周期。
- GPU加速及分布式训练(A100 MIG替代CPU),优化性能。
- 模型推理:
- 多级缓存机制(全量缓存、查询缓存、结果缓存),提升数据处理效率。
- 高性能模型输入与加载优化(配置化Tensor构建、预热切换、异步卸载)。
- 同进程特征计算与模型计算,减少IO延迟。
- 模型度量分析:
- 特征重要性分析框架,解释模型效果变化(如某特征重要性提升导致效果增长)。
成果与启示
- 效果提升:模型效果提升5%~20%,覆盖多个业务场景(如推荐、商业化)。
- 效率提升:建模周期从月级缩短至周级(75%效率提升)。
- 实践启示:先在单一场景验证成功再复制推广,避免脱离业务空降解决方案。