斗鱼直播实时风控引擎快速对抗探索实践-李瑞

直播行业黑产问题与全栈式风控引擎建设

直播行业常见的黑灰产问题

直播行业面临多种黑灰产问题，主要包括：

• 业务安全痛点：存在木桶效应，缺乏全面的风险防范措施。
• 业务对接成本高：不同业务需独立风控名单/接口服务，策略配置复杂且效率低。
• 性能要求高：高吞吐量下实时计算时效性要求严格。
• 用户体验差：风控后用户缺乏反馈途径，投诉排查效率低。
• 防御时效性差：风险感知能力不足，策略迭代慢，依赖离线挖掘周期长。

全栈式风控引擎的建设

为解决上述问题，斗鱼直播构建了全栈式风控引擎，其核心优势包括：

• 降低对接成本：业务注册后可一站式接入风险管控、监控告警等服务，推动业务收拢。
• 可视化引擎：低上手门槛，常用策略模型高度复用，支持高度定制规则。
• 智能风控提升对抗效率：
  • 高吞吐设计：行为指标实时计算，采用多流滑动窗口和高效规则引擎（如源代码性能最优的选型）。
  • 预装载缓存优化：通过缓存用户信息（日均2.5E请求，耗时从5ms降至1.5ms，命中率从32%提升至87%）。
  • 风险标签存储优化：采用分桶存储的bitmap方案（内存使用从250G降至30G，耗时从20ms降至6ms）。
• 提升用户体验：
  • 友好的风控引导提示，明确受限原因和违规影响。
  • 用户自助申诉，替代人工客服，实时监控客诉量。
  • 系统自动解决部分客诉，根据风险程度自动解除限制。
• 策略优化闭环：持续优化风控策略模型，分析误杀情况，推导实际准确率。

文本识别对抗实践

文本识别面临的主要挑战：

• 广告变体：谐音、象形、拆字、符号间隔、拼音混合等变体。
• 低俗辱骂变体：谐音、拼音缩写、同音词混合、表情符号代指。
• 自研敏感词匹配算法：基于NFA的通配敏感词匹配，解决通配符逻辑和调用量大的问题。
• 敏感词自动发现：结合异形字公共子串技术。

思考与展望

未来方向：

1. 自动分析：从半自动挖掘向更成熟的自动化分析迭代，优化特征重复、阈值等问题。
2. 拥抱向量检索：应用于文本相似检索和违规行为匹配。
3. 大模型应用：利用大模型识别文本变体，探索自动化构建特征标签和策略的可能性。