1-5 郭跃鹏 - LLM在B站大数据架构中的应用落地

背景介绍

• 总体架构：介绍了B站大数据架构的整体情况。
• 业务规模：B站每日处理28万离线任务，2万Kyubii任务，7千实时任务，每周3人天/组件。
• 主要问题：分析了任务失败和任务慢的原因。
• Spark与Spark OPS：简要介绍了Spark及相关运维情况。
• 任务慢的原因：深入分析了任务挂起的原因。

架构简介

• 整体架构：描述了B站大数据架构的整体布局。
• 业务视图：从业务角度展示了架构视图。
• RAG：介绍了RAG（Retrieval-Augmented Generation）的应用。
• 1VectorDB：提及了1VectorDB的使用。

技术挑战

• Embedding问题：讨论了embedding相关挑战。
• Semantic Chunk：分析了semantic chunk的技术挑战。
• Semantic Chunk by Agent：探讨了由agent执行的semantic chunk挑战。
• -metadata filtering：介绍了元数据过滤的技术挑战。
• *"engine"id""component"; "HNS","SPARK""suh_Consonent":"CONSTRATNT""oncall":"Eth于="unique_keywerds"; "add_partitiors_req",'question"; " Internat errar. processing add_partitions_req","answer"："hivenetastore清求界悠，请联系高微小边于"，explanstion";**：具体技术挑战细节。
• Customize Rerank：讨论了自定义rerank的技术挑战。
• Prompting Patterns：介绍了prompting patterns的挑战，并提供了相关链接。
• Agents：探讨了agents的应用和挑战，并提供了相关研究链接。
• Workflow：分析了workflow的技术挑战，并引用了Andrew Ng的观点。

产品展示

• Use Cases：展示了多个应用案例。

结语

• 关注哔哩哔哩技术：呼吁关注B站技术动态。
• DAMS：提及中国数据智能管理峰会。
• ENEWTSUNI：感谢参与。