1-5 郭跃鹏 - LLM在B站大数据架构中的应用落地

DAMS 中国数据智能管理峰会 SUNKI LLM在B站大数据架构的应用 读讲人：郭跃朋 日程 ·背景介绍架构简介技术挑战产品展示 DAMS中国政量配管理峰务 Aboutme B站大数据架构师 FeaturcStoreAccelerate DataQuslity DataSecurity ApacheGriffinCofounder DAS中国政管配联管理障务 背景介绍－总体架构 DAMS中国教产团际管理障会 背景介绍－业务规模 ，28W离线任务/天 2WKyuubi任务/天 ：7K实时任务/天 ：3人天/组件/周 DAS中国政管配联管理 背景介绍－主要问题 ·为什么任务失败 ，为什么任务慢？ DAMS中国政量配际管理峰务 背景介绍Spark Driver Exeoutor Eacutor Exeoutor Useroode ClusterManager DAS中国密配脑管理峰务 背景介绍-:SparkOPSSoark? ianne sparkMcasure DAMS中国教产管际管理障会 背景介绍－任务慢的原因 背景介绍一任务挂的原因 DAMSI 架构简介－整体架构 大 架构简介－业务视图 助手 DAMS中国政出配际管理峰备 架构简➴－RAG DstaIndexing ChunksLLIs 架构简➴－1VectorDB DAMS中国政出配好管理锋备 技术挑战embedding问题on!y 不相关 DAS中国政管配旺管理蜂务 技术挑战-semanticchunk 技术挑战-semanticchunk DAMS中国教产团际管理峰会 技术挑战 -semanticchunkbyagent DAS中国政管配旺管理蜂务 技术挑战-metadatafiltering "id""engine* "SPARK" "corponent";"HNS", "suh_Consonent":"CONSTRATNT" "oncall":"Eth于= 'question";"Internaterrar.processingadd_partitions_req", "unique_keywerds";"add_partitiors_req", "answer"："hivenetastore清求界悠，请联系高微小边于"， explanstion";" 技术挑战-customizererank DAMS中国教量配范管理峰者 技术挑战-promptingpatterns metata2tz: https://platform.openai.con/docs/guides/pronpt-engineering DAMS中国政密配际管理峰告 技术挑战－Agents https://arxiv.org/sbs/2201.11903 https://arxiv.org/abs/2204.01691https://arxiv.org/abs/2210.03629 DAMS中国教出配好管理蜂会 技术挑战-Agents SherHermnereryLoeg-ummenory Calodar1)Moror Codetnterpreansirg Seare AdionSubgoolteconpoction https://liliarmeng-github.io/posts/202306-23-agent/ DA儿S中国政管配旺管理蜂务 技术挑战-Workflow AndrewNg @AndrewYNg IthinkAlagenticworkflowswilldrivemassiveAlprogressthisyear perhapsevenmorethanthenextgenerationoffoundationmodels.This isanimportanttrend,and1urgeeveryonewhoworksinAltopay attentiontoit. 技术挑战－Workflow DAMS中国教产管督管理障务 产品展示-usecasesC DAS中国政管配联管理障务 产品展示-usecases 产品展示－usecases 关注哔哩哔哩技术 谢谢！ ScantoFollow DAS中国教范配医量理锋务 DAMS 中国数据智能管理峰会 ENEWTSUNI THANKYOU!