腾讯云（邹鹏）：AGI时代向量数据库的发展趋势

大数据 大数据技术标准推进委员会 大数据技术标准推进委员会 AGI时代向量数据库的发展趋势 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 邹鹏｜腾讯云向量数据库负责人 据技术标准推进委员会 大数据技术标准推进委员会 自主·创新·引领 大数据技术标准推进委员会 目录 01向量数据库的挑战&发展趋势 大数据技术标准推进委员会 大数据技术标准推进委员会 02RAG的挑战和发展趋势 大数据 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 03腾讯云向量数据库进展 大数据 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 向量数据库当前面临的挑战和发展趋势 向量数据库是大模型的外接存储 大数据技术标准推进委员会 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据 大数据技术标准推进委员会 模型参数模型窗口向量数据库 向量技术是一种非结构数据检索方案 大数据技术标准推进委员会 大数据 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 据技术标准推进委员会 大数据技术标准推进委员会 EmbeddingIndex Embedding技术发展趋势 横向发展EmebeddingEveryType 垂直发展EmebeddingEveryObject 垂直发展Fine-tune 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 向量索引召回率提升&成本优化 多租户方案 智能索引 成本优化 大数据技术标准推进委员会 大数据 大数据技术标准推进委员会 大数据技术标准推进委员会 用户C 用户B 用户A 大数据技术标准推进委员会 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 HNSW不是银弹量化+降冷 Hybrid文本检索的Rerank方案挑战 大数据技术标准推进委员会 大数据 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 据技术标准推进委员会 大数据技术标准推进委员会 Weight、RRF、Ranker 大数据技术标准推进委员会 大数据 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 RAG技术当前面临的挑战和发展趋势 RAG是一个综合数据+模型的工程，技术方案才起步 Data Query Retrieve Generate 意图识别 Query改写 Pormpt组装 结果过虑 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 文本提取：传统OCR工程难以对齐人类 大数据技术标准推进委员会 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据 大数据技术标准推进委员会 行业OCR的识别度<70% 大数据技术标准推进委员会 大数据技术标准推进委员会 多模态的OCR才是出路 数据检索：RAG也需要Agent的发展思路 大数据技术标准推进委员会 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 GraphRAG 大数据技术标准推进委员会 大数据 大数据技术标准推进委员会 大数据技术标准推进委员会 孙悟空在西游记中打了哪些妖怪？ 大数据技术标准推进委员会 大数据 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 腾讯云向量数据库进展 腾讯云向量数据库：源自集团大规模业务多年打磨 1800 1600 1400 1200 1000 800 600 400 200 9/1/19 12/1/19 3/1/20 6/1/20 9/1/20 12/1/20 3/1/21 6/1/21 9/1/21 12/1/21 3/1/22 6/1/22 9/1/22 12/1/22 3/1/23 0 OLAMA向量引擎日检索量（亿次/天） TencentCloudVectorDB是腾讯自研的分布式向量数据库，源自腾讯集团积累多年的分布式向量检索引擎OLAMA，提供高吞吐、低延迟、低成本、高可用、弹性扩展的全托管向量检索数据库服务。 大数据技术标准推进委员会 大数据技术标准推进委员会 千亿请求/天 大数据技术标准推进委员会 OLAMA向量引擎经过腾讯海量业务在推荐、搜索、AI相关场景的大规模系统验证，日处理向量检索1600亿次。 大数据技术标准推进委员会 丰富的检索 多种向量索引支持，多种检索方式支持，满足AI、推荐等场景的检索需求。 大数据 大数据技术标准推进委员会 高性能/大容 量分布式架构，支持百万级QPS，十亿级单索引向量规模。 大数据技术标准推进委员会 多AZ部署 据技术标准推进委员会 秒级故障自动切换，默认多可用区部署 支持千亿级超大规模的企业级向量数据库 500万QPS 千亿 毫秒级响应延迟 99.99%可用性 信通院性能和规模测试 首家通过 信通院标准测试 15000 13843 QPS对比 10000 5000 338133461594 0 128纬度 768纬度 腾讯云向量数据库行业平均 4 单QPS成本（元/月） 3 3 2 1.23 1 0.77 0.19 0 128纬度 768纬度 腾讯云向量数据库行业平均 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 腾讯云向量数据库：一站式RAG数据平台 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 当前业务进展 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据 据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据 大数据技术标准推进委员会 大数据技术标准推进委员会 大数据技术标准推进委员会 THANKS 大数据技术标准推进委员会 大数据技术标准推进委员会 感谢聆听 据技术标准推进委员会 大数据技术标准推进委员会 自主·创新·引领