热门搜索：

腾讯云（邹鹏）：AGI时代向量数据库的发展趋势

信息技术2024-08-26邹鹏-张***

AI智能总结

向量数据库的发展趋势与挑战

挑战

当前面临的挑战：
- 大模型的外接存储需求。
- 参数模型窗口向量数据库的需求。
- 非结构化数据检索方案（如Embedding）的技术难题。
- 多租户方案的成本优化。

发展趋势

技术发展趋势：
- Embedding技术：横向发展（Emebedding Every Type）、垂直发展（Emebedding Every Object）、Fine-tune。
- 向量索引：召回率提升及成本优化，包括多租户方案、智能索引（HNSW）、量化 + 降维。
- Hybrid文本检索：Rerank方案挑战，如Weight、RRF、Ranker。

腾讯云向量数据库进展

产品概述：
- 腾讯云向量数据库（Tencent Cloud VectorDB）是腾讯自研的分布式向量数据库，基于集团多年的业务积累。
- 提供高吞吐、低延迟、低成本、高可用、弹性扩展的全托管向量检索数据库服务。
性能指标：
- 支持百万级QPS，单索引向量规模可达十亿级。
- 日处理向量检索量高达1600亿次。
- 多种向量索引支持和检索方式，满足AI、推荐等场景需求。
行业对比：
- 行业平均QPS为0.19，腾讯云向量数据库达到1.23。
- 单QPS成本为0.77元/月，远低于行业平均水平。
- 通过信通院标准测试，具备500万QPS和99.99%的高可用性。
具体应用：
- 支持千亿级超大规模的企业级向量数据库。
- 毫秒级响应延迟，提供极高的性能和稳定性。

RAG技术的发展趋势与挑战

技术框架：
- 综合数据+模型的工程，涵盖Query Retrieve Generate Data。
- 包括意图识别、Query改写、Prompt组装和结果过滤。
挑战：
- 文本提取：传统OCR难以达到高识别度，多模态OCR是未来方向。
- 数据检索：需要Agent的发展思路来提高效率。

腾讯云向量数据库行业应用

业务进展：
- 已在多个行业和应用场景中得到广泛应用，提供一站式RAG数据平台解决方案。

结语

腾讯云向量数据库凭借其卓越的性能和稳定的可靠性，在向量数据库领域处于领先地位，并为RAG技术提供了强大的支撑。

大数据大数据技术标准推进委员会大数据技术标准推进委员会 AGI时代向量数据库的发展趋势大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会邹鹏｜腾讯云向量数据库负责人据技术标准推进委员会大数据技术标准推进委员会自主·创新·引领大数据技术标准推进委员会目录 01向量数据库的挑战&发展趋势大数据技术标准推进委员会大数据技术标准推进委员会 02RAG的挑战和发展趋势大数据据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会 03腾讯云向量数据库进展大数据据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会向量数据库当前面临的挑战和发展趋势向量数据库是大模型的外接存储大数据技术标准推进委员会据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据大数据技术标准推进委员会模型参数模型窗口向量数据库向量技术是一种非结构数据检索方案大数据技术标准推进委员会大数据大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会据技术标准推进委员会大数据技术标准推进委员会 EmbeddingIndex Embedding技术发展趋势横向发展EmebeddingEveryType 垂直发展EmebeddingEveryObject 垂直发展Fine-tune 大数据技术标准推进委员会大数据技术标准推进委员会大数据据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会向量索引召回率提升&成本优化多租户方案智能索引成本优化大数据技术标准推进委员会大数据大数据技术标准推进委员会大数据技术标准推进委员会用户C 用户B 用户A 大数据技术标准推进委员会据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会 HNSW不是银弹量化+降冷 Hybrid文本检索的Rerank方案挑战大数据技术标准推进委员会大数据大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会据技术标准推进委员会大数据技术标准推进委员会 Weight、RRF、Ranker 大数据技术标准推进委员会大数据据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会 RAG技术当前面临的挑战和发展趋势 RAG是一个综合数据+模型的工程，技术方案才起步 Data Query Retrieve Generate 意图识别 Query改写 Pormpt组装结果过虑大数据技术标准推进委员会大数据技术标准推进委员会大数据据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会文本提取：传统OCR工程难以对齐人类大数据技术标准推进委员会据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据大数据技术标准推进委员会行业OCR的识别度<70% 大数据技术标准推进委员会大数据技术标准推进委员会多模态的OCR才是出路数据检索：RAG也需要Agent的发展思路大数据技术标准推进委员会据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会 GraphRAG 大数据技术标准推进委员会大数据大数据技术标准推进委员会大数据技术标准推进委员会孙悟空在西游记中打了哪些妖怪？大数据技术标准推进委员会大数据据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会腾讯云向量数据库进展腾讯云向量数据库：源自集团大规模业务多年打磨 1800 1600 1400 1200 1000 800 600 400 200 9/1/19 12/1/19 3/1/20 6/1/20 9/1/20 12/1/20 3/1/21 6/1/21 9/1/21 12/1/21 3/1/22 6/1/22 9/1/22 12/1/22 3/1/23 0 OLAMA向量引擎日检索量（亿次/天） TencentCloudVectorDB是腾讯自研的分布式向量数据库，源自腾讯集团积累多年的分布式向量检索引擎OLAMA，提供高吞吐、低延迟、低成本、高可用、弹性扩展的全托管向量检索数据库服务。大数据技术标准推进委员会大数据技术标准推进委员会千亿请求/天大数据技术标准推进委员会 OLAMA向量引擎经过腾讯海量业务在推荐、搜索、AI相关场景的大规模系统验证，日处理向量检索1600亿次。大数据技术标准推进委员会丰富的检索多种向量索引支持，多种检索方式支持，满足AI、推荐等场景的检索需求。大数据大数据技术标准推进委员会高性能/大容量分布式架构，支持百万级QPS，十亿级单索引向量规模。大数据技术标准推进委员会多AZ部署据技术标准推进委员会秒级故障自动切换，默认多可用区部署支持千亿级超大规模的企业级向量数据库 500万QPS 千亿毫秒级响应延迟 99.99%可用性信通院性能和规模测试首家通过信通院标准测试 15000 13843 QPS对比 10000 5000 338133461594 0 128纬度 768纬度腾讯云向量数据库行业平均 4 单QPS成本（元/月） 3 3 2 1.23 1 0.77 0.19 0 128纬度 768纬度腾讯云向量数据库行业平均大数据技术标准推进委员会大数据技术标准推进委员会大数据据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会腾讯云向量数据库：一站式RAG数据平台大数据技术标准推进委员会大数据技术标准推进委员会大数据据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会当前业务进展大数据技术标准推进委员会大数据技术标准推进委员会大数据据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会大数据大数据技术标准推进委员会大数据技术标准推进委员会大数据技术标准推进委员会 THANKS 大数据技术标准推进委员会大数据技术标准推进委员会感谢聆听据技术标准推进委员会大数据技术标准推进委员会自主·创新·引领

点击免费查看完整报告