腾讯大模型税务行业解决方案介绍
大模型技术和应用演进图谱
- 技术演进历程：从2016年NVIDIA大规模AI架构GDX-1到2023年ChatGPT等AGI技术的爆发，大模型技术经历了多个重要里程碑，包括Transformer架构、GPT系列、文心一言、ChatGPT等。
- 商业化应用：大模型在多个领域实现商业化应用，如多模态生成、模型调用API、自主Agent等。
- AGI相关技术：包括多模态生成、深度求索（DeepSeek）等，DeepSeek系列模型在知识类任务和复杂推理任务上表现出色，具有低成本、高效能等优势。
腾讯税务领域大模型建设的思考
- DeepSeek模型的局限性：虽然DeepSeek在公开评测中表现优异，但在实际应用中仍存在幻觉率高、指令遵循弱、拒答率高等问题，需要结合应用框架和工程优化。
- 大模型应用构建流程：从0到1构建大模型应用需要四个步骤：算力建设、模型选型、模型部署、行业模型打造。
- 大模型应用落地策略：组织拥抱大模型需要小步快跑、快速迭代，并考虑模型的领域适配和算力优化。
腾讯税务大模型重点产品和解决方案
技术底座建设
- 高性能算力集群：提供分布式文件存储和缓存加速，以及高速通信网络。
- 工具平台-Ti：覆盖大模型训练和精调工具链，支持一键部署和训练加速。
- 技术平台-知识库：提供RAG、工作流、Agent等多种应用开发方式。
内容安全
- 天御系统：从问题侧、模型侧、答案侧三个层面进行敏感信息过滤和规避。
私有化部署
- 私有化方案的优势：满足网络与业务连续性、行业合规性、定制化与知识产权保护、长期成本控制等需求。
- 公有云方案：支持多种业务场景，数据私密性要求高，利用行业公开数据，快速资源需求。
知识引擎&大模型联动流程
- 知识引擎的作用：帮助LLM突破知识在时间和空间上的限制，降低成本，节约LLM计算成本。
- 应用场景：包括网通办政务、电子说明书、虚拟导游、金融数智人等。
智能客服
- 文件助手：提供强大RAG能力，搭建精准的知识问答应用，支持复杂文档解析、切分、检索、推理、生成。
- 员工服务专家助手：自动化服务开发票、挂号、预约办事、大厅服务等。
知识引擎“工作流”
- 复杂应用构建能力：支持用户快速编排复杂应用，提供10+画布节点，编排复杂应用，执行准确率和对话完成率效果领先。
腾讯Ima 0成本尝鲜方案
- 税务行业知识库快速落地案例：提供模型开发全生命周期场景选型、模型构建、部署、应用等方案。
腾讯云TI平台
- TI-ONE：面向数据开发人员，提供从数据预处理、模型训练、自动学习、模型评估到模型发布部署的全流程支持。
- TI-Matrix：面向AI应用开发者，快速接入模型、数据和智能设备，提供模型部署、应用工作流编排、云边端调度等功能。
- DeepSeek精调方案：支持SFT，提供全流程训推工具链，内置Angel加速能力，切实提升训推效率。
内容安全 - 贯穿模型训练和内容生成全流程
- 内容风控平台：从接口输入、内容预处理、模型识别、策略辅助、平台调度分析共5个维度为用户提供完整的内容安全解决方案。
- 天御系统：覆盖多场景、全类型内容的私有化内容审核方案，快速响应大模型各类审核需求，保障商用落地。
