浙江大学：从大模型、智能体到复杂AI应用系统的构建——以产业大脑为例

大模型推理能力快速提升

• 大模型发展历程：从早期的基于规则的少量数据处理到模仿人脑进行大量数据训练，再到ChatGPT所代表的基于机器学习、神经网络及Transformer模型的多种技术积累，大模型经历了快速迭代。
• ChatGPT的成功：标志着对话式AI进入大众应用阶段，其成功得益于多阶段训练技术构建。
• 大模型能力增长：在知识问答、数学、编程等能力上达到新的高度，多种任务上的表现超过人类水平。
• 早期大模型推理能力不足：易产生幻觉，在数学推理方面存在明显短板，如简单数值比较错误、多步推理能力弱、推理不一致等。
• 推理能力突破性进展：OpenAI o1/o3和DeepSeek-R1等模型在数学和代码推理任务上表现卓越，推动了大模型推理能力的提升。

推理模型和思维链(CoT)

• 推理大模型发展：QwQ、OpenAI o1/o3、DeepSeek-R1、o3、Claude3.7、Gemini 2.0 Flash Thinking等模型通过测试时拓展、强化学习、蒸馏等技术不断增强推理能力。
• 思维链(CoT)的实现：自动化思维链(CoT)是新一代大模型的精髓之一，通过少量高质量样本即可实现适用于某个专业领域的高性能低成本推理模型。

智能体(AI Agent)

• 智能体定义：大语言模型（LLM）可以接受输入、分析&推理、规划任务、输出文字\代码\媒体，但缺乏人类记忆和工具运用能力。
• 智能体构成：包括记忆模块、任务规划工具模块、智能体框架等，能够自主执行链式调用，并访问外部工具。
• 大小模型协作：大语言模型负责规划和决策，AI小模型负责任务执行，如HuggingGPT所示。

四链融合产业大脑案例

• 产业认知决策需求：精准科学地识别并批量形成具有战略意义的"卡脖子"问题清单，实现关键核心技术突破。
• 产业发展决策需求：新兴产业培育、产业发展战略规划、创新体系建设、产业创新生态营造等。
• 产业网链大模型：以通用中文大模型为基座，注入海量产业数据和产业链知识图谱，结合工具集、知识库和指令微调训练得到。
• 产业网链大模型构成：包括记忆模块、任务规划工具模块、"大小模型协同"的智能体框架等。
• 典型应用场景：省级四链融合决策应用实践（浙江省产业一链通）、市域四链融合决策应用实践（宁波市产业链智能创新平台、南平市绿色产业创新平台）、产业集群四链融合决策应用实践（中国视谷产业大脑、萧山机器人产业大脑、慈溪智能家电科技大脑）。

总结

• 新一代大模型的推理能力正在不断增强。
• 基于高质量小数据集即可训练得到某个专业领域的高性能低成本推理模型。
• 通过智能体(AIAgent)可以基于大模型实现各种较为复杂的智能应用系统。
• "推理大模型+知识图谱（知识库）+智能体"是否会成为未来AI系统开发和应用的范式？