大模型推理能力快速提升:早期大模型在推理能力上存在明显短板,如产生幻觉、简单数值比较错误、多步推理能力弱等。OpenAI o1/o3、DeepSeek-R1等模型通过测试时拓展、强化学习、蒸馏等技术,在数学和代码推理任务上表现卓越,推理能力取得突破性进展。
推理模型和思维链(CoT):自动化思维链的实现是新一代大模型的精髓。通过精心设计的少量高质量样本,即可训练得到某个专业领域的高性能低成本推理模型。OpenAI-o系列推理模型通过Reasoning生成详细的内部思维链,模拟人类的深思熟虑,逐步分解复杂的问题。DeepSeek-R1作为首个将思维链显式展示的开源模型,通过工具集、知识库和指令微调训练得到产业垂域大模型iChainGPT,提供产业文档解读、产业链图认知、产业主体画像等能力。
智能体(AI Agent):智能体是大模型的眼和手,通过接受输入、分析&推理、规划任务、输出文字\代码\媒体,并运用工具与物理世界互动,拥有人类的记忆能力。智能体可以基于大模型实现各种较为复杂的智能应用系统,如撰写调研报告、自动发邮件等。The Framework of LLM-powered Agents理论框架阐述了智能体的构成要素,包括环境、观察、行动、决策、记忆等。
四链融合产业大脑案例:产业大脑面向产业创新领域,以通用中文大模型为基座,注入海量产业数据和产业链知识图谱,结合工具集、知识库和指令微调训练得到产业网链大模型。产业网链大模型使用海量产业数据和知识图谱训练,创新性地引入“大小模型协同”的智能体框架,面向产业创新业务场景,提供产业知识问答、产业报告生成、产业技术分析等能力。典型应用场景包括省级四链融合决策应用实践(浙江省产业一链通)、市域四链融合决策应用实践(宁波市产业链智能创新平台、南平市绿色产业创新平台)、产业集群四链融合决策应用实践(中国视谷产业大脑、萧山机器人产业大脑、慈溪智能家电科技大脑)。
总结:新一代大模型的推理能力不断增强,基于高质量小数据集即可训练得到某个专业领域的高性能低成本推理模型,通过智能体可以基于大模型实现各种较为复杂的智能应用系统。“推理大模型+知识图谱(知识库)+智能体”是否会成为未来AI系统开发和应用的范式?