DeepSeek的突破边界与浙大先生的未来图景

DeepSeek突破边界与浙大先生的未来图景

DeepSeek的突破边界

• 全球影响力： DeepSeek因开源AI大模型和相关技术火爆全球，在140多个国家的应用商店下载排行首位，是史上最快获得1亿注册用户的APP。
• 模型性能： DeepSeek-R1已发布并开源，性能对比OpenAI o1正式版；DeepSeek-V3在开源模型中位列榜首，与最先进的闭源模型性能相当。
• 模型架构创新：
  • 采用MoE架构并解决路由崩溃难题。
  • MLA多头潜在注意力机制，降低成本、提高效率。
  • 工程优化：DualPipe流水线并行、通信优化、内存管理优化。
• 预训练数据与策略： 14.8万亿Token多样化语料，数学与编程数据比例提升，支持多语言任务；数据构建、通多Token预测（MTP）、长上下文扩展。
• 低精度训练与成本控制： 对激活值和权重细粒度量化，FP8混合精度训练，训练成本550万美元，预训练效率达每万亿Token仅180K GPU小时。
• 训练方法创新： R1-Zero的创新——纯强化学习训练，引入高质量人工标注数据，通过微调建立初始推理框架。
• 推理能力蒸馏与开源生态： 跨模型知识迁移，低成本推理生态开源6个蒸馏模型，API定价仅为OpenAI的3%。
• 国产算力适配： 支持华为昇腾、沐曦、天数智芯等国内云平台。

LLM or Agent

• LLM与Agent的区别：
  • LLM：基于输入文本理解生成响应，缺乏目标导向和主动执行任务能力。
  • Agent：具备推理和规划能力，主动理解目标并完成任务，支持多模态与环境交互，具有自主性和决策能力，可实现个性化与长期交互，系统整合与协作。
• 大模型与智能体的螺旋共生关系： LLM提供认知底座，Agent提供规划、记忆、工具，两者协同进化。
• 智能体开发： 从“开发”转为“创作”，人人都是AI创作者，通过多模态能力、工作流定义，实现智能体协同。

处处用AI，人人会AI——以“浙大先生”为例

• “浙大先生”发布： 基于DeepSeek与Carsi赋能智慧教育新生态，发布“浙大先生+DeepSeek+C AR SI ”。
• AI联盟赋能教育发展： CARSI助力浙江大学成为第三个解锁“校建资源提供者”身份的高校，借助CARSI全球化渠道，将学校自建的特色应用资源“大先生”提供CARSI联盟高校和全球联盟eduGAIN资源的应用范围和影响力。
• “浙大先生”智能体服务门户： 已接入CARSI，提供创建基于DeepSeek模型的智能问答对话的服务能力。
• “浙大先生”智能体开发平台： 与CARSI对接中，面向开发者，提供智能体应用开发平台入口。
• 应用升级：
  • 学在浙大：多意图AI会话学习应用。
  • 智云课堂：AI规划个性化学习内容。
  • ETalk-口语对话平台：基于外语学院口语对话场景负载测试，DeepSeekV3成本大幅降低，个性化、多主题、高响应的对话场景。
• 打造你心中的“AI校园”： 大先生平台与浙大师生深度合作，以教学、生活等多元场景为核心，完善校园应用场景知识库，融合DeepSeek-R1，全方位打造高效智慧的AI校园应用生态。
• 未来场景建设：
  • AI辅助机械设计：集成到SolidWorks中，AI—AD机械设计工具。
  • AI创意创作：短视频故事创作助手等。
  • 代码助手：接入VSCode编程工具，提升开发效率。
  • AI教育：作业生成及批改助手。
  • AI原生智慧校园：Agent驱动校园智能化升级。
  • 教学助手：课程大纲生成、课件生成、启发式辅导等。
• “浙大先生”未来图景——多智能体协作： 模型微调，生成专业模型、校园生活服务模型、校园安全与健康模型。

研究结论

• DeepSeek通过技术创新和生态建设，实现了高性能、低成本的国产开源大模型，推动了AI技术的产业化进程。
• 大模型与智能体的结合，将推动AI应用从简单推理到深度思考，实现AI应用的智能化升级。
• “浙大先生”平台结合DeepSeek-R1，将助力智慧教育发展，打造AI校园生态，推动AI技术在教育领域的深入应用和广泛普及。