大模型技术发展及治理实践报告
大模型技术已成为新质生产力的重要组成部分，推动科技融合创新和产业结构升级。其发展面临算力、算法、数据及安全等挑战，因此兼顾发展与安全的治理模式逐渐成为共识。
大模型发展与挑战
大模型技术与应用呈现以下发展趋势：
- 原生多模态成为发展主流： 大模型具备对文本、图像、音频、视频等多模态内容的理解分析和推理等能力，如 GPT-4o 和 Gemini 1.5 Pro。
- 超长上下文理解能力不断突破： 大模型处理长序列的能力大幅提升，如上下文窗口已突破百万 token 量级，可处理数小时视频、数十小时音频、数万行代码等。
- 传统人机交互方式被颠覆重塑： 大模型产品化加速发展，人机交互方式更接近人与人之间的交互，如微软 Copilot PC。
- 大模型的应用模式日益丰富、产业生态愈发成熟： 基于基础大模型的优化训练、二次开发被广泛应用，检索增强、AI Agent 等技术促进大模型与实体经济的深度适配应用。
大模型发展面临以下挑战：
- 算力短缺问题突出： 全球和中国都面临算力短缺问题，主要原因是需求增速远超产能扩张速度和芯片性能提升速度。
- 模型结构创新难度大，可解释性问题加剧： 缺乏对大模型有效性的理论基础，模型结构创新主要依靠经验和试错，且“黑盒”特性导致可解释性不足。
- 高质量数据供给不足： 优质中文语料供给不足，数据资源生态尚未完善，数据集开放程度低，企业更倾向于自采、自用。
- 大模型的技术特性带来了新的安全风险： 训练数据中的不当内容内化进模型、模型“幻觉”问题、超长技术引发的诱导攻击、生成内容愈发逼真加剧误用、滥用、恶意使用风险等。
公有云是大模型技术发展和应用落地的优选路径
大模型训练强依赖大规模的基础设施，面临资源和技术挑战。公共云具备以下优势：
- 为训练全球领先的大模型提供必要条件： 公共云具备建设万卡集群的工程化能力，提供高稳定性和高效率。
- 提供高效率和低成本： 公共云预置完备的工具提高工作效率，资源共享带来资源的高效使用，按需使用节约成本。
- 为大模型提供全面安全保障： 公共云原生的安全能力为大模型的全生命周期提供完备的安全保障，包括基础设施级防护、动态实时防护、数据安全、内容安全、算法安全等。
- 可有效应对算力短缺困境： 公共云可最大化发挥稀缺计算资源的价值，推动规模化应用，协同利用多来源算力，丰富算力生态。
开源生态促进大模型算法发展与安全
开源生态对大模型的诞生具有基础性作用，是大模型技术发展和应用推广的加速器，其核心意义是普惠。开源生态助力提升大模型透明度与安全性，加速大模型发展和应用，助力我国抢占产业生态制高点。开源生态通过促进社区协作、增强透明度，使得更多参与者能够共同识别并解决潜在的安全问题，提升大模型安全性，强化业界信任。
高质量数据供给生态是具备持续竞争力的基础
合成数据是解决高质量训练数据供给不足的突破口，可提升语料的可用性和多样性，改变对齐阶段数据获取的模式，提升安全性。数据上云推动模型应用数据生态建设，提供保障数据安全的能力。检索增强是模型高质量用数的可行方案，通过引入外部知识弥补训练阶段数据的短板，提高生成内容的质量。应以更开放、务实、多元的方式促进高质量数据供给。
体系化的安全治理能力是稳定发展的保障
大模型治理需要从多维度结合多角色视角构建策略，从宏观层面设定目标与框架，并逐步细化至具体执行任务，最终将这些任务精准分配给各个治理模块，针对多角色实现对所有对象的全面治理。
大模型安全治理规范包括：
- 法律法规： 为大模型的技术研发、应用开发和用户使用提供强制性的行为准则。
- 标准规范： 提供具体化操作指南和技术要求，提升大模型技术的安全性、可靠性和可控性。
- 伦理道德原则： 确保大模型的道德正当性、公平性和人道主义等问题，关注大模型技术和应用的社会影响。
大模型安全治理措施包括：
- 技术风险治理： 加强数据保护、优化算法韧性、管理内容风险、提升抗攻击性能和保护隐私。
- 应用风险治理： 确保合法、合伦理性，增强透明度与公平性，引导技术正面效益。
- 防范风险行为： 面向用户，采取多重措施防范滥用误用，保障技术合理应用；面向特定区域、行业及领域，强化技术管控与安全保障。
多方协同治理的价值在于：
- 提出顺应技术发展的治理思路和方案。
- 动态管控风险。
- 推动治理方法创新。
多方协同治理的特点包括：
- 快速响应与适应变化。
- 迭代改进与持续优化。
- 广泛参与和责任共担。
多方协同治理中的产业贡献包括：
- 治理技术： 数据匿名化机制、数字水印技术等。
- 治理规范： 安全机制、生态管理。
- 治理人才： 素养提升、产学联训。
结语
大模型技术开启了新时代，其应用正在深刻改变生产生活。大模型治理是未来关键，需要政府、企业、社会的全力协作，在发展中不断建设和完善安全能力，用治理机制的创新来应对大模型技术创新的各类挑战。全球合作是大模型治理趋势，需要有效协同，在理念、制度和能力层面加强合作，共同管理人工智能潜在风险。
