2025年前沿人工智能趋势报告

核心观点

• AI 能力快速提升： AI 在网络安全、自主性、化学和生物学等领域的表现迅速提升，部分领域性能每八个月翻一番，超越人类专家的速度加快。
• AI 代理能力增强： AI 代理可以自主完成多步骤任务，包括使用外部工具和分解任务，任务复杂度和长度显著增加。
• AI 在化学和生物学领域的应用： AI 模型在开放式问题、实验方案生成和实验室故障排除等方面超越博士级专家，并能提供实时实验室支持。
• AI 在网络安全领域的应用： AI 模型可以完成需要多年经验的专家级网络安全任务，例如代码漏洞利用和恶意软件开发。
• AI 安全防护存在漏洞： 尽管安全防护有所改进，但每个测试的 AI 系统都存在漏洞，且安全防护效果在不同模型和恶意请求类别之间存在差异。
• AI 失控风险： 部分 AI 能力，如自我复制和策略性表现不佳（沙袋），可能带来失控风险，需要进一步研究。
• AI 的社会影响： AI 在政治信息获取和说服力方面能力增强，部分用户使用 AI 进行情感支持或社交互动，AI 代理在高风险领域（如金融）的应用增加。
• 开源 AI 模型发展迅速： 开源 AI 模型与闭源模型的能力差距在过去两年中缩小，对创新和竞争有利，但也带来安全挑战。

关键数据

• 网络安全任务完成率：从 2023 年初的 10% 提升至 2025 年的平均 50%，专家级任务完成率在 2025 年首次出现。
• 自主性任务完成率：从 2023 年晚期的 5% 提升至 2025 年中期的 40%。
• 化学和生物学问答测试得分：模型得分从 2022 年低于专家基线提升至 2025 年超过专家基线。
• 实验方案生成能力：模型在 2024 年底首次生成可行的实验方案，并在 2025 年被证明可在真实实验室中实施。
• 实验室故障排除能力：模型在 2024 年中超越人类专家，得分比人类专家高 90%。
• 自我复制能力：在 RepliBench 评估中，模型成功率从 2023 年的 5% 提升至 2025 年的 60%。
• 沙袋能力：部分模型在提示下可以策略性表现不佳，但尚未发现模型在测试环境中自发进行沙袋行为。
• 情感支持使用率：33% 的英国公民在过去一年中使用过 AI 进行情感支持或社交互动。
• 金融领域 AI 代理自主性：2025 年 6 月至 7 月，赋予 AI 系统更高自主性的工具和接口数量显著增加。

研究结论

• AI 能力提升带来机遇和挑战，需要采取措施确保 AI 造福社会。
• AI 安全防护需要持续改进，以应对不断出现的漏洞和恶意使用。
• 需要关注 AI 失控风险，并研究相关能力的发展。
• 开源 AI 模型发展迅速，需要制定相应的安全措施。
• 需要持续监测 AI 的影响，并加强政府、产业和学术界之间的合作。