开发者内部AI模型使用风险报告

2026-04-27 IAPS Angie

独特风险：前沿人工智能公司内部模型的潜在风险，与外部部署系统的风险有所不同，有时甚至更大。
风险特征：
- 优先访问权限：内部模型以及使用它们的员工通常可以访问训练基础设施、安全评估流程、模型权重、安全控制以及专有代码库等敏感系统。
- 缺乏外部监督：公司内部专用的模型在开发和测试过程中，外部审查有限。
- 功能更强：任何公司在特定时间点功能最强的系统，通常在公开发布前会内部部署数周或数月。
- 更高的滥用风险：前沿公司的内部人士可能会使用或开发仅有助于模型变体——这些模型版本通常不应用通常用于面向公众的模型的安全过滤器。
加剧风险的因素：
- AI研发自动化：公司可能更不愿意公开部署那些能显著加速人工智能研发的模型，以免帮助竞争对手。
- 自动化研发的超人速度：可能会使人类监督能力面临压力。
- 特权访问：用于自动化人工智能研究的AI模型将需要广泛访问公司代码库、训练基础设施和计算资源来运行实验，这种特权访问增加了模型不当行为可能造成的损害。

两大威胁向量：
- 自主式AI不当行为：模型可能自行采取有害行动，例如对评估进行微妙干预或秘密行动。
- 内部威胁：拥有特权的员工或承包商可能会滥用、窃取或恶意修改内部模型。
有害后果：
- 内部人工智能研发的破坏：一个流氓人类或人工智能模型可能破坏安全和对齐研究，或操纵后续人工智能模型的训练。
- 直接的灾难性滥用：人工智能公司内部人员可能利用先进内部模型能力，用于生物武器开发、大规模网络攻击或其他造成广泛危害的行为。
- 模型权重泄露：一个恶意的人类或人工智能可以制作并分发未经授权的模型权重副本。

三大主要人工智能监管框架：加利福尼亚州的《前沿人工智能透明度法案》（SB 53）、纽约州的《负责任人工智能安全与教育法案》（RAISE法案）以及欧盟的《通用人工智能实践守则》。
要求：前沿AI模型的开发者撰写并发布一套前沿AI框架，该框架需包含应对内部使用风险的条款，并提交内部使用风险报告，描述其安全措施及安全措施未能充分解决的风险残留。
本指南：为公司提供了统一标准，以制作适用于上述三个监管框架的内部使用风险报告。

风险框架：AI开发者应致力于构建一个“安全论证”，即一个有证据支撑的结构化论点，证明该AI系统是可接受的、安全的。
风险因素：针对自主AI和内部人员威胁模型（参见表格1）中的三种风险因素逐一进行讨论：
- 能力：模型或内部人员是否具备造成相关损害的技术能力。
- 动机：模型或内部人员是否有意造成损害。
- 机会：在现有的访问控制、权限、监控和其他安全措施下，模型或内部人员是否有可能在不被发现的情况下获得造成损害的机会。