CIDEG决策参考（总第31期）厘清算法安全（影响）评估制度逻辑，加快提升人工 智能治理水平

一、《生成式人工智能服务安全基本要求》的出台标志着我国国家层面首次对人工智能算法安全评估提出实质性制度要求，为相关治理工作提供了重要参考。该文件虽为技术文件，不具有强制性，但其制度演化意义在于开启了我国人工智能算法安全评估的探索进程，并为全球人工智能治理贡献中国经验。

二、人工智能算法安全评估制度逻辑的核心在于将治理重心从结果转向过程，强调治理信息的记录、共享、监督，并要求技术创新者、应用者基于评估结果及时调整内部流程。其目标在于累积治理经验与知识，并基于评估结果进行敏捷回应。制度建设的三种基本模式包括环境影响评估、数据保护影响评估（DPIA）和列表式评估，各有优缺点，需要在多对治理关键点上权衡取舍。

三、欧盟、美国、加拿大等国家在算法安全评估方面形成了各具特色的制度。欧盟通过“合规性评估”和“基本权利影响评估”（FRIA）引入算法影响评估；美国主要将人工智能治理置于垂直领域监管框架之下，NIST提出“人工智能风险管理框架”（AIRMF），联邦政府发布“促进联邦机构推动人工智能治理、创新、风险管理的备忘录”；加拿大则采用“自动决策指令”，要求按问题列表清单进行算法影响评估。

四、《安全基本要求》涵盖语料、模型、场景等多个环节的治理思路，模式上可类比加拿大列表清单模式，通过预先设定的具体问题或指标引导自评估或第三方评估。其积极作用在于启动评估流程，推动后续制度持续演化。未来改革需明确各方对制度逻辑的理解，加快配套制度建设，解决评估结果应用、与算法备案、分级分类治理衔接、自评估有效性界定、监管联动机制、基准共识等工作。

五、以《安全基本要求》为起点，切实推进算法安全（影响）评估工作，不断提升人工智能治理水平。