智能体部署使用安全指引
范围
本文件提供智能体部署使用的全流程安全指引，覆盖评估、准备、部署、使用、停用等阶段，旨在防范安全风险，并为选择商业智能体服务提供参考。
规范性引用文件
主要引用 GB/T 25069 信息安全技术 术语。
术语和定义
- 智能体（agent）：具备自主感知、记忆、决策、交互与执行能力的智能系统，特指面向个人助手场景、基于大模型的人工智能软件。
- 工具（tools）：赋予智能体调用外部能力的标准化接口。
- 技能（skills）：面向特定任务的标准化指令集合。
概述
部署使用智能体时，使用者应遵循本文件指引进行安全防护，参照附录A进行安全检查，并遵循国家及组织相关规定。组织宜建立相关安全管理制度及配套安全能力，应对内部人员部署使用智能体的安全风险。
评估阶段
- 明确使用目的、业务场景、工作任务，评估采用智能体的必要性与合理性。
- 了解智能体的技术特性、能力边界、安全风险，以及开源与商业智能体的差异。
- 谨慎选择智能体，优先选择提供成套方案的商业智能体或具备安全防护的开源项目。
- 检查智能体项目的维护状态，避免选择无维护记录、存在未修复高危漏洞的项目。
- 优先选择集成安全沙箱、高风险操作管控等机制的智能体。
- 检查是否存在自动开放公网接口、强制回传运行数据等重大安全隐患。
准备阶段
- 从官方渠道获取智能体安装物料，并验证其真实性和完整性。
- 根据部署方式采取安全防护措施：
- 本地部署：选择独立设备，备份原有文件，清理敏感数据。
- 虚拟化部署：严格隔离，防止问题扩散至宿主机。
- 云环境部署：选择具备身份管理、访问控制等能力的云平台。
- 选择已备案的大模型，优先采用本地化部署，使用官方接口调用。
- 进行安全机制差距分析，通过部署安全工具或服务增强以下能力：
- 输入输出内容安全保护。
- 智能体行为管控。
- 智能体身份与凭证安全管理。
- 智能体供应链安全检测。
- 高风险操作拦截与管理。
- 环境隔离。
- 资源消耗与成本控制。
部署阶段
- 根据官方文档或经核验的脚本进行部署，避免使用来源不明的便捷化脚本。
- 检查插件来源的可靠性，避免安装来源不明、存在未修复高危漏洞的插件。
- 不使用管理员权限运行智能体，仅授予最小权限。
- 限制智能体的可访问目录范围，建立专用工作目录。
- 将智能体配置为仅本机可访问，确需通过互联网访问的，配置加密访问并限制来源。
- 开启智能体的日志记录功能，记录文件操作、指令执行等行为。
- 建立高风险操作清单，通过智能体安全机制进行管理，对清单内操作实行二次确认或阻断。
使用阶段
- 复查智能体安装与配置情况，确保使用者可了解执行状态、进行操作管理和急停控制。
- 加强技能使用的安全防护，使用来源可靠的技能，并进行安全测试。
- 保护敏感数据安全，坚持最小必要原则，避免提供未授权的第三方信息及敏感数据。
- 定期检查智能体公网接口的必要性和安全性。
- 使用智能体获取网络信息服务或参与网络社交媒体讨论时，符合网络安全相关法律法规要求。
- 定期开展智能体运行环境内有价值数据的容灾备份。
- 定期手动查看长期记忆文件记录的内容，处理不宜存储的数据，并调整配置策略。
- 及时回收敏感权限，清理不再使用的技能与敏感对话记录，开启多因素鉴别。
- 及时核查处置安全工具、安全服务的告警信息，并根据安全公告采取相应措施。
- 持续关注智能体运营方发布的安全公告，及时升级、降级或版本锁定。
停用阶段
- 停止智能体主程序及所有关联服务与后台进程的运行。
- 对仍需保留的数据进行容灾备份。
- 根据部署环境执行环境清理操作：
- 本地环境：使用官方卸载程序或重置操作系统。
- 云环境：关闭公网访问入口，删除相关数据，撤销凭证和权限。
- 虚拟化环境：直接停用或参照本地环境清理。
- 及时确认终止相关服务、取消订阅及自动续费，关注大模型接口费用。
附录A 安全检查清单
提供具体的安全检查项，确保智能体部署使用的安全性。
附录B 安全管理指引
建议组织建立内部智能体使用管理制度，包括禁止行为要求、使用边界要求、审批流程要求等，并建立智能体资产登记表，对已审批智能体进行统一登记和管理。对已审批智能体活动进行日志记录、风险分析和周期性排查，并建立未审批智能体的发现能力。面向组织内部员工开展安全教育，提升安全风险和安全使用认知。
