启明星辰大模型应用安全|深度应用安全基座系列白皮书AI就绪的大模型身份与访问管理AI-R-IAM V1.0
大模型发展与风险
大模型技术近年来取得突破性进展,成为人工智能领域的核心驱动力,其发展历程分为准备期(2022年11月)、成长期(2023年)、爆发期(2024年)和大规模应用期(2025年1月起)。大模型应用中存在身份与访问控制的安全挑战,包括人类身份、AI身份以及非人类身份的安全问题,以及数据安全挑战,如用户提示词输入输出风险、大模型API调用风险、RAG知识库查询风险、数据泄露风险和合规风险等。
身份与访问管理系统(IAM)
身份与访问管理(IAM)旨在确保环境中用户身份的真实性、可靠性以及访问权限的准确控制。启明星辰基于IAM的技术实践,提出通过IAM构建“一体化全程可信数字身份底座”的理念,赋予人员、设备、应用、数据等实体唯一身份标识,实现实名制可信身份鉴权,基于可信身份对访问主体进行动态访问控制。
AI就绪的大模型身份与访问管理AI-R-IAM
AI-R-IAM是为大规模人工智能模型深度应用提供身份安全、访问控制、数据安全、模型安全的基础支撑系统,从身份、访问、行为、数据等维度构建一体化全程可信能力。AI-R-IAM包括可信身份治理、可信权限管理、可信数据管理和可信行为审计等功能,为大模型在训练、部署和使用过程等多个场景中提供安全保障。
应用场景
AI-R-IAM为大模型应用场景提供可信身份、可信认证、可信权限、可信审计、可信数据等关键能力的全面覆盖,主要场景包括:
- 用户访问大模型应用场景,如用户访问公域大模型、用户访问私域大模型、运营维护人员访问私域大模型等。
- 应用访问大模型应用场景,如业务应用访问公域大模型、业务应用访问私域大模型等。
- 用户-AI智能体的安全应用管理场景,如用户访问AI智能体、AI智能体访问大模型应用等。
发展趋势展望
AI-R-IAM将实现重大技术飞跃,在身份欺诈领域、网络安全方面以及与新兴技术深度融合等方面发挥重要作用,为大模型的广泛应用和数字经济的蓬勃发展保驾护航,构建更加安全、可信的数字未来。