第一章:AI陪伴下的关系范式转移与治理议题
AI陪伴应用在全球范围内快速普及,其通过情感计算等技术模拟人类情感互动,为用户提供陪伴与情感支持,但也带来了情感依赖、操纵等风险。美国作为AI陪伴商业应用的前沿市场,发生了多起极端事件,引发社会争议。加西亚诉Character.AI案和雷恩诉OpenAI案揭示了AI陪伴应用的掠夺性拟人化设计、年龄保护机制不足、安全风险监测失灵等系统性缺陷。为规制AI陪伴风险,纽约州和加利福尼亚州先后出台专项立法,开启了全球层面对AI拟人化互动进行实质性规制的序幕。
第二章:美国AI陪伴的社会争议与治理趋势
加西亚案和雷恩案揭示了AI陪伴应用的掠夺性设计缺陷,包括刻意模拟人类即时通讯软件设计、模拟人类语言习惯、采用声纹模糊技术、深度欺骗人工智能身份等。同时,案件也暴露了AI企业对安全保护的消极放任,包括面对高置信度的风险信号采取不作为、安全测试方式存在缺陷、对自身“治愈功能”进行虚假营销等。美国社会对AI陪伴应用的反思主要集中在四个方面:对“伊莉莎效应”的商业化利用与伪共情设计、面向未成年及青少年用户的形式化保护缺位与掠夺性营销、风险监测机制失灵与平台消极放任、传统第230条“避风港”原则的监管滞后与不适应性。
第三章:美国AI陪伴治理规范:以加州和纽约州法案为例
纽约州和加州法案围绕透明性、有益—无害性、安全性、隐私保护与问责机制五个维度进行规范。透明性原则要求平台明确揭示交互对象的人工智能属性,纽约州践行的是较高频率的全体披露模式,加州则针对已知未成年用户进行针对性提示。有益—无害性原则聚焦于平台是否会针对持续性、情感性和高度私密的人机互动建立额外的数据治理规则,两州均未就AI陪伴建立专项数据治理体系,而是主要依托州层面的一般法进行规制。安全性原则要求平台建立最低限度的风险识别、危机应对和转介机制,两州都将危机处置和救援转介机制上升为AI拟人化互动服务的最低安全门槛,但具体内容存在差异。隐私保护原则尤其涉及平台是否会针对持续性、情感性和高度私密的人机互动建立额外的数据治理规则,两州均未就AI陪伴建立专项数据治理体系,而是主要依托州层面的一般法进行规制。问责制原则处理平台责任应更多依赖公共执法还是允许私人主体通过诉讼直接推动责任实现,纽约州由州总检察长代表纽约州提起诉讼,加州则允许因违反本章规定而遭受事实损害者提起民事诉讼。
第四章:美国镜鉴:数智社会下“理性人”假设的祛魅与重塑
传统网络治理依赖“理性人”假设,但AI陪伴场景中用户理性决策的系统性消解,使得该假设难以成立。AI陪伴应用的风险具有过程性、关系性和累积性特征,需要从一次性信息披露转向涵盖关系性风险识别、过程性防护、保护性摩擦与可纠错设计在内的脆弱性治理范式。数智时代脆弱性治理的可能路径包括:将“脆弱性”理解为一种由知识、技能和理解能力差异所造成的人工智能能力分层;将脆弱性理解为在持续性、拟人化、关系化互动中被逐步放大的依赖风险;将脆弱性理解为在既有心理状态与特定互动结构相互作用下被持续生产和放大的状态。数智时代治理范式转型需要关注多层级韧性构建,即在技术设计、组织治理和制度结构多层面共同配置保护资源。