生成式人工智能对网络信息内容治理的挑战及其应对

生成式人工智能重塑网络信息内容生态

生成式人工智能技术，特别是大语言模型（LLM）的兴起，正深刻变革网络信息内容的生产模式，引发个人信息、有害信息和错误信息等风险。其发展历程可分为早期模型、神经网络模型和大语言模型三个阶段，当前以ChatGPT为代表的大语言模型展现出强大的内容生成能力。

生成式人工智能对网络信息内容治理的挑战

信息失序：生成内容的识别挑战

人工智能生成内容（AIGC）与人类创作内容存在区别，更易引发网络信息内容风险。现有识别技术存在局限性，准确率有限，难以满足法律确定性标准。

平台革命：新型平台的规则缺位

生成式人工智能服务提供者具有复合性和多元性特点，其运行机制具有黑箱性和规模化特征，现有平台规制规则难以直接适用，存在规则缺位问题。

责任困境：内容损害的分配难题

内容损害责任问题涉及多重主体（开发者、数据提供者、服务运营者等）和多元场景，责任分配存在挑战，需要结合具体情形确定责任承担主体。

人工智能监管的国际发展趋势

美国：发展导向的弱监管模式

美国采取发展导向的弱监管模式，强调在既有法律框架内通过原则性指引与行业自律实现风险管控，联邦立法进展缓慢，政府实践处于不断变化之中。

欧盟：安全导向的强监管模式

欧盟采取安全导向的强监管模式，通过《人工智能法》等立法对人工智能进行分级监管，强调透明性、可追溯性和事前合规，形成数字治理的“欧盟模式”。

中国：发展与安全并重的中间道路

中国探索形成发展与安全并重的监管模式，通过《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等规章，细化相关主体义务，新增生成内容标识义务。

完善人工智能生成内容治理的建议

内容识别：技术与制度协同发展

强化生成内容识别技术体系建设，完善识别技术的配套服务机制，推动识别技术研究发展，建立公共平台，参与国际标准制定。

平台治理：新型平台的规则构建

明确生成式人工智能服务提供者的法律定位，根据服务提供者的信息管理能力进行分类规制，完善生成内容信息披露义务制度，完善平台举证责任与信息披露规则。

责任分配：内容损害的责任规则

在多重主体之间分配责任时，结合具体情形确定责任承担主体，考虑不同主体行为对生成侵权内容的原因力，遵循场景化原则，选择社会效率最优的责任分配对策。