工业人工智能(AI)正从任务自动化转向系统级协调和自主决策,成为关键基础设施,其风险具有系统性、互联性和跨国性。现有治理模式基于竞争,导致监管空白和标准不一致,无法有效管理此类风险。本文提出以可控性为中心的治理框架(CCGF),基于安全、可靠、透明、问责、包容和可持续性六项原则,构建全球、国家和行业/企业三个层级的嵌套治理架构,并通过分阶段实施路线和注册披露、分级风险分类、赋能公共产品三大工具体系进行落地。
CCGF的核心观点在于:
- 工业AI风险具有系统性、互联性和跨国性,需要从竞争转向共享责任,将安全、可靠和可控性视为公共产品。
- CCGF通过六项原则确保工业AI的可控性,包括安全、可靠、透明、问责、包容和可持续性,这些原则相互强化,形成治理链条。
- CCGF采用三层嵌套治理架构,包括全球标准协调与合作机制、国家分级监管和综合风险管理、行业和企业级运营化和协调约束,通过相互认可、信息共享和协调机制相互支撑。
实施路线分为三个阶段:
- 第一阶段(0-2年):建立国家AI系统注册和强制事件报告制度,推广ISO/IEC 42001标准,支持中小企业和发展中国家企业。
- 第二阶段(1-3年):建立国家合格评定体系和行业治理规范,开展监管沙盒测试,建设共享测试平台和基准数据集。
- 第三阶段(3-5年):建立更广泛的相互认可协议,探索加强国际合作的可能性。
UNIDO可发挥独特优势,支持国际协调平台建设、提供技术援助,并参与提供公共产品,包括测试平台、基准数据集和事件数据库,帮助发展中国家提升治理能力,实现包容性AI工业化。
本文还提出了AI性能准备水平(APRL)作为分析工具,评估AI系统在声明操作域内的实际运行可靠性,分为九个等级,并规定了相应的度量指标和保证程序。APRL的验证和校准是未来研究的重点。
最终结论是,工业AI治理需要从算法治理转向系统治理,从单一层级监管转向三层嵌套架构,从竞争逻辑转向共享责任,才能确保工业AI安全、可靠和可控,推动包容性和可持续发展。