本文旨在规范人工智能(AI)科技活动的伦理治理,促进公平、正义和可持续发展。核心观点和关键内容如下:
第一章 总则
- 目的与依据:依据《中华人民共和国科学技术进步法》《关于加强科技伦理治理的意见》等法律法规,制定本措施以规范AI科技活动的伦理治理。
- 适用范围:适用于在中国境内可能对人类健康、尊严、生态环境、公共秩序和可持续发展等领域产生伦理风险的AI相关科技活动,包括AI科研和技术开发等。
- 伦理原则:AI科技活动应全过程融入科技伦理要求,遵循促进人类福祉、尊重生命权、尊重人类尊严等原则。
第二章 AI技术伦理支持与促进
- 标准建设:建立并完善AI技术伦理标准体系,推动国际、国家、行业和团体标准的制定,建立国际标准化交流合作平台。
- 服务体系机制:促进AI技术伦理服务体系建设,加强风险监测预警、检测评估、认证和咨询等服务,提升企业技术研发和风险防范能力。
- 鼓励创新:鼓励高校、科研院所、医疗卫生机构、企业和科技相关社会组织开展AI技术伦理领域的尖端技术创新和跨学科研究。
- 宣传与教育:指导相关单位开展AI技术伦理的公众宣传和教育,充分发挥科技伦理相关社会组织的作用。
- 人才培养:支持高校、科研院所、医疗卫生机构、企业和科技相关社会组织开展AI技术伦理的教育和培训。
第三章 实施主体
- 实施主体:从事AI科技活动的工作单位(包括高校、科研院所、医疗卫生机构和企业)为各自单位内AI技术伦理管理服务的责任主体。
- 伦理委员会:具备条件的工作单位设立伦理委员会,负责本单位AI科技活动的伦理审查。
- 伦理服务中心:地方和相关部门可设立AI技术伦理服务中心,接受其他单位的委托开展伦理审查。
第四章 工作程序
- 申请与受理:AI科技活动申请人向所在单位伦理委员会或服务中心提交申请材料,委员会或服务中心决定是否受理。
- 一般程序与简易程序:伦理审查一般程序包括会议审查、专家咨询等环节;简易程序适用于风险较低的AI科技活动。
- 审查重点:审查重点包括公平性与公正性、可控性与可信度、透明性与可解释性、责任性与可追溯性,以及科技人员的资质和活动的科学社会价值。
- 专家复审程序:对列入“专家复审清单”的AI科技活动,初步审查通过后可申请专家复审,由相关部门组织专家复审 panel 进行审查。
- 应急程序:制定应急审查工作制度,明确紧急审查流程和标准工作程序,确保突发事件中的伦理审查工作。
第五章 监督与管理
- 责任分工:科技部负责全国科技伦理监督的总体指导,工业和信息化部负责协调和指导应急伦理工作,各行业主管部门负责本行业或系统的AI技术伦理管理和服务工作。
- 注册与提交材料:工作单位需通过国家科技信息系统公共服务平台注册伦理委员会信息和列入“专家复审清单”的AI科技活动。
- 问题报告:地方和相关部门及从事AI科技活动的工作单位需建立有效的问题报告机制。
- 违规处理:违反本措施规定的行为将依法受到相应处罚。
第六章 附则
- 术语定义:对“当地”“科技伦理相关社会组织”等术语进行定义。
- 补充规则:地方和相关部门可根据实际情况制定AI技术伦理管理服务措施和详细规则,科技伦理相关社会组织可制定具体规则和指南。
- 解释权:本措施由工业和信息化部会同相关部门解释。
- 实施日期:本措施自发布之日起施行。
附件:列入“专家复审清单”的AI科技活动清单,包括人机融合系统、算法模型、自动化决策系统等。