支持创新的人工智能监管方法2023

支持创新的方法来人工智能监管 2023年3月 支持创新的方法来人工智能监管 提交给议会 由科学、创新和技术国务秘书根据陛下的命令 2023年3月 版权©皇冠2023 除非另有说明，否则本出版物根据开放政府许可证v3.0的条款进行许可。要查看此许可证，请访问nationalarchives.gov.uk/doc/open-government-licence/version/3。 如果我们确定了任何第三方版权信息，您需要获得相关版权所有者的许可。本出版物可在www.gov.uk/official-documents查阅。 有关本出版物的任何查询，请发送至：evidence@officeforai.gov.ukISBN978-1-5286-4009-1E0288673303/23 打印在至少含有40%再生纤维含量的纸张上 由HHAssociatesLtd.代表国王陛下文具办公室主任在英国印刷 内容 执行概要4 第一部分:介绍8 第二部分:当前的监管环境14 第三部分:一个创新和迭代的方法19 第四部分：支持实施的可信人工智能工具64 第五部分:领土的应用程序67 第六部分：全球互操作性和国际参与68 第七部分:结论和下一步72 附件A：监管机构对原则的实施75 附录B:利益相关方参与78 部长级前言 Rt亲爱的米歇尔DonelanMP, 科学、创新和技术大臣 我相信，常识性的、以结果为导向的方法是直击实现英国各地人民优先事项的最佳方式。更好的公共服务、高质量的工作和学习技能的机会，这些将推动我们到2030年成为科技超级大国的目标。 人工智能（AI）将在实现和实现这些目标方面发挥核心作用，本白皮书将确保我们将英国推向世界上构建，测试和使用AI技术的最佳场所。但我们不是从零开始。自2014年以来，本文在人工智能方面的投资超过25亿英镑，以我们最近宣布的1.1亿英镑用于我们的人工智能技术任务基金、9亿英镑用于建立新的人工智能研究资源和开发能够运行大型人工智能模型的百万兆次级超级计算机为基础——由我们新的800万英镑人工智能全球人才网络和1.17亿英镑的现有资金支持，为人工智能研究人员创造数百个新的博士。 随着技术的迅速发展，我们大多数人现在才开始了解人工智能的变革潜力。但在许多方面，人工智能已经为真正的人带来了巨大的社会和经济效益——从改善NHS的医疗保健到使交通更安全。生成式人工智能等事物的最新进展让我们看到了在不久的将来等待我们的巨大机遇，如果我们准备以我们的透明度、问责制和创新的价值观在人工智能领域引领世界。 我对一个人工智能国家的愿景是，我们的NHS英雄能够使用几十年前无法想象的人工智能技术来拯救生命。我希望我们的警察、交通网络和气候科学家以及更多人能够获得人工智能技术的能力，这将使英国成为最聪明、最健康、最安全和最快乐的生活和工作场所。这就是为什么人工智能是本届政府未来的五项技术之一——带来更强劲的增长、更好的工作和大胆的新发现。这是一个由人工智能利益相关者和专家塑造的愿景，我决心看到他们的专业知识和想法反映在我们的部门。 英国一直处于这一进步的最前沿，在人工智能研发方面排名世界第三。我们拥有欧洲三分之一的人工智能公司，是其他任何欧洲国家的两倍。我们的世界领先地位归功于我们蓬勃发展的研究基地和 通过我们的大学毕业的专业知识，我们创新者的独创性以及政府对投资人工智能的长期承诺。 然而，为了确保我们成为人工智能超级大国，我们必须尽一切努力创造合适的环境，以利用人工智能的优势，并保持在技术发展的前沿。这包括制定正确的监管，以便创新者能够茁壮成长，并解决人工智能带来的风险。 这些风险可能包括身体伤害、破坏国家安全以及心理健康风险等任何事情。人工智能的开发和部署也可能带来伦理挑战 ，这些挑战并不总是有明确的答案。除非我们采取行动，否则家庭消费者、公共服务和企业将不会信任这项技术，并且会对采用它感到紧张。除非我们建立公众信任，否则我们将错过所提供的许多好处。 事实上，变化的步伐本身可能令人不安。例如，有些人担心人工智能取代或取代工作的未来。我们的白皮书和我们对未来人工智能国家的愿景是，我们的工作方式由人工智能补充，而不是被人工智能破坏。在现代世界中，我们太多的职业生涯都被单调的任务所占据——输入数据、填写文书工作、扫描文档以查找一条信息等等。工作场所的人工智能有可能将我们从这些任务中解放出来，让我们花更多的时间做我们训练的事情。 –教师有更多时间教学，临床医生有更多时间与患者相处，警察有更多时间在节拍上而不是在桌子后面–名单还在继续 。 事实上，由于人工智能已经进入我们的日常生活，有许多例子可以帮助说明一旦任何风险得到缓解，人工智能可以带来真正的、切实的好处。流媒体服务已经使用先进的人工智能向我们推荐电视节目和电影。我们的卫星导航使用人工智能为我们的旅程绘制最快的路线，或者通过智能预测旅途中的拥堵位置来帮助我们避开交通。当然，我们几乎所有人的口袋里都装着一部智能手机，它以各种方式使用先进的人工智能。这些常见的设备都曾一度存在风险，但今天它们使我们受益匪浅。 这就是为什么我们的白皮书详细介绍了我们打算如何支持创新，同时提供一个框架来确保识别和解决风险。然而，严厉而僵化的方法可能会扼杀创新并减缓人工智能的采用。这就是为什么我们制定了一个相称和支持创新的监管框架。它不是针对特定技术，而是专注于部署人工智能的环境。这使我们能够采取平衡的方法来权衡收益与潜在风险。 我们认识到，特定的人工智能技术，例如基础模型，可以以许多不同的方式应用，这意味着风险可能会有很大差异。例如，使用聊天机器人生成长文章的摘要与使用相同的技术提供医疗建议会带来非常不同的风险。我们理解有必要与创新者合作监测这些发展，同时避免给部署人工智能的人带来不必要的监管负担。 为了确保我们的监管框架有效，我们将利用我们世界级监管机构的专业知识。他们了解各自行业的风险，最适合采取相称的方法来监管人工智能。这将意味着支持创新并与企业密切合作，但在必要时也要介入应对风险。通过用一套原则来支持框架，我们将推动监管机构之间的一致性，同时为他们提供所需的灵活性。 对于在前沿工作并开发新技术的创新者来说，驾驭监管制度可能具有挑战性。这就是为什么我们确认我们致力于推进帕特里克·瓦伦斯爵士提出的关键建议，为人工智能建立一个监管沙盒。这将汇集监管机构，直接支持创新者，并帮助他们将产品推向市场。沙盒还将使我们能够了解监管如何与新技术相互作用，并在必要时完善这种互动。 退出欧盟后，我们可以自由地建立一种监管方法，使我们能够将英国确立为人工智能超级大国。这是一种积极支持创新的方法，同时 解决风险和公众关切。英国是蓬勃发展的初创企业的所在地，我们的框架将支持它们扩大规模并在国际上竞争。我们的创新方法也将作为强大的激励措施，当涉及到海外的人工智能企业在英国建立业务时。白皮书阐述了我们致力于在国际上参与以支持不同监管制度之间的互操作性的承诺。这不仅可以减轻企业的负担，还可以让我们随着全球管理人工智能方法的发展而嵌入我们的价值观。 我们的方法依赖于政府、监管机构和企业之间的合作。最初，我们不打算引入新的立法。如果过早地立法，我们将面临给企业带来不应有的负担的风险。但是，除了授权监管机构发挥领导作用外，我们还设定了期望。我们新的监测职能将提供对监管框架执行情况的实时评估，以便我们可以确信它是相称的。技术发展的步伐也意味着我们需要了解新的和正在出现的风险，与专家接触，以确保我们在必要时采取行动。这项活动的一个关键组成部分将是与公众接触，了解他们的期望，提高对人工智能潜力的认识，并证明我们正在回应问题。 本白皮书中阐述的框架经过精心设计，具有灵活性。随着技术的发展，我们的监管方法可能也需要调整。我们基于原则的方法，具有监控和推动协作的核心功能，将使我们能够根据需要进行调整，同时为行业提供创新所需的清晰度。我们将继续开发我们的方法，以我们的承诺为基础，使英国成为世界上开发和使用人工智能的最佳企业。对磋商的回应将告知我们如何制定监管框架-我鼓励所有有兴趣的人做出回应。 RT亲爱的米歇尔DONELANMP 科学、创新和科技大臣科学、创新和技术部 执行概要 人工智能——机遇与挑战 1.人工智能（AI）已经带来了广泛的社会效益，从医学进步1到缓解气候变化2，例如，由英国企业DeepMind开发的一项人工智能技术现在可以预测科学已知的几乎所有蛋白质的结构3。这一突破将加速科学研究和救命药物的开发——它已经帮助科学家在抗击疟疾方面取得了巨大进展，抗生素耐药性和塑料废物。 2.英国科技框架4阐述了政府的战略愿景，并将人工智能确定为五项关键技术之一。该框架指出了监管在为人工智能蓬勃发展创造环境方面的作用。我们知道，我们还没有看到人工智能技术充分发挥其潜力。在适当的条件下 ，人工智能将改变生活的各个领域5，并通过释放创新和提高生产力6来刺激英国经济，创造新的就业机会和改善工作场所。 3.在世界各地，国家和地区都开始起草人工智能的规则。英国需要迅速采取行动，继续引领关于人工智能治理的国际对话，并展示我们务实、相称的监管方法的价值。帕特里克·瓦伦斯爵士（SirPatrickVallance）在最近的《创新监管》审查中强调了采取行动的必要性。该报告指出，政府干预的时间很短，以提供清晰、有利于创新的监管环境，以使英国成为世界上建立基础人工智能公司的最佳地点之一7。 4.虽然我们应该利用这些技术的好处，但我们也不应该忽视它们的使用可能产生的新风险，也不应该忽视人工智能技术的复杂性可能会在更广泛的公众中产生的不安。我们已经知道人工智能的某些用途可以 1人工智能在医疗保健和医学中的应用正在蓬勃发展，内幕情报，2023年。 2如何使用人工智能应对气候变化，福布斯，2022年;用机器学习应对气候变化，Rolnick等人，2019年。 3DeepMind的蛋白质折叠AI破解了生物学的最大问题，《新科学家》，2022年;使用深度学习的潜力改进蛋白质结构预测，高级等人，2020年。 4英国科学技术框架，科学、创新和技术部，2023年。 5人工智能的六种最佳未来用途，《技术杂志》，2023年;关于新出现的挑战、机遇和研究、实践和政策议程的多学科观点，Dwivedi等人，2021年。 6大型专用人工智能公司对英国经济做出了重大贡献，每名员工的GVA（总增加值）估计为40万英镑，是其他行业大型专用公司的可比估计的两倍多。见2022年人工智能行业研究，DSIT，2023年。 7支持创新的技术监管评论：数字技术，英国财政部，2023年。 损害我们的身体8和心理健康，9侵犯个人隐私10并破坏人权11。 5.除非这些风险以及对偏见和歧视可能性的更广泛担忧得到解决，否则公众对人工智能的信任将受到损害。通过建立信任，我们可以加速人工智能在英国的采用，以最大限度地提高该技术所能带来的经济和社会效益，同时吸引投资并刺激创造高技能人工智能就业机会.12为了保持英国作为全球人工智能领导者的地位，我们需要确保公众继续看到人工智能的好处如何超过风险.13 6.应对风险和建立公众信任是监管的重要驱动力。但是，明确和一致的监管也可以支持商业投资并建立对创新的信心。在我们广泛的参与中，业界一再强调，消费者的信任是创新经济成功的关键。因此，我们需要一种清晰、相称的监管方法，使人工智能的负责任应用能够蓬勃发展。我们的框架没有制定适用于所有人工智能技术的繁琐规则，而是通过关注人工智能的使用而不是技术本身，确保监管措施与背景和结果成比例。 7.在英国，个人和组织根据我们现行法律规定的规则开发和使用人工智能，并遵循标准、指南和其他工具。但人工智能是一种通用技术，其用途可以跨越监管范围。因此，人工智能技术目前通过复杂的法律要求进行监管。我们对整个行业的反馈感到担忧，即缺乏跨领域的人工智能监管会造成不确定性和不一致，这可能会破坏企业和消费者对人工智能的信心，并扼杀创新。通过提供