人工智能与城市 ： 规范算法的全球竞赛

CIDOBNotes internacionals 286人工智能和城市： 二月规202范3 算法的全球竞赛 MartaGalceran-Vercher,CIDOB全球城市计划研究员。 @martagalceran 越来越需要确保 基本权利没有受到损害通过工业fi的开发和使用智能(AI)应用程序。全球 竞相设定应该遵循的标准-Vern和监管AI正在进行中-在全球大国、论坛和组织之间-Nisations，以及企业和公众和私人机构。 全球规则的碎片化- 保守党的环境导致了城市的地位 他们自己也是在利益冲突中的规范行为者。 城市承担着两个独立的监管角色- 实际上，通过发展地方治理标准和倡议，以及集体，在城市联盟的框架内 比如CC4DR和Eurocities。 甚至是有争议的生物识别。大多数这些应用程序已经在行业中使用如正义，人力资源管理， fi金融服务、流动性、医疗保健和公共 服务提供。 AI投资激增并非偶然世界各地，或者政府 越来越多地将这个概念包括在他们的国家 安全策略。这也不足为奇 主导人工智能发展的竞争已经 出现了，产生了一种全球人工智能竞赛，无论是大国还是重大技术 平台明确参与。早在2017年， 弗拉基米尔·普京警告说，无论谁领导艺术fi 情报将统治世界；从那时起，种族只是加速。 A rtifi社会智能(AI)不再仅仅是 科学fiction的研究——它成为了现实早在关于ChatGPTfi的辩论开始之前 2022年末的公共话语。比如电力和 在互联网上，人工智能将成为最强大的我们时代的变革力量，具有潜力 彻底改变所有行业和经济部门。它的应用在fiNite：从算法决策- 将大型数据集制作和批量处理到自然语言和语音处理系统，风险预测， 人工智能系统不仅仅是 软件。事实上，社会技术系统围绕 它们至少同样重要，如果不是更重要的话。任何辩论因此，在人工智能及其治理方面应该考虑 创建、开发、实施、使用的组织并控制AI，以及可能的个人 被它和它可能的任何新的社会关系所感染 generate。这是因为人工智能系统具有很高的 Significancanethicalandlegalimplicationsduetotheir 可能影响广泛的基本权利，例如围绕隐私、非歧视和数据 保护。更重要的是，AI可以-并且已经- 对民主和法治有不利影响。 特别是，它有可能影响社会和政治话语，通过 社交网络内容的生产和传播，fi获取信息，并产生新的不平等。 在这种情况下，政府越来越受到敦促 不仅是为了推动刺激人工智能创新的政策， 还要采取措施保护我们的社会 使用这种破坏性的可能带来的风险 技术。因此，开发人工智能的竞赛已经加入了“人工智能监管竞赛”，其中 fi首先采取行动可以获得实质性的竞争优势。各国政府并不孤单 field。他们行动缓慢意味着城市再次将自己定位为不可或缺的演员-这 道德和负责任的人工智能发展的时间。 分散的全球背景 今天，全球AI治理通过多种方式进行分散的监管框架， 异质的、分散的和反向的avarietyofactors。 所有大国都公布了他们的战略 促进人工智能的使用和发展，自2016年以来 发展人工智能(AI)的竞赛一直是 加入了“AI监管竞赛”，fi首先采取行动可以获得巨大的竞争优势。 调节其他玩家的动作 国际体系。因此，尝试是有意义的了解这些之间的关键差异 三种方法，可以广泛描述 作为资本主义的自我调节(美国)，技术- 威权主义(中国)和全面权利- 基于监管(欧盟)。欧盟法规 在许多方面，欧盟正在引领消费者基于保护和权利的监管方法 数字环境。其通用数据保护 法规(GDPR)，于2018年生效， 开创了全球数据监管的先例，2 在美国激励类似的立法和 中国。同样，《Artfi社会情报法》 (AIAct)presentedbytheEuropeanCommissionin 2021年，并且仍然在谈判中，是 最先进的监管 fi领域中的框架，以及可能会塑造一个新的全球标准。 他们已经开始协调他们的努力(主要是不成功)在政府间框架内 像七国集团和G20。一些国际组织， 包括教科文组织和经济组织 合作与发展（OECD）已加入 为人工智能制定全球监管标准的竞赛，许多企业、研究机构、公民社会 组织和地方政府。 全球景观的碎片化可能是 归因于一系列原因，包括歧义 “人工智能”作为一个概念。它也是1 值得注意的是，技术治理模型由世界三大区域集团推动 （美国，中国和欧盟 [欧盟])从根本上是不同的，就像没有促进真正的全球监管框架 由国际组织。除此之外还有 处理不同利益、规范和准则的问题私营公司的行为(主要开发商 技术)、政府和公众舆论。 与全球技术治理的其他领域一样，Signifi不能在意识形态上存在差异美国，中国和欧盟 数据监管和人工智能治理。地缘政治这种模型冲突的ramifi阳离子很大 1.尽管进行了许多尝试，但并不存在AI的商定定义。至关重要的是，AI不是一个一件事，但一个涵盖各种技术和应用的总称。 进一步复杂化的是，被称为AI的应用程序不断不断发展。 这一立法建议因此，必须在另一方的背景下看待 构成欧洲fi社会政策的倡议 情报，始于2018年，其中包括 欧洲战略ArtfiSocialIntelligence(2018)， trustworthyAI(2019)的道德准则由 Artfi社会情报高级专家组， 和“人工智能白皮书”(2020年)。 但人工智能法案可能会在2024年生效。这代表了一项新的创新法规 基于人工智能的潜在风险，以及数字市场法(DMA)和数字服务法(DSA)相当于当局寻求的整体方法 管理人工智能和信息技术的使用社会。 《人工智能法》追求两个基本目标：a) 规范人工智能的使用，以解决这两个问题和技术风险；以及b)创造一个安全的空间满足高水平保护的AI创新 公共利益、安全和基本权利 和自由。它还寻求建立一个值得信赖的鼓励采用人工智能服务的生态系统。为此，需要采取基于风险的监管方法；在换句话说，法律规定了某些义务和 基于四个潜在风险级别的限制从人工智能的使用(见图1)。 2.从立法启发其他法律的方式可以明显看出这一点，例如加州消费者隐私法案(CCPA)与中国的个人信息保护 法律（PIPL）。 图1.欧盟AI法案中的风险级别 ABLE 高风险 LIMITEDRISK 最小风险 资料来源:作者。 中国法规已经通过了自己的立法。在fi领域3 人工智能也没有国家一级的fi 2017年，中国采用了“新一代产品”情报发展计划”，详细说明了战略应指导AI的目标和原则 广泛领域的发展。目标是 毫无疑问，使国家成为全球领导者 fi领域。从那时起，中国发展了其他机制用于规范AI开发，特别是在算法方面监测和数据。特别值得注意的是 个人信息保护法（PIPL） 2021年，这在很大程度上受到欧洲GDPR。2022年3月，一项新规定生效旨在监控“推荐算法” 互联网搜索引擎。该法规授予用户新的权利，包括选择不使用的能力推荐算法和删除用户数据。 但它也包括一些更不透明的条款关于需要私营公司的内容审核积极推广以下“积极”信息 中国共产党路线。中国对 因此，算法远远超出了数字领域，因为这也决定了中国人的行为 政府在社会上批准。这种方法， 许多人的特点是技术威权主义，对比与美国的。 美国法规 美国的做法遵循“监视”的逻辑 资本主义。“。从数据保护条例开始，值得注意的是，美国目前没有联邦法律这可以与欧洲的GDPR相提并论。 鉴于联邦政府的不作为，five州 （加利福尼亚州，科罗拉多州，康涅狄格州，犹他州和弗吉尼亚州） 立法，尽管算法问责制 法案(2022)是朝着这个方向迈出的第一步。 事实上，国家层面的发展滞后监管可能是由显著的fi不能反对 在社会的大部分地区中，人工智能被用于 公共部门，特别是面部的使用由公安部队识别技术。在这 感觉，而美国和欧盟在人工智能监管方面存在分歧 (自我调节与综合调节)，它们 分享将监管与保护联系起来的愿望基本数字权利。在没有国家 明确承认这种权利的立法，一些 国家以下各级机构已经开始实施自己的法规，如下所述。 城市集体规范性权力4 预计AI将在各个层面带来好处，但它确实是在大多数实验正在进行的城市 在大多数情况下，与其他地方一起被采用 物联网、5G和Big等技术 数据。城市环境也是其影响最大的地方 值得注意的是。许多地方政府已经在使用AI 3.其中值得注意的是加利福尼亚州的消费者隐私法案(CCPA)，在缺乏联邦一级的立法，已经成为该部门事实上的监管。 4.ThisNota国际不使用术语“规范”和“规范权力”在他们的 法律意义(即作为由主管当局制定的法律规则，以带来秩序通过权利和义务的创造行为)。相反，它在他们的 社会建构主义和全球治理的意义，规范是集体的 期望或适当的行为标准(Finnemore和Sikkink，1998)。 预测对某些服务的需求，预测问题，更快地与公民沟通 通过聊天机器人，以改善决策和 在可持续发展目标上取得进展，最重要的是在空气质量和机动性等领域。 然而，越来越多的人工智能在城市环境并非没有挑战， 特别是在能力城市方面 需要利用他们所有的潜力。然后有必要确保使用 基于AI的解决方案满足安全和责任标准，以及公民的数字权利 受保护。应对这些挑战需要远远超出地方政府权力的行动 立法。尽管如此，一个支离破碎的全球包含明显法律的监管环境 漏洞导致城市将自己定位为 在城市环境中越来越多地采用人工智能并没有没有挑战，特别是当涉及到 城市需要利用他们所有的能力潜力。那么就必须确保 使用基于AI的解决方案满足安全和责任标准，公民的数字权利受到保护。 这可以指导城市采用人工智能解决方案;特别是fi，确保在 城市环境是公平、非歧视、透明的，开放、负责任、网络安全、可持续发展保护公民的隐私。第二，它寻求支持通过映射实现这些原则 领先的道德城市人工智能项目和战略。这些由世界各地的城市开发的最佳实践， 可以在“城市人工智能地图集”中查阅已启动在2022年。最后，GOUAI寻求传播这些国际上的原则和最佳实践 城市社区为了促进道德 从地方层面进行人工智能监管的方法。 同样，通过市政协会，当地各国政府正在寻求政治影响。像欧盟这样的跨国法规谈判 AIAct.TheroleofEurocitiesinparticularstands 在这里。一个网络欧洲主要城市， 来自38名的200多名成员国家，在2020年初 起草了一个回应 欧洲委员会的关于Artficial的白皮书情报，出发 the机会and AI面临的挑战欧洲城市之中 其他请求，它认为 那个当地政府 不可或缺的规范行为者，无论是单独的，通过制定当地标准，并集体地，在 城市网络和联盟的框架。 就城市的集体行动而言，这是值得的提到城市正在做的工作 数字版权联盟(CC4DR)。这项倡议， 2018年由巴塞罗那市推出， 阿姆斯特丹和纽约，由联合国- 人居和寻求促进和捍卫数字 城市环境中的权利。被认为是务实的联盟建立在原则基础上，成员城市(目前约50个)分享最佳实践和 解决与以下方面相关的共同挑战的专业知识制定基于数字权利的政策。 联盟还致力于制定法律、道德和帮助城市推广的运营框架 数字环境中的人权。 代表应该参与欧盟的 fi人工智能工作组，更多资金应该分配给数字发展市政府的能力和素养，欧盟未来的监管框架 值得信赖的AI应该考虑道德原则由CC4DR提出。 在欧盟委员会发布其 2021年拟议的人工智能法，Eurocities致力于大量资源促进讨论 在其成员中，关于立法的相关性和对地方政府的影响。具体 对拟议规例的修订 然后代表城市和活动提交组织起来是为了继续影响谈判。寄给报告员的一封信监管是一个具体的例子。 2021年7月，CC4DR成立了全球城市人工智能天文台(GOUAI) 在城市中推广道德人工智能系统。GOUAI5 朝着三个基本目标努力。首先，它寻求为defi的基本伦理原则做出