城市人工智能的阴暗面 ： 解决算法的环境和社会影响

CIDOB简介 55城市建筑的暗面 JANUA20R2Y4情报：解决 环境和社会影响算法 MartaGalceran-Vercher，研究员，全球城市计划，CIDOB 阿德里亚·罗德里格斯-佩雷斯，公共政策研究员和数据保护公司，商业广播，Scytl 本次CIDOBBriefiNG总结了国际研讨会的关键fi内容“城市艺术的阴暗面fi 智能：解决算法对环境和社会的影响，2023年6月19日在CIDOB举行 andorganizedbyCIDOB’sGlobalCitiesProgrammewithsupportfromBarcelonaCityCouncil.Scholars,experts 和从业人员召集会议，审议和提出关于高效治理和部署的建议在城市环境中使用算法工具，以减轻环境、社会和政治挑战与AI相关。 W 我们看到了全球e夫orts的激增，以建立Artficial的治理框架 情报（AI）：来自美国 关于安全、可靠和可信的行政命令AI的开发和使用（2023年10月）英国安全峰会（2023年11月）；由 欧洲委员会关于人工智能、人权、民主和法治（2023年7月）；更不用说政治2023年12月达成的协议(将于年批准 2024)欧洲议会谈判代表之间 和理事会通过欧盟人工智能法案。根据欧洲委员会人工智能倡议纲要，那里目前有600多项正在进行的举措旨在治理AI。 然而，当涉及到 算法？根据最近的一篇文章《经济学人》, 任何人工智能法规都应该首先解决三个关键问题问题：世界应该担心什么？什么 任何规则都应该以目标为目标吗？应该如何执行？目前还不清楚是否有上述举措 就AI对 环境和社会。这个问题变得更加 如果我们考虑到多方利益相关者 人工智能治理的维度：它不仅仅是国家或地方政府或政府间组织 都参与其中。私人玩家-尤其是公司 -发挥越来越大的作用，如果不是领先的，在一些这些举措。 此CIDOBBriefiNG扩展到 国际研讨会“城市艺术fi的阴暗面情报:解决环境和社会影响 算法的“,于2023年6月19日举行。我们th深入研究 人工智能和算法治理的两个关键方面： fi最重要的是，人工智能的环境后果，以及其次，更广泛的社会和政治影响 算法。Briefing通过深入的见解来总结以及对人工智能有效治理的建议 在城市环境中。 1.算法对环境的影响：“AI为 “可持续发展”和“可持续人工智能” 关于 人工智能与环境可持续性之间的关系， 所有出版物都表达了他们个人作者的观点，不一定反映CIDOB作为一个机构的观点 广泛称为“可持续发展AI”和AI系统的利益fi与它们的关系 “可持续的AI”（vanWynsberghe，2021）。前者1 涉及在有贡献的领域使用算法工具生态上理想的发展，如气候 保护。此fi领域中的AI应用程序示例包括 计算树木，提供生物多样性的精确估计在各个领域，监测实时天气模式， 或预测能源消耗、空气质量和二氧化碳排放，以及提高资源中的E-CNS效率 分配。这些说明了人工智能如何作为一个强大的快速和明智的决策工具，促进 朝着更可持续的城市迈进。鉴于此，“AI 对于可持续性“占了热情的采用 许多城市的AI解决方案。AI4Cities项目is 很好地说明了这一趋势，代表了最重要的fi不能展示城市是如何 积极寻求人工智能驱动的能源和解决方案迁移域支持它们向碳的过渡 事实数据中的环境成本。问题是目前这些系统的开发商和运营商没有提供必要的数据，阻碍了制定和实施有效政策。 欧盟人工智能法案的最新版本代表 apotentialbreakdue.Forthefirsttimetheymay 迫使公司计量和披露信息 关于高风险fic对环境的影响系统。这可能需要合并数据收集方法到这些系统中，汲取灵感从已经建立的监测方法 能源消耗、二氧化碳当量排放、水用途、硬件矿物用途和电子废物这将简化评估 人工智能系统的可持续性(Mollen和Vieth-Ditlmann， 2023). 中立。然而，考虑到对可持续性的评估 AIISstillaydevelopingandnascentracialarea,theSustainAIindex 然而，随着更多的资源用于发展 以及城市AI解决方案的使用，它变得越来越考虑这些对环境的影响至关重要 可以被认为是朝着这个方向迈出的另一个值得注意的步伐。它为评估和 提高人工智能系统的可持续性。这一举措 “可持续发展的AI”涉及在做出贡献的领域使用算法工具生态上理想的发展，而“可持续人工智能”是关于使用人工智能以最大限度地减少不利的社会、生态和经济算法的影响。 技术。确实，设计，生产和使用 AI技术需要一个物理基础设施，调用包括水在内的大量材料资源， 金属、能源和人力。因此，不仅 他们的计算能力，但他们的物质存在从可持续性中产生显著的fi不能伦理问题 立场。毕竟，如Falk和vanWynsberghe(2023年，第7页)说：“人工智能系统的影响有多有用 如果其开发和使用失败，则朝着可持续的目标迈进它在fi第一个地方存在的目的是什么？“ 在这种情况下，“人工智能促进可持续发展”一词应该与“可持续人工智能”区分开来。后者是 关于“在 最大限度地减少不利的社会、生态以及应用算法的经济影响 (罗德etal。，2021，p.1)。然而，环境影响不容易分析，更不用说估计了。一个关键方面涉及将讨论扎根于 1可持续性的概念是一个复杂的概念。它通常被理解为包含三个不同的维度:环境、社会和经济。在这个 部分，我们将分析限于可持续性的环境维度。 建议评估环境可持续性 通过不同阶段的算法(规划和设计，数据、开发和实施)基于四个 标准：能2源消耗，温室气体排放， 使用的可持续性和间接资源消耗。其中，能源消耗(与 温室气体排放)被认为是 主要关注来源。当然，所有与互联网相关的活动严重依赖大量电力，主要是 来自化石燃料。然而，当比较 与其他技术，人工智能，特别是应用程序，如 ChatGPT以其非凡的功率使用而脱颖而出。 首先，训练大型语言或其他AI模型需要大量的电力。此外，大型语言模型在 机器学习领域，包含尽可能多的作为数千亿个参数。训练 过程需要数周的GPU小时，有助于碳排放。作为一个例子， 2.For有关不同标准的更详细说明，请参阅：https://sustain。算法watch.org/en/逐步迈向可持续的ai/ 训练BLOOM的能源消耗，一个开放存取多语言语言模型，等同于为普通美国人提供动力所需的数量 41年的家(Falk和vanWynsberghe，2023年， p.5)。此外，聊天机器人或任何其他最终产品每次使用时都需要电。最近，一些 提出了解决这一问题的建议， 包括在算法上使用一个标签的想法，公开了二氧化碳排放量和计算 在他们创造中使用的权力。对于城市管理部门来说，优先考虑这些类型的算法可能是一个很好的 改善其生态可持续性的方法 数字计划，因为大多数城市技术不是内部开发。同样，地方政府 可以优先使用经过训练的算法拥有小型和精心策划的数据集。 虽然这种方法可能需要更多的时间，但它不仅有助于可持续性，但也增强了公平性 和准确性，从而有助于减少 “数据污染”。 2.算法的社会影响 就像人工智能对环境的影响一样，在政治问题上，两种主要观点占上风算法的维度，可以标记为 “民主人工智能”和“民主人工智能”(见方框2)。同样，虽然AI的政治和社会影响 可能已经研究了更长时间(例如，虚假信息和错误信息或算法歧视)，其 对政治和社会的实际影响仍然很远 从清晰。在这方面，大多数担忧似乎集中在奇点的可能性，即 AI超越了人类智慧。然而，以及 正如ShazadeJameson在研讨会上所说的那样，“真正的人工智能的革命将是平凡的。“。事实上，可能是 （生成）AI的最有问题的方面是它隐藏了在明显的视线。 方框2。“人工智能促进民主”与 “民主AI”？ 关于民主与算法之间联系的两种观点 arenotnecessarilyconcentfiicting.Foronething,“AIfordemocracy”sees 使用新的和更强的形式的算法的潜力 民主参与。例如，DanielInnerarity认为AI 伴随着加强对公共政策和 关于社会偏好的知识，这两者都可以帮助民主决策。AvivOvadya更加乐观。他 在人工智能中看到代表审议承诺的实现 （例如，公民集会，陪审团，小组或审议性民意测验）。根据对作者来说，算法可以简化重要的任务，比如 翻译和实时口译、组织和总结 信息，取代人类促进者的一些角色，或者甚至通过在群体内产生新的潜在共识。 因此，“民主AI”可以成为更“民主”的工具。大赦国际。”在这方面，Ovdaya还认为，通过由算法驱动的代表性审议将是 开发AI系统的组织有可能探索如何纳入民主程序。 其次，至关重要的是要考虑到更广泛的支持和链接硬件的基础设施， 涵盖网络的能源消耗 系统、数据中心和冷却系统的维护 (FalkandvanWynsberghe,2023,p.5)。这包括计算机芯片的生产和建立 AI运营的数据中心。幸运的是，有旨在提供城市数据中心的现有举措 更加环保，例如斯德哥尔摩数据公园(请参阅框1)或巴黎项目使用服务器能源加热游泳 池水。然而，迫切需要更广泛的 在城市一级，因为这些措施仍然更多轶事比标准做法。 方框1.斯德哥尔摩数据园区的案例 减少数据中心对环境的影响的需求正在增加, 斯德哥尔摩正在成为数据中心可持续性的全球领导者。在这种情况下，一个重要的问题是确保数据的需求中心不会对电网造成压力，特别是在城市地区 业务和个人电力需求峰值。 瑞典极冷的气候，这使得它成为一个有吸引力的由于服务器冷却需求的设置，数据中心的位置，也引起了人们对满足住宅电网容量的担忧 加热。解决这两个问题的一个解决方案包括捕获数据中心产生的废热，并将其重定向回电网 为家庭提供暖气。 启动于2017年，斯德哥尔摩数据公园项目已经建立了一个内聚系统，使数据中心能够驾驭复杂的 在瑞典建立，连接到区域供热网络，以及 促进斯德哥尔摩的可持续性目标。这项倡议涉及多个利益相关者，市政支持延伸到提供 土地和网络援助，以及简化官僚数据中心公司的流程。 斯德哥尔摩将数据中心吸引到城市并利用的举措他们在区域供热网络中的多余热量不仅增加了 它的IT行业也帮助减少了城市的排放。到2022年，这一举措已经恢复了such热量，使30,000现代 公寓每年。 算法已经嵌入在我们的许多 日常习惯，从地图上搜索方向 或移动导航应用程序到语音助手。不是到 提到大多数在线服务都依赖人工智能：一般来说，我们在网上看到的是fi分类阳离子和 关联算法(如搜索引擎或在线 广告)，我们可能会受到算法的影响我们甚至不知道(当申请工作时，抵押贷款，或注册医疗和保险programmes). 公共管理也广泛使用算法， 例如，对于医疗诊断、警务、fi和有资格获得公共补贴的人，或决定是否向幸存者提供警察保护 性别暴力。在地方一级，许多城市正在使用生成式AI模型来获得来自非结构化数据，提高理解 城市中正在发生的事情，以及使用 Box3.(Generative)AI作为威胁民主? 谁来管理算法？到目前为止，尽管有数百个 人工智能治理、私人、专业的fit参与者仍然在做得最多的决定。当我们考虑到 生成AI的治理。一旦出现就不足为奇了 我们意识到ChatGPT只花了一个月就达到了1亿 月用户。在最近的出版物中，SarahKreps和DougKriner得出结论，生成人工智能威胁到民主的三个核心支柱治理：代表性、问责制和信任。 根据AvivOvadya的说法，有三种可能的情况 (生成)人工智能的治理。fi第一个是“专制集中化”，来自专制国家的强大公司控制 “极其强大的人工智能系统。”目前，这似乎是最有可能的情况。有两种选择:“不可治理 “权力下放”将允许不受限制地访问人工智能系统，这可能导致它们被用来造成不可逆转的伤害；或者“民主（去）集中”将促进民主投资 在开发符