公共部门工作人员在确保加利福尼亚州负责任地采用人工智能方面的作用

公共部门工作人员在确保 加利福尼亚州负责任地采用人工智能 准备证词AnnetteBernhardt博士，技术和工作计划主任，加州大学伯克利分校 劳动中心 在“加利福尼亚州的前沿：指导AI迈向道德视野”上发表，联合信息CA参议院政府组织委员会和参议院预算小组委员会的听证会 于2024年2月21日，加利福尼亚州萨克拉门托。 早上好，多德主席，帕迪拉主席和参议员们，感谢你们给我这个机会今天作证。我叫AnnetteBernhardt。我在UC指导技术和工作计划 伯克利劳动中心和我也为加州大学伯克利分校数据的一系列研讨会做出了贡献 科学学院正在围绕AI治理召开会议。 我要赞扬你的领导，以及纽瑟姆州长和他的政府 使加州成为应对人工智能革命的国家领导者。 像你一样，我相信公共部门应该树立榜样，体现负责任地使用人工情报。它应该优先考虑受影响社区的安全和福祉-尤其是低 收入社区和有色人种社区-以及公共部门的工人。 我的观点来自几十年来对美国劳动力市场的广泛研究，包括 零工经济和不断变化的工作性质。在过去的五年里，我和我的团队对人工智能和其他数字技术进行研究和政策分析，目的是确保 工薪家庭能够在21世纪的经济中茁壮成长。 我们的研究表明，私营和公共部门的雇主都越来越多地使用 工作场所的数字技术。他们正在捕获、购买和分析工人数据。他们是电子监控他们的工人，并使用算法来管理他们。他们正在使用 技术来增强和自动化工人的任务。底层技术范围从简单数据分析一直到生成AI。我同样敦促参议员们对 你正在解决的数字技术。 对我们来说，重要的一点是，雇主正在使用这些技术来发挥重要作用 决定-关于工资和福利，招聘和解雇，工作分配，工作量，技能要求，工作场所的健康和安全，以及其他雇佣条款和条件。 而且我们已经看到了担忧的出现。严格的监控可以将仓库工人推向 伤害点。有偏见的招聘算法可以使有色人种的女性和工人失去机会。Gig 考虑到所有成本后，平台工人最终可能会低于最低工资。一些雇主正在使用监视来识别正在行使其组织权利的工人 工会.零售业中的“及时”调度软件可能会对工人的生活造成严重破坏。 这样的危害并非不可避免。我相信雇主可以在 workplaceinwaysthatfeltbothworkersandtheiremployers;thegoalisnottoblockinnovation.In 事实上，我们有很多例子，技术帮助工作更安全，开辟了新的职业，提高了产品和服务质量。 但是，它将需要坚固的护栏，以确保工人不会受到一系列快速发展的通常是未经验证和未经测试的技术-其中许多雇主甚至工程师自己 不完全理解。 在公共部门，监督的需求尤其紧迫，可以说，在那里，风险甚至 higher.That’sbecausepublicsectortechnologiesaredual-facing:theyimpactboththepublicandthe 政府劳动力。 对于公众来说，国家对人工智能的使用可能会产生深远的经济、社会和公平影响。我在这里考虑诸如筛选之类的功能，以确定失业等公共福利的资格 保险和医疗；在人类服务项目中对家庭做出决策时的风险评分；社区大学的评分和课程交付；以及高影响力的决定，如判刑 刑事司法制度。 同样，人工智能有可能从根本上改变公共部门的工作。它可以影响技能 requirements,interactionswithclients,workers’autonomy,andmore.Hereagainresearchisalreadyraisingconcernsaboutnegativeimpacts.Examplesincludementalhealthstressfromincreasedwork负载，工作去技能，家庭和工作之间的界限模糊，培训支持不足，以及 当新技术失火时，不得不争先恐后地受到指责。 加州应该如何回应？ 我们已经确定了四项原则来帮助指导政策制定者，因为他们努力实施州长行政命令和制定立法，如参议员多德和 帕迪拉. 首先，工人应该充分参与技术设计和实施，因为他们 拥有知识和经验，以支持负责任、有效地使用人工智能来提供公共服务服务。 我们称之为“循环中的工人”原则。也就是说，公共部门的工人可以在保护公共利益免受政府使用能够 自主推理和决策。 研究和过去的经验表明，从一开始就让工人参与进来可以使技术采用更成功。它可以帮助在危害发生之前识别和预防危害，使工人更有效地完成他们的工作，并腾出时间进行更高层次的决策。 最重要的是，公共部门的工人在前线直接与公众接触。他们是 因此，最有能力预测人工智能对人工智能质量、可访问性和公平性的影响公共服务。 这一原则-公众应该享有比政府更有意义的人力投入的权利影响他们生活的决策-是领先的人工智能政策框架的核心，包括白宫的AI权利法案蓝图。同样，加州 政府运营署在其2023年11月的报告中强调，h欧曼审查和监督是关键的维护公共流程的完整性。 第二，我们必须投资于公共部门的工人，以确保他们有技能和专业知识来选择，与公共部门AI一起管理、管理和工作。 鉴于以公众为中心的重要性，优先事项应该是在内部建立这种专业知识 在私营部门利益经常占主导地位的情况下，情况很好。事实上，管理办公室和 预算最近在给政府首长的备忘录中呼吁建立一支训练有素的公共部门劳动力。正在执行拜登总统关于人工智能的行政命令的联邦机构。 在这里，我将标记一些美国现任工人培训最成功的模式 一直是劳动管理培训伙伴关系。在这些伙伴关系中，工会和高速公路雇主合作解决其行业的关键挑战，同时确保 他们的工人。 第三，公共部门的工人应该有权组织和讨价还价。 新技术的采购和部署，作为讨价还价的强制性主题。Boththe 总督行政命令和几项拟议法案包括工人参与的规定 代表，这是一个良好的开端。在实践中，工人和他们的 工会是从一开始就引入的，在问题定义的时候，而不是在事实之后关于新人工智能系统范围的关键决定已经做出。 最后，加州将需要采用强有力的标准来保护工人，就像公众一样， 针对基于AI的系统的潜在危害。在我的节目最近的一份报告中，我们列出了一个完整的 一套标准，包括透明度和披露，工人对其数据的权利，以及强大的 保护国家作为雇主的角色，以防止电子监控和 算法管理。重要的是，大型私营部门雇主的工人已经拥有一些 这些权利，在2023年1月1日获得《加州消费者隐私法》的保护后。 结束时: 我们政府的基本责任是维护人民的自由权，隐私权，生计和平等对待。新技术应该被认为是它们提供最大的 对工人和公众的潜在利益，以及可以识别和解决风险的地方。我有概述了四项战略，以确保对公共部门工人的影响得到一致解决 最重要的是，我认为工人的参与将是确保 加州公众从人工智能的引入中受益，而不是受到损害。 谢谢你，我很乐意回答任何问题。