TRB 网络研讨会 ： 人工智能应用的公平性

TRB网络研讨会：人工智能应用的公平性 2023年5月22日 11:00AM-12:30PM 转向公平：利用负责任的人工智能实现包容性和可持续的运输解决方案 KofiNyarko博士 教授，电气和计算机工程公平AI/ML系统中心主任摩根州立大学 演示文稿概述 运输现状 了解交通运输中的公平问题 AI在解决运输公平方面的作用 负责任的AI概念 面向包容性和可持续交通的负责任AI：机遇与挑战 利用负责任的AI的策略和最佳实践 结论与未来展望 运输现状 •电动汽车的增加 •高速列车的增加 •自动驾驶汽车的潜力 背景: AI在运输解决方案中的作用 •AI到底是什么？ •AI在交通运输中的作用： •AI在交通运输中的例子： 背景：运输解决方案的可持续性趋势 •什么是可持续交通 •AI在可持续交通中的作用 •AI在可持续交通中的应用实例 了解交通运输中的公平问题 •可访问性 •负担能力 •安全 了解交通运输中的公平问题 •某些社区受到不成比例的影响 •农村地区 •低收入城市地区 •弱势群体 了解交通运输中的公平问题 •案例研究1：农村公共交通 •案例研究2：低收入城市地区公共交通效率低下 •案例研究3：弱势群体的可及性和安全问题 AI在解决运输公平方面的作用 •优化路由 •响应需求的运输 •增强的可访问性 AI在提高运输公平性方面的成功应用示例 •示例1：Google的AI地图 •示例2：通过运输 •示例3：用于自动驾驶汽车中的可访问性的AI 负责任的AI概念 •负责任的AI意味着什么？ •负责任的AI的关键要素 •透明度 •Accountability •公平 •人类监督： 人工智能中道德、公平 、透明和问责的重要性 •AI中的伦理学 •AI中的公平性 •AI的透明度和问责制 在运输解决方案中需要负责任的AI •解决交通运输中的偏见和歧视 •确保AI驱动的交通运输的透明度和问责制 •加强人的监督和控制： 面向包容性和可持续交通的负责任AI：机遇与挑战 •解决数据中的偏见 •增强可及性和可负担性 •促进可持续性 负责任的AI成功提升运输公平的案例研究 •案例研究1：Citymapper •案例研究2：Moovit •案例研究3：Optibus 实施负责任的AI的潜在挑战 •AI训练数据中的偏见 •缺乏多样化的代表性 •技术复杂性和缺乏透明度 利用负责任的AI的策略和最佳实践 •社区参与 •不同的数据集 •持续监测和调整 确保负责任的AI部署的行业最佳实践 •AI运营的透明度 •问责机制 •道德准则和标准 结论与未来展望 •AI在交通运输中的作用 •回顾负责任的AI的重要性 •利用负责任的AI的策略回顾 利用负责任的AI实现交通运输的潜在未来 •更高的效率和可访问性 •增强可持续性 关于运输解决方案中公平性和可持续性重要性的最终思考 •公平的重要性： •人工智能在促进公平和可持续性方面的作用 •继续保持警惕和承诺的重要性 问答环节 利用无人机在农村地区建立公平智能的物流系统 王紫平博士 摩根州立大学信息科学与系统副教授 TRB网络研讨会：人工智能应用的公平性2023年5月22日 主题概述 •用公平解决问题 •问题解决技术的公平性 区域 农村送货经验 •大流行期间的真实故事 •老年邻居 •在每日Rx上 •零可访问性 •处方交付（例如，Walgreens） •杂货送货（例如，亚马逊，InstaCart） •送餐(如DoorDash) •... 当天交货可访问性 亚马逊在马里兰州北部边境地区和宾夕法尼亚州南部边境地区无法提供当日送货服务（以绿色标记） 农村人口密度 上图选择了邮政编码 •农村地区通常人口密度低，但土地大。 •独特的地理特征使卡车交货价格昂贵，时间效率低下。 数据源:www.mapszipcode.com 来自农村居民的声音 数据源：项目团队进行的持续调查 解决问题 •为农村居民提供平等的服务 •如何衡量股权？ 权益计量 where 系统调整后的股票指数的一种可能表述 ￿￿=￿￿(￿￿,￿￿,￿￿) 𝐼𝑒∈：系统权益指数； 𝐼𝑡∈：旅行节省时间机会的子权益指数； 𝐼𝑎∈：环境舒适性次级权益指数； 𝐼𝑑∈：交付可及性子权益指数； 解决问题 •为农村居民提供平等的服务 •如何衡量股权？ •无人机作为一种选择？ •国外的成功案例，如非洲的Ziplines •城市地区的最后一英里无人机/机器人交付 •卡车/无人机交付成本结构 •来自政府的股权激励 ￿￿𝜉�>0,𝑖𝑖𝑓�𝐼�≥� � =� 0,𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑖𝑠� E是股票指数的门槛，由政府预先确定 •AI算法解决此类复杂问题 •基于权益的无人机车辆路径问题(VRP-D) 代表性农村地区 马里兰州赫里福德区 赫里福德区是马里兰州北巴尔的摩县的一个地区，占巴尔的摩县全部土地的20 ％。 数据源：https://www.unitedstateszipcodes.org/;美国农业部2017年人口普查 客户位置和道路网络 •仓库位于网络的最南端，靠近UPS配送中心。 •卡车和无人机的最大负载能力分别设置为100和20重量单位。 •股票指数E的阈值设定为90%。 卡车/无人机轨迹和服务客户位置(初步结果) •问题解决技术：遗传算法 •橙色链接是卡车交付轨迹 •蓝色链接是无人机交付轨迹 •使用了21辆卡车；每辆卡车的平均负载为93重量单位 示例案例1中的卡车/无人机轨迹 的轨迹14号卡车并在道路网络中分配无人机交付 示例案例2中的卡车/无人机轨迹 的轨迹卡车#17并在道路网络中分配无人机交付 主题概述 •用公平解决问题 •问题解决技术的公平性 重新审视代表性农村地区 •赫里福德区是马里兰州北巴尔的摩县的一个地区，占巴尔的摩县全部土地的 20％。 •巴尔的摩县的708个农场。 •在赫里福德地区，农民占家庭总数的不到5%。 数据源：https://www.unitedstateszipcodes.org/;美国农业部2017年人口普查 来自农民的两个部分调查响应 数据源：项目团队进行的持续调查 使用GA求解VRP-D时的偏差示例 •染色体偏倚：在遗传算法中，染色体的初始种群会影响最终解决方案。偏向某些路线或客户的初始种群可能会导致不公平或次优的解决方案。 •适应度函数偏差：适应度函数决定了为下一代选择最合适的个体。这种偏差可能会被强化 ，并导致不公平或次优的解决方案。 •位置偏差：忽略客户停止或不受欢迎的入侵农田（没有偏差就是偏差） •客观偏见：仅成本？或与其他因素，如公平、安全、可持续性等。 •交叉和突变偏倚：交叉和变异算子确定如何生成新的解决方案。 •资源偏见：包括多个约束。 后续步骤 •对农村地区的送货需求有更全面的了解。 •深入研究交割权益的复杂性。 •重新审视遗传算法，以响亮的方式求解VRP-D。 •继续努力促进人工智能应用的公平性。 谢谢 改变学习系统中的分布和偏好 主要外卖 许多以人为中心的数据源既不是iid（在火车+测试中）也不是对抗性的 建模假设对于预测行为至关重要！ ￿1￿2 �=α𝒟1+(1−α)𝒟2 仅仅是时间的流逝导致了漂移 仅仅是时间的流逝导致漂移在功能上，在标签上... 仅仅是时间的流逝导致漂移在功能上，在标签上... 仅仅是时间的流逝导致漂移在功能上，在标签上... 通常有多个数据源，其中一些 仅仅是时间的流逝导致漂移在功能上，在标签上... 通常有多个数据源，其中一些可能没有标记 仅仅是时间的流逝导致漂移在功能上，在标签上... 通常有多个数据源，其中一些可能没有标记可能有辅助功能 仅仅是时间的流逝导致漂移在功能上，在标签上... 通常有多个数据源，其中一些可能没有标记可能有辅助功能 可能遵循不同的分布 仅仅是时间的流逝导致漂移在功能上，在标签上... 通常有多个数据源，其中一些可能没有标记可能有辅助功能 可能遵循不同的分布 � 非iid数据生成过程的标志 数据对我们的预测有偏好吗？ 他们是否可以选择提供哪些数据的系统？ 我们的ML系统在操作时是否改变了采样方式？ 数据是在不同的时间/地点/在不同的条件下收集的吗？ 莎拉·迪恩 伯克利UW 康奈尔 莎拉·迪恩 伯克利UW 康奈尔 MihaelaCurmeiBerkeley 莎拉·迪恩 伯克利UW 康奈尔 MihaelaCurmeiBerkeley LillyRatliffUWECE MaryamFazelUWECE 设置：在服务之间进行选择。 设置：在服务之间进行选择。 设置：在服务之间进行选择。 设置：在服务之间进行选择。 设置：在服务之间进行选择。 如果人群根据风险在模型之间进行选择 如果人群根据他们的风险在模型之间进行选择，并且根据他们当前的客户更新模型 如果人群根据他们的风险在模型之间进行选择，并且根据他们当前的客户更新模型，我们可以说这些系统的稳定点吗？ 如果人群根据他们的风险在模型之间进行选择，并且根据他们当前的客户更新模型，我们可以说这些系统的稳定点吗？ 单个模型的相似动力学导致表示差异 (桥本等人，2018年；张等人，2019年) ￿1￿2 �=α𝒟1+(1−α)𝒟2 CurmeiDeanFazhel,Morgenstern,Ratliff'22 ￿1￿2 �=α𝒟1+(1−α)𝒟2 M学习者选择回归假设f1fm降低其当前分布的风险 CurmeiDeanFazhel,Morgenstern,Ratliff'22 ￿1￿2 �=α𝒟1+(1−α)𝒟2 M学习者选择回归假设f1fm降低其当前分布的风险人口Di∈D1Dn]看看f1fm的性能Di CurmeiDeanFazhel,Morgenstern,Ratliff'22 ￿1￿2 �=α𝒟1+(1−α)𝒟2 M学习者选择回归假设f1fm降低其当前分布的风险人口Di∈D1Dn]看看f1fm的性能Di Di转向风险较小的模型 CurmeiDeanFazhel,Morgenstern,Ratliff'22 ￿1￿2 �=α𝒟1+(1−α)𝒟2 M学习者选择回归假设f1fm降低其当前分布的风险人口Di∈D1Dn]看看f1fm的性能Di Di转向风险较小的模型 这些动态通常会导致学习者i拥有100％的人口i CurmeiDeanFazhel,Morgenstern,Ratliff'22 ￿1￿2 �=α𝒟1+(1−α)𝒟2 M学习者选择回归假设f1fm降低其当前分布的风险人口Di∈D1Dn]看看f1fm的性能Di Di转向风险较小的模型 这些动态通常会导致学习者i拥有100％的人口i“隔离稳定点”。 CurmeiDeanFazhel,Morgenstern,Ratliff'22 ￿1￿2 �=α𝒟1+(1−α)𝒟2 M学习者选择回归假设f1fm降低其当前分布的风险人口Di∈D1Dn]看看f1fm的性能Di Di转向风险较小的模型 这些动态通常会导致学习者i拥有100％的人口i“隔离稳定点”。 CurmeiDeanFazhel,Morgenstern,Ratliff'22 ￿1￿2 �=α𝒟1+(1−α)𝒟2 M学习者选择回归假设f1fm降低其当前分布的风险人口Di∈D1Dn]看看f1fm的性能Di Di转向风险较小的模型 这些动态通常会导致学习者i拥有100％的人口i“隔离稳定点”。 CurmeiDeanFazhel,Morgenstern,Ratliff'22 V 参与动态 V 一个系统的总风险是 R(α,∑i,jRi(θj) i,j V 一个系统的总风险是 R(α,∑i,jRi(θj) i,j 定理 当学习者的风险降低而人群的风险降低时， 均衡是总风险的局部最