生成式人工智能（如ChatGPT）对政府的影响

Gartner 在线研讨会 Gartner提供可操作的、客观的洞察力、指导和工具支持 更强的性能 组织的关键任务的优先级 提高你的网络研讨会的经验 问一个下载 问题附件 看 再一次 受限制的分布 2©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 除了炒作:影响 戈夫nment生成的人工智能,等作为ChatGPT 本肯 老主任分析师 受限制的分布 3©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 Gartner联系 这是所有关于ChatGPT 4©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 TGPT 5©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 生成AI-小的例子 爱因斯坦英伟达 Deepmind GPT4ChatGPT 文本 人为 骆驼 MetaAI DALL-E2 缪斯女神 Maitu人工智能 图像 稳定的扩散 Lensa人工智能 Wombo λ/吟游诗人 谷歌翻译 Craiyon 重修表面 Listnr VALL-Elovos Speechelo Respeecher 将人工智能 图片视频 Murf Play.ht 的声音亚马逊波利 SynthesysSonantic 做一个视频 视频 Elai.io DeepbrainAI Synthesys Synthesia Resemble.ai Pictory Synthesia 6©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 W的帽子是一种生成人工智能大语言模型? •神经网络 •许多参数 •在大量的训练 标记文本或其他数据 •数据从公共数据集——一般它介绍了偏见 •自我——或者Semi-Supervised学习 •紧急与意想不到的行为结果 7©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 W帽子大语言模型是干什么的? •读过很多 •非常清晰 •能说多种语言 •可以迅速草案 •没有实战经验 •有点天真 •能产生有趣的的想法 •将学习从他们 •可能会或可能不会理解敏感性和隐私 8©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 …。会提醒你什么? •读过很多 •非常清晰 •能说多种语言 •可以迅速草案 •没有实战经验 •有点天真 •能产生有趣的的想法 •将学习从他们 •可能会或可能不会理解敏感性和隐私 9©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 建议1:政策 •使用炒作ChatGPT 强调政策的必要性 ——安全性和隐私 ------内部使用 ——面临的外部使用 ——威胁评估 10©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 用例 戈夫nment 11©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 它可以用于W帽子吗? 用例和技术正在迅速激增 生成文本分析文本操作和问题 翻译 回答 管理机构 报道,1圣草案情绪分析- 通信 政策问题 任务 评论的媒体解决行政积压 回办公室 过程指导,招聘流程,报告到多个 信息自由请求 报告投诉处理 的身体 增加员工 它 代码生成、用户发现功能指南检查分析,代码迁移 重构,遗产 用户支持 参与公民 指导、交流情感分析, 针对边缘化 帮助台, 移情作用的 成分 个性化的支持 沟通 和信息 操作 指南(内部和分类、优先级、 外部的)、报告分类、修订外展 多语言支持, 增加新员工,合规、过程 摘要 依从性 12©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 它可以用于W帽子吗? 用例和技术正在迅速激增 生成文本分析文本操作和问题 翻译 回答 管理机构 报道,1圣草案情绪分析- 通信 政策问题 任务 评论的媒体解决行政积压 回办公室 过程指导,招聘流程,报告到多个 信息自由请求 报告投诉处理 的身体 增加员工 它 代码生成、用户发现功能指南检查分析,代码迁移 重构,遗产 用户支持 参与公民 指导、交流情感分析, 针对边缘化 帮助台, 移情作用的 成分 个性化的支持 沟通 和信息 操作 指南(内部和分类、优先级、 外部的)、报告分类、修订外展 多语言支持, 增加新员工,合规、过程 摘要 依从性 13©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 特定能力–人类服务保护服务 摄入 入站推荐队列 伤检分类 建立情况信息 更新的情况信息 组装数据 调查的支持 风险评估情况因素 工作流证据 管理管理 管理机构的使命和战略 吸引选民 增强风险基于决策 干预的支持 推荐编制 例外, 升级 资格,登记和保护服务 病例管理 病例监测服务 周期动态情况下 报告监控 事件审计日志出站事件 付款保健和护理 系统协调 提供者管理 监控位置 分配位置转换处理 14©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 周期性的情况下从“业务能力的参考 更新 “G00780325模型为人类服务 特定能力–人类服务保护服务 摄入 入站推荐队列 伤检分类 建立情况信息 更新的情况信息 组装数据 调查的支持 风险评估情况因素 工作流证据 管理管理 管理机构的使命和战略 吸引选民 增强风险基于决策 干预的支持 推荐编制 例外, 升级 资格,登记和保护服务 病例管理 病例监测服务 周期动态情况下 报告监控 事件审计日志出站事件 付款保健和护理 系统协调 提供者管理 监控位置 分配位置转换处理 15©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 周期性的情况下从“业务能力的参考 更新 “G00780325模型为人类服务 特定能力–执法部门预防犯罪 样设备,外围设备,访问 收音机 物联网(传感器、相机, 这套) 桌面 移动设备 设备 组成订婚 保持和平 数字ID 多 社交媒体 通道 运动Collabo- 管理定量工具 社交媒体听 呼叫中心 帮助那些有需要的人 防止犯罪 操作系统 通信 RMS9-1-1录音计算机 系统辅助设 计 实时事件/犯罪 中心 保护生命和财产 检测和逮捕罪犯 民主党 调查& 情报 分析(业务情报,地理空间) 数据和服务 企业内容 物联网平台数据/管理 管理 从对法律的功能模型执行“G00779900 16©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 特定能力–执法部门预防犯罪 样设备,外围设备,访问 收音机 物联网(传感器、相机, 这套) 桌面 移动设备 设备 组成订婚 保持和平 数字ID 多 社交媒体 通道 运动Collabo- 管理定量工具 社交媒体听 呼叫中心 帮助那些有需要的人 防止犯罪 操作系统 通信 RMS9-1-1录音计算机 系统辅助设 计 实时事件/犯罪 中心 保护生命和财产 检测和逮捕罪犯 民主党 调查& 情报 分析(业务情报,地理空间) 数据和服务 企业内容 物联网平台数据/管理 管理 从对法律的功能模型执行“G00779900 17©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 优先级 18©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 提出倡议: •分数: –业务价值 •政策/社会的结果 •操作效率 •风险服务 –可行性 •技术 业务价值 可行性 低 •组织（技能、治理、适应能力、运营模式） •外部（数据可用性、法规、可接受性） 19©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 为每个提出倡议: •分数: –业务价值 •政策/社会的结果 •操作效率 •风险服务 –可行性 •技术 科技只是 1/6的挑战! 业务价值 可行性 低 •组织（技能、治理、适应能力、运营模式） •外部（数据可用性、法规、可接受性） 20©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 事情最终会在哪里 有选择性地 投资! 谨慎! 业务价值 可行性 低 避免!? •这是可行的吗? •导致真正的回报吗? •这看起来不错,但在现实中.... 21©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 建议2:优先计划 •评价业务能力可以 受益于生成的人工智能功能 •合计价值 –值的任务 –减少操作的资源 –减少失败的风险 •确保可行性 –技术可行性 –组织的可行性 –社会和管理可接受性 22©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 建议2:优先计划 •评估哪些业务能力可以从中受益生成人工智能功能 •合计价值 –值的任务 –减少操作的资源 –减少失败的风险 LLM技术不成熟和迅速改变 最常见的失败原因主要变化 人工智能是负面新闻特别敏感 •确保可行性 –技术可行性 –组织的可行性 –社会和Regulatrory可接受性 23©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 挑战和风险 24©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 注意事项 •大型语言模型从现有数据 ——他们将会融合偏见从他们的源数据 ——数据不可能和生活过时的 ——他们没有所需的“概念模型” 结果 •数据提供了可能严重误导 ——大部分的材料可能受版权保护 •生成AI不能的产品 版权在我们的指导下 •责任尚未影响 法律上测试,任何管辖 •与搜索结果不同，聊天响应通常会给出一个选项 如果响应是错误的或危险的,责任是谁? 25©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 建议3:降低风险 •确保所有员工理解的极限 生成AI并不是一个可靠的甲骨文 •为实验提供一个安全的空间 –人们已经尝试! –收获的好主意 •更高的价值/风险组合交付阶段: –首先,“人类的循环” 人类负责 –规模只有当自动化剩余风险足够低高管和法律所接受 •继续关注事态发展 26©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 使用外 戈夫nment 27©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 戈夫nment不是唯一用户 外部用户不会直接访问政府网站 •良性的使用 ——个性化的指导 •通过政府流程 •旅游行程 •对政府活动的反应 –边缘化/低教育程度的更好沟通社区 •挑战 ——可能是过时的信息 ——信息可能是不准确的 •与外部服务提供商合作，提高他们的能力客户服务设置 –毕竟–它减轻了政府服务的工作！ 28©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 戈夫nment不是唯一用户 外部用户不会直接访问政府网站 •恶意使用 –行政的洪水 •投诉、信息自由 –DeepFake攻击 •社会工程 •腐败的过程中,接触的信息, 资金的重新定向，提供执照/许可证 •模拟的公众人物 –中毒的 •通过外部故意错误信息模型 –代码生成 •生成大规模病毒攻击 •监测的发展和建设计划 29©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 戈夫nment不是唯一用户 •要记住的东西: ——公共ChatGPT,Bing,吟游诗人可以使用 手机上的每一个人 –对于生成草稿或总结非常有用 文本 –政府雇员将会使用它,并将 除非你给他们避开你的控制安全的空间 30©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 建议4:了解威胁 •涉及外部各方的发现 •参与生成人工智能服务供应商如何学习 优化/控制反应 •建立减排计划可能的攻击向量 ——Deepfakes ——中毒的 ——行政洪水 –…..? 31©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 建议 32©2023年Gartner，Inc.和/或其附属公司。保留所有权利。 建议 1234 利用炒作