人工智能行业从承诺到实践选举管理中的人工智能(英译中)

联合国开发计划署关于人工智能在选举中应用的研报总结

核心观点

• 人工智能（AI）在选举管理中的应用具有巨大潜力，可以帮助提升包容性、公正性和效率，但也存在风险，需要谨慎应对。
• 人工智能在选举中的应用并非新生事物，生物识别去重、字符识别和算法模式检测等技术已被长期使用。
• 生成式人工智能代表着一种质变，它引入了概率性输出、新的错误形式（包括幻觉和嵌入式偏见），并且其采用速度往往超越了传统治理框架。
• 人工智能在选举中的有效应用取决于建立政治和公众共识，确保可靠的技术实施，并建立透明和问责的治理。
• 过去在选举中对数字技术的应用提供了持续的经验教训：创新应解决明确的问题，测试应严格，应用应循序渐进。
• 设计或实施不良的系统可能会损害公众信任，干涉基本权利，并加剧现有的不平等。

关键数据和研究结论

• 联合国开发计划署（UNDP）发布的2025年人类发展报告引用了调查结果，称在27个国家的工人中，近一半人在2024年每天使用人工智能，这一比例从2023年的约30%有所上升。
• ChatGPT一半的网络流量来自中低收入国家。
• 联合国会员国已通过《全球数字公约》（GDC），该公约确立了旨在促进包容、开放、可持续、公平、安全、可靠数字未来的目标、原则、承诺和行动。
• 《全球数字公约》第4条“规定了实现‘包容、开放、可持续、公平、安全和安全的数字未来’的目标、原则、承诺和行动”。
• 联合国开发计划署（UNDP）设计了一种名为“人工智能格局评估”（AILA）的诊断工具，旨在为各国提供一个结构化的流程来评估人工智能的成熟度，并设计包容性和负责任的人工智能发展行动路径。

人工智能在选举中的应用领域

• 分析：例如，注册中心监控和异常检测。
• 认可：例如，生物识别技术和选票读取。
• 自动化：例如，工作流程和结果处理。
• 创造：例如，外联内容和软件开发。
• 选民沟通：例如，聊天机器人和多语言选民参与。

人工智能在选举中应用的原则和考量

• 包容：确保系统收集并基于具有代表性的数据来构建，以限制人工智能的偏见。
• 机构与流程的公信力：技术决策应在仔细考虑对选举当局的信任之后做出。
• 可靠性：即使是很小的错误也可能影响公民的投票能力，引发法律挑战，或削弱对结果的信心。
• 透明度：对选举的信任与程序的透明度密切相关。
• 问责制：影响政治权利和选举结果的决定，其法律责任应始终由一个可识别的实体或官员承担。
• 隐私：个人应免受政府及私营机构非法或任意收集、处理、保留、共享或使用个人数据的侵害。

人工智能在选举中应用的转型方法

• 理解需求：成功的转型取决于对所解决问题的清晰理解以及成功的标准。
• 建立政治共识：旨在达成共识的互动对于在整个利益相关者范围内建立对结果的信心也可能至关重要。
• 保障权利，坚持原则：保护基本权利，特别是支撑选举参与的基本权利，应始终是所有与选举程序相关的决策和行动的优先事项。
• 风险管理：选举项目本质上属于高风险活动，这种情况可能会加剧与人工智能相关的特定风险。
• 人在正确的地方：人工智能工具可以带来巨大价值；然而，这项技术远未完善。选举是行使基本权利，因此，适当的人工干预和问责制至关重要。
• 早期测试，频繁迭代：严格的测试体系可以降低风险，提高人工智能解决方案可靠并产生价值的可能性。
• 设计要包容：在整个人工智能项目中优先考虑包容性是设计有助于真正选举和被接受解决方案的基本原则。
• 组建技能娴熟、多元化的团队：数字项目受益于多元化、跨学科团队，这些团队能够提供更广阔的视角和多样化的方法。
• 安全构建：选举技术的完整性与公信力（实际和感知的）对于其有效运行至关重要。
• 处理地址隐私：选举的基础，也是伦理人工智能使用的核心，是尊重用户隐私和数据。
• 默认开启：数字项目中的开放性正日益受到欢迎和重视。
• 为未来而建：选举数字化转型是一个过程，而非事件。由于未来需求和创新，变化将是常态且持续不断。