2024年中国人工智能伦理挑战白皮书

目录 序言1 一、人工智能正在崛起，而风险防范是需要的4 （1)数字经济的发展促进了AI的整体增长。4 （2)人工智能正在快速发展，并融入许多行业6 （3)中国人工智能的快速应用及其发展吸引了全球关注9 （4)伦理规范有利于人工智能的长期稳定性15 II.从另一座山取出的石头可以作为我们从高级专业知识中学习的工具来打磨当地的玉器22 （1)国际人工智能伦理研究现状23 （2)国际人工智能伦理学研究的贡献和未来方向24 （3)全球主要国家人工智能政策25 （4)全球思想领袖的观点29 （5)全球领先企业的选择与动态32 （8)未来的伦理演进与AI-45°定律的探索60 四、更多国家加入金砖国家，开启AI伦理保障新篇章62 （1)金砖国家应正视人工智能的伦理风险62 （二)金砖国家需要合作应对共同挑战63 参考文献67 Appendix69 III.时刻警惕潜在危险以消除伦理风险39 （1)随着社会和技术的进步，确保AI伦理的概念与时俱进。39 （2)加强监管，防范失控风险40 （3)完善法规，消除侵权风险43 （4)确保透明度和公平性，避免歧视风险46 （五)加强培训教育，降低失业风险49 （6)促进公平政策和广泛合作，消除数字鸿沟风险52 （7)制定指导原则，降低道德价值观侵蚀风险56 序言 在2023年，中国经济和社会发展面临前所未有的风险和挑战，这主要是由于国内外多重因素的过度预期。中国的数字经济克服了许多困难并取得了显著进展，人工智能（AI）犹如璀璨的宝石，在各行各业得到了广泛应用，突显了新技术高质量生产力对经济的促进作用及其对人类文明发展的推动。AI的突破性成果导致其应用迅速扩展，成为数字经济增长的新引擎，并在通信行业等数字基础设施方面取得了重大进展。此外，数字经济为AI的技术进步带来了新的需求和广阔的市场空间，使AI成为我们生活中不可或缺的一部分。从智能手机到自动驾驶车辆，再到医疗诊断和金融交易，AI的应用已经渗透到社会的各个角落。然而，尽管AI技术的应用为人们的生活和工作带来了便利，但也带来了一系列伦理风险和挑战。正是在这种背景下，AI伦理研究应运而生，其目的是探索并界定其道德边界。 “领导者”效应更为显著，这对行业的健康发展和人民福祉具有重要意义。在智能化时代，人机关系将重新定义。因此，在国务院关于新generation人工智能发展规划的通知中特别强调，应为自动驾驶、在线医疗、金融科技、智能分发等领域建立监管框架，并完善相关法律法规和伦理审查规则。 国家新一代人工智能治理专业委员会于2021年9月25日发布了《新一代人工智能伦理规范》，旨在将伦理融入人工智能的整个生命周期，并为从事相关活动的自然人、法人及其他有关机构提供伦理指导。 这份报告首先描述了2023年AI的数字环境，这是AI技术进步的结果，同时也反映了推动其发展的广泛需求。在多个案例研究中还讨论了与AI伦理问题相关的冲突，以提高人们的意识。在接下来的部分中，介绍了常见的AI应用，并展示了中国蓬勃发展的AI社会在2023年的景象。此外，报告还介绍了AI伦理的内涵、研究范围、其他国家的AI发展情况、各国的政策、以及思想领袖和领先企业对AI伦理的看法。 人工智能伦理研究是一个跨学科领域，旨在探索人工智能带来的伦理问题和风险。该领域涉及研究和解决与人工智能相关的伦理问题，以促进其更好地使用并引导其健康发展 。这一研究领域涵盖了哲学、计算机科学、法律和经济学等多个学科的交叉融合。 中国促进办公室于2019年设立了新一代人工智能治理专业委员会，全面负责开展相关政策体系、法律法规和伦理规范的研究与推广工作。这反映了中国对人工智能伦理及其治理的高度关注和积极推广的决心，并突显了这一问题的重要性。对未来人工智能伦理规范的研究与制定将有助于更好地利用其潜力。 然后，在本报告中，我们具体描述了其应用伴随的潜在AI相关风险，重点关注两个方面 ：应用性能的优势和风险。我们谨慎地认为，在未来平衡两者的人工智能-45°发展法则可能是人类的选择，并就预防和应对措施给出建议供读者考虑。 最终，考虑到AI在BRICS国家蓬勃发展，我们提出一些建议。我们认为，在这个快速变化的时代，BRICS国家正在成长、发展，并在全球政治和经济舞台上发挥越来越重要的作用。在人工智能这一科技高地上达成共识并开展合作，能够有效避免AI带来的伦理风险，并极大地促进BRICS国家的经济增长和社会进步。 写作小组成员 领导组织: I. 在需要风险预防的同时，AI正在崛起 2023年AI的迅猛发展标志着人类生产力的飞跃。一方面，AI直接促进了数字基础设施的 中国联通研究院中国联通环球有限公司 建设，极大地增强了数字经济的发展空间；另一方面，数字经济的强大需求推动了AI的研发，而数字经济的巨大市场也为AI提供了无尽的实验领域。在此背景下，对AI伦理问题的研究也随之展开。 专家咨询委员会成员： 中国联合网络通信集团有限公司副总裁唐永波. 陈舒森，中国联合宽带有限公司总经理。李鸿武，中国联合研究院副院长。陈辉，未来网络BRICS研究院（深圳）院长。魏进武，中国联合研究院副总裁。张礼仁，未来网络BRICS研究院（深圳）副总裁。 （1)数字经济的发展促进了AI的整体增长。 2023年是数字中国战略深入实施的关键一年，为数字中国的建设奠定了更加坚实的基础 ，并对推动经济和社会发展产生了更为显著的效果。 写作小组成员： 康琪、刘亚琪、金春华、吴刚、吕金宝、傅玉玉、余东海 参与组织： 金砖国家未来网络研究院中国分会 1.数字基础设施扩展加速 网络基础设施进入加速升级的新阶段。5G网络实现了更广泛的覆盖范围和更先进的技术 ，并加快了对关键站点的深入扩展。截至2023年底，5G基站数量达到337.7万个，同比增长46.1%；每10,000人平均拥有5G基站数为24个，较上年末增加了7.6个百分点；5G手机用户数达到8.05亿，占总手机用户数的46.6%；5G虚拟专网数量超过3万个。基础电信企业的IP骨干网、城域网和接入网的IPv6升级改造已全部完成，国家网络基础设施全面支持IPv6。截至2023年底，活跃的IPv6用户数达到7.78亿。 移动网络流量达到60.88%，固定网络IPv6流量占比达到19.57%。 计算基础设施达到世界领先水平。到2023年底，中国在用✁数据中心标准机架超过81万个，总计算能力达到230EFLOPS，位居世界第二。正在实施✁国家级计算枢纽节点有8个。计算能力供应结构逐渐优化，包括数据中心、智能计算中心、超级计算机中心等多种类型。到2023年底，智能计算能力✁规模达到70EFLOPS，同比增长率超过70%。全国共建设了14个国家超级计算机中心，全国在用✁超大型和大型数据中心数量达到633个。智能计算中心✁数量达到60个（配备超过500块AI卡），智能计算能力✁比例超过 30%。 模型和其他创新正迅速涌现。类人机器人进入了快速发展阶段，专利申请数量快速增长。核心人工智能企业数量超过4500家。量子计算机、脑机接口及其他前沿技术✁研发工作正在加速推进。 计算能力网络取得了重大飞跃。国家“东算西移”战略（将更多✁计算资源从东部地区转移到欠发达✁西部地区）已积极实施，全国计算网络✁布局持续改善。截至2023年底，三大基础电信企业为公众提供✁数据中心机架数量达到970,000个，较上一年末净增加152,000个，几乎是上一年净增加量✁两倍。可向公众提供✁基本计算能力规模超过26EFlops（每秒二十亿亿次浮点运算）。 图1.2019-2023年数据中心发展情况资料来源：工业和信息化部 构建AI基础设施系统。一种结合内部应用和外部赋能✁方法被用于探索新✁AI应用场景 ，并促进“云、网、智”融合发展，以实现向“AI+”战略✁全面转型。人工智能和大数据技术已在网络运营✁各个方面得到引入，包括网络规划、建设、维护和优化。这些努力提升了网络智能化水平，降低了网络故障率，节约了基站能耗，并优化了信号覆盖。三大基础电信企业积极构建了“1通用+N专用”模型相结合✁大规模模型系统，通用模型参数量已达到数百亿级别。工业级大规模模型可以应用于政府事务、应急响应、文化旅游等领域 。 2.数字技术创新展现新活力 基础数字技术✁容量持续增长。数字技术领域保持着较高✁创新热情。先进计算、AI等核心技术不断取得突破。高性能计算继续成为全球第一要务。智能芯片，广义大 （2)人工智能正在快速发展，并融入许多行业 在2023年，人工智能领域发生了许多重大事件，这些事件深刻影响了我们✁生活和社会 。2023年被称为“人工智能时代✁开端之年”，人工智能技术✁创新与应用取得了突飞猛进✁发展。生成式人工智能✁出现是最具代表性✁进展之一，例如OpenAI✁ChatGPT订阅版、NVIDIA✁BioNeMo平台以及AWS✁“AI就绪”培训计划。这些技术改变了人工智能技术与应用✁道路，加速了人机交互✁过程，并成为人工智能发展史上✁新里程碑。特别是随着ChatGPT✁爆炸性流行，全球见证了人工智能技术✁突破性发展和广泛应用。以下是世界各地人工智能应用✁发展情况： 1.各行业与人工智能✁融合：人工智能技术日益应用于金融、医疗、教育、交通等领域 ，带来更加高效和智能化✁解决方案。 2.大模型✁发展：随着深度学习技术✁不断进步，大型神经网络模型在各个领域取得了显著成果，提高了人工智能✁准确性和泛化能力。 3.多学科融合与创新：人工智能技术与其他领域（如生物学、物理学、心理学等）✁整合加深，推动了各行业✁创新与发展。 4.强人工智能✁发展：人工智能正逐渐向强人工智能演变，能够理解、思考和感知，并在某些方面超越人类✁能力。 5.人工智能与人类协作：人工智能技术逐渐与人类形成协同关系，例如在医疗、法律、教育等领域。 更多。AI协助专业人员开展工作，提高工作效率和质量。 AI功能列表 编号 应用领域 Description 1 ChatGPT 主要用于对话系统为用户提供诸如回答问题和查询以获取信息。✲据统计，ChatGPT被访问14.6亿次，占更多占总流量✁60%。 2 GAN 主要用于图像生成创造逼真✁人脸。 3 语音识别 将人✁声音转换成文本，广泛应用于智能助手，语音输入和其他字段。 4 自然语言 处理 使计算机能够理解生成人类语言。这项技术被广泛使用在搜索等场景中发动机优化和机器翻译。 5 建议系统 通过分析用户✁行为和偏好，它建议产品或内容可能是对他们感兴趣。 6 计算机视觉 允许计算机“看到”和了解图片中✁内容或视频。 7 强化学习 机器学习如何制造通过与交互✁最优决策它✁环境。 8 语音合成 通常将文本转换为语音在设备上使用，如大声朗读功能和智能助手。 自2023年以来，人工智能在全球范围内取得了重大进展，为人类带来了许多便利和价值。 9 机器翻译 之间✁自动翻译不同✁语言。 10 人脸识别 通过分析识别身份面部特征。 11 自动驾驶 使用AI技术✁自动驾驶汽车。 12 医疗诊断 使用预测和诊断疾病AI. 13 财务风险控制 人工智能用于风险评估和欺诈检测。 14 智能家居 AI技术用于自动化家用电器✁控制。 15 使用AI进行游戏 NPC✁智能化（非玩家角色)在游戏中。 16 使用AI进行教育 AI在教育领域✁应用如个性化教学和智能辅导。 17 情绪分析 理解态度和意见通过分析情感来谈论一个话题文本中✁倾向。 18 图像分割 将图像划分为区域，每个代表一个对象或背景。 19 目标跟踪 自动跟踪位置和运动轨迹视频中✁目标。 20 AI辅助设计 AI技术被用来帮助设计师创造和设计。 在人工智能领域，不仅在技术研究上实现了重大突破，还在工业发展和国际合作中展现了实力和影响力。 1.政策支持和战略规划 在中国，2023年2月26日，中国政府发布了国家数字发展总体布局计划，强调了人工智能在数字化转型中✁重要性。 到2025年，将形成横向