儿童人工智能工具包 2022 年 3 月

人工智能 对于孩子们来说 TOOKLIT MRCH2022 图片:盖蒂图片社 内容 介绍3 1最高管理层和企业决策者清单6 公司可以低于在哪里7 行动8 大的回报9 2产品团队的指导方针10 基本原则11 所面临的挑战13 儿童和青少年的定义13 社交网络14 包罗万象的局限性14 先把儿童和青少年15 公平15 包容17 负责任的19 安全21 透明的24 3人工智能标签系统29 4指导家长和监护人31 利益和风险31 贡献者33 尾注35 免责声明本文发表的 世界经济论坛是一个贡献一个项目,了解区域或交互。结果,解释和 结论表示这是一个结果的帮助和协作过程 了世界经济论坛的支持但其结果不一定 代表世界经济的观点 论坛,也不是其成员的整体, 合作伙伴或其他利益相关者。 ©2022世界经济论坛。所有权利保留。没有这个出版物的一部分被复制或以任何形式传播 或通过任何方式,包括复印和记录,或任何信息 存储和检索系统。 2022年3月人工智能的儿童 介绍 此工具包旨在帮助公司人工智能发展值得信赖儿童和青少年。 历史上第一次，一代儿童 在人工智能塑造的世界中成长 （人工智能）。AI是一组强大的算法，旨在收集和解释数据以做出基于预测 在数据中发现模式。 儿童和青少年在许多AI包围 在他们日常生活中使用的产品中，从社交媒体到教育技术、视频游戏、 智能玩具和扬声器。人工智能决定了视频孩子们在线观看，他们的课程在学习，和他们玩游戏并与他人互动的方式。 该工具包由多元化的青年团队制作，技术专家、学者和商界领袖 旨在帮助企业开发值得信赖 面向儿童和青少年的人工智能（AI）和帮助父母,监护人,儿童和青少年 负责购买和安全地使用人工智能产品。 人工智能可以用来教育和授权儿童和青少年有积极的影响 对社会的影响。但儿童和青少年特别容易受到潜在风险的影响 通过人工智能,包括偏见,网络安全以及缺乏 可访问性。AI必须设计在内地 尊重儿童用户的权利。以儿童为中心设计可以保护儿童和青少年 这项技术带来的潜在风险。 人工智能技术必须创建既 创新与负责。负责任的人工智能是安全的，合乎道德、透明、公平、无障碍和包容。设计责任和信任AI来说是个不错的选择 消费者、企业和社会。父母,监护人和成年人都有责任 精心挑选合乎道德设计的人工智能产品，以及帮助孩子们安全地使用它们。 利益攸关的是什么?AI将决定未来的游戏、童年、教育和社会。孩子青春代表着未来，所以一切都必须 支持他们以负责任的方式使用人工智能和应对未来的挑战。 此工具包旨在帮助负责任的设计, 消费和使用人工智能。它的目的是帮助公司、设计师、父母、监护人、儿童青年确保人工智能尊重 孩子，对他们的生活产生积极影响。 儿童和青少年第一清单 F空气 我nclusiveResponsible年代afeTransparent 你是谁? 公司决策者、产品团队成员还是家长或监护人？ 企业用户 的清单高层管理人员和指导方针为产品团队包含可操作的框架和实际的指导来帮助您的公司 为孩子设计创新和负责任的人工智能 和青春。通过使用这些准则，您可以领导 作为一家值得信赖的公司，让您的儿童用户满意。 最高管理层负责设定文化在人工智能和策略负责 投资人工智能产品。清单设计帮助管理人员了解更多的好处 和风险的儿童和青少年,这样你就可以人工智能更好的领导,创新和成长。 公司应保持在记住,孩子 经常使用人工智能的产品, 没有设计具体地说 对他们来说。 公司应该记住,孩子经常使用非专门设计的AI产品 对他们来说。有时很难预测 产品以后可能会被儿童或青少年使用。因此，您应该仔细考虑是否 儿童或青年可能是该技术的用户你正在发展。如果是，您应该仔细考虑如何提高福利和帮助 减轻该技术带来的潜在风险儿童和青少年。 阅读更多关于管理层检查表。 产品团队设计、开发和部署儿童和青少年的人工智能技术使用。设计从产品负责 团队和仍然是持续的 的责任。设计的指导方针 工程师,开发人员、产品经理和产品团队的其他成员使用 整个产品生命周期。 人工智能标签系统 AI标签系统旨在包含在所有AI产品中 他们的物理包装和在线访问通过二维码。喜欢食品包装上的营养信息，标签系统设计 简明扼要地告诉消费者——包括父母和监护人，以及儿童和青少年–它是如何工作的以及用户可用的选项。鼓励所有公司采用此工具，以帮助建立更大的信任 以及对其产品的购买者和儿童用户的透明度。学习人工智能标签系统 消费者:父母和监护人 家长和监护人决定买AI-powered技术 为了他们的孩子。通过自我教育并更好地了解技术带来的好处和风险，你可以故意和 明智的决定可以保护您的孩子并确保AI具有对他们的生活产生积极的影响。 了解有关家长和监护人指南的更多信息 父母和监护人的工具是基于AI标签设计的系统（图1）来了解这六个重要的AI类别。 图1人工智能标签系统 年龄数据使用 传感器可访问性 人工授精网络 技术 来源:世界经济论坛 1 管理层和公司决定, 制造商的检查表 可操作的框架和现实世界指导帮助企业设计创新 儿童和青少年的和负责任的人工智能。 此清单适用于公司的最高管理层提供产品和服务的整合 供儿童使用的人工智能（AI）和青年。许多公司使用AI来区分通过合并他们的品牌和产品 它变成玩具、互动游戏、扩展的现实应用程序、社交媒体、流媒体平台和教育产品。用多一点 的法规来引导他们,组织必须导航的隐私数据捕获和伦理问题 和人工智能的培训和使用模型。执行领导人必须实现之间取得平衡 人工智能,帮助减少风险的潜力伤害的儿童和青少年,最终 他们的品牌。的基础上建立了基础在世界经济论坛”让AI 领导:AI管理层工具包”,检查表旨在帮助高层管理人员和其他企业决策者反思和行动 创建和支持负责任的人工智能脆弱的人口。 为儿童和青少年提供值得信赖和负责任的AI：一个清单管理 非凡的机会所吸引 与人工智能创新,公司在移动 将AI融入玩具，广播的创纪录步伐和社交媒体,聪明的人,教育 技术、虚拟世界和更多。 人工智能在复杂性和影响范围从简单的推荐和定制引擎 模仿的深深身临其境的体验模拟人类行为、情绪 交互。实现沉思着,这些 系统可以高兴的是,教和唤起交互 与他们的年轻用户,使他们能够成长和开发按照自己的节奏和根据他们的学习方式。但实现不小心 深谋远虑,儿童发展的指导 专家和伦理学家,AI会阻碍发展和侵犯弱势群体用户的权利。 与清单,甚至领导人可以学习 那些意味着忽视潜在问题的公司 以及如何减轻与人工智能相关的风险采用。高管们应该追求的最高 关于可能的伦理和社会标准儿童发展,是否适合目的,非 偏见、可访问性和隐私。这样做可以提供巨大的潜在机会 好。它可以提升你的品牌,让你你的公司是值得信赖的管家位置 向您的主要产品提供抢手的产品和服务买家：父母、祖父母、教师、教育工作者和其他保健提供者。 公司可以低于在哪里 执行鉴于人工智能采用的加速和滞后 目的在设计和原型 领导人应该创建一个文化的责任 支持的资源, 使负责任 人工智能从设计到end-of-product使用甚至更远。 广泛接受的标准和指导,领导可能会措手不及。有什么风险行为,你的团队应该避免吗? –没有透露如何使用人工智能:公司认为买家可能会反对AI可能掩盖或淡化其使用。是透明的 使用人工智能和你为什么使用它。 –放大和延续偏见:人工智能造型可以包含不准确 简单化,导致无法理解 和对边缘群体的偏见,例如残疾人社区和用户从不同 阶段可以减少的潜在价值人工智能和造成伤害。 –离开隐私和安全缺口: 数据安全性、隐私和同意收集和使用数据是复杂的网络安全威胁和拼凑 不同地理位置的规定。这些问题达到使用寿命 的产品:未成年人,父母提供的同意,但是他们的孩子可能索赔他们对他们的数据被遗忘 随着年龄的增长。 文化和社会经济背景。考虑到这些潜在的绊脚石, 企业领导人可以采取什么步骤来保护 –跳过更加验证:绕过 用户和专家的验证是否适合 和提高他们的品牌,而利用 AI的非凡的潜力? 行动 行政领导人应该创造的文化责任由资源支持 负责从设计到end-of-productAI使用甚至更远。这些步骤建议: 1.知道法律职责和监管约束: 利用现有的指导,比如研究所 他们获得的技能、工具和时间 他们需要执行你的视力。有开放的对话的意想不到的后果, 可能的最坏的情况和原因 为确保您的团队正在考虑的五个人工智能特征对儿童和 青年第一(图2)。 电气和电子工程师协会(IEEE)有关更多信息,请参考产品团队 道德规范, 1联合国儿童基金会的政策指导 指南,提供了详细的指导 人工智能的儿童2和世界经济论坛指导,以及包3含的指导 在这个工具包和产品指南 团队,人工智能标签系统和资源为父母和儿童和监护人 青年。提交内部,如果可能的话,外部AI监督。报告合规和 领导措施公开和简单 所以买家可以理解的语言。 2.建立一个多样化的和有能力的团队: 五个领域。 4.通知的发展提供经验规定、标准和指南: 为公共论坛AI是如何作出贡献使用你的产品或服务。 分享你的经验提出指导和需求。 5.受欢迎的原则努力标签产品和服务: 包括伦理学家、研究人员、隐私这些应该根据潜力 专家、教育家、儿童发展 专家、心理学家、用户体验(UX)设计师和数据科学家。与敌人合作非营利组织和教育 研究机构更多的专业知识。 3.培养你的团队,并提供参考资料成功与此清单: 培养团队成员的重要性 负责任的和值得信赖的AI和提供 图2儿童和青少年第一清单 人工智能对用户的影响。支持和参与制定标签和评级标准的活动。 标签你帮助消费者做出的产品基于推荐的明智的选择 关于，例如，用户年龄、可访问性因素和一个摄像头和麦克风是否 使用。关于标签的额外信息建议,看人工智能标签系统。 公司文化和流程解决了有关道德和偏见的问题 人们如何开发AI模型以及AI模型在使用中的影响。 人工智能模型与来自不同文化和不同文化的用户公平交互能力;产品测试包括不同的用户。 产品反映了最新的学习科学，以实现健康的认知、社交、情感和/或物理的发展。 该技术保护和保护用户和购买者数据，以及 公司披露其如何收集和使用数据并保护数据隐私;用户可以随时选择退出并删除或删除其数据。 该公司以非技术术语向买家和用户解释了为什么人工智能是使用，它如何工作以及如何解释其决策。该公司还 承认人工智能的局限性和潜在风险，并欢迎监督和审计。 来源:世界经济论坛 人工智能的儿童8 大的回报 当您提供负责任的基于AI的产品并参与开发 标准，您可以做的不仅仅是影响您的底线。你帮助年轻人用户成长为最好的自己——人工智能赋予权力的一代。 参考文献 –便雅悯Ruha,技术竞赛：新吉姆代码的废奴主义工具2019年,政治书,,https://academic.oup.com/sf/article-abstract/98/4/1/5681679?redirectedFrom=fulltext –Coeckelbergh,马克,AI伦理，麻省理工学院出版社，2020，https://mitpress.mit.edu/books/ai-ethics –Dubber，MarkusD.，FrankPasquale和SunitDas（编辑），人工智能的牛津手册的道德牛津大学, 出版社，2020，https://www.oxfordhandbooks.com/view/10.1093/oxfordhb/9780190067397.001.0001/oxfordhb-9780190067397 –奥尼尔,凯西,数学毁灭武器：大数据如何加剧不平等并威胁民主, 皇冠出版集团，2016，http://www.governance40.com/wp-content/uploads/2019/03/Weapons-of-Math-Destruction-Cathy-ONeil.p