2024人工智能教育设计开发人员必备指南报告-英

人工智能教育设计： 开发人员的基本指南 2024年7月 人工智能教育设计：开发人员的基本指南 MiguelA.Cardona,Ed.D. 美国教育部秘书 罗伯托·J·罗德里格斯 规划、评价和政策发展办公室助理部长2024年7月 示例不是背书 本文档包含为方便用户而提供的示例和资源材料。列入任何材料并不旨在反映其重要性，也不旨在认可所表达的任何观点或提供的产品或服务。这些材料可能包含各种主题专家的观点和建议，以及联系地址，网站和由其他公共和私人组织创建和维护的信息的超文本链接。这些材料中表达的意见不一定反映美国的立场或政策。S.教育部。TheU.S.教育部不控制或保证这些材料中包含的其他来源的任何信息的准确性，相关性，及时性或完整性。除了文件中包含的法规和法规要求外，本指南的内容不具有法律的效力和效力，也无意约束公众。 合同和采购 本文件不打算提供法律咨询或批准任何潜在的联邦承包商的商业决策或战略与任何当前或未来的联邦采购和/或合同 。此外，本文件不是招标、征求建议书或其他招标。 许可和可用性 本指南属于公共领域，可在美国教育部网站https://tech.ed.gov上获得。 诸如盲文或大字体等替代格式文档的请求应通过致电1-202-260-0852或通过电子邮件联系504协调员提交给替代格式中心om_eeos@ed.gov。 英语能力有限的人士须知 如果您难以理解英语，您可以请求U.S.向公众提供的教育部信息。这些语言援助服务是免费提供的。如果您需要有关口译或笔译服务的更多信息，请致电1-800-USA-LEARN(1-800-872-5327)(TTY:1-800-437-0833)； 发送电子邮件至Ed。语言。协助@ed。政府；或写信给美国S.马里兰州大道400号LBJ教育大楼信息资源中心教育部。华盛顿特区SW20202。 如何引用 虽然没有必要允许转载本出版物，但建议的引文如下： 美国教育部，教育技术办公室，人工智能教育设计：开发人员的基本指南，华盛顿特区，2024年。 Acknowledgements 项目团队 人工智能教育设计：开发人员的基本指南是在罗伯托·J·罗德里格斯规划、评估和政策发展办公室助理秘书，AnilHurkadli教育技术办公室临时副主任，伯纳黛特·亚当斯，教育技术办公室高级政策顾问，以及凯文·约翰斯顿，教育技术办公室教育计划专家。 这项工作是在合同（91990019C0076）的数字承诺的支持下开发的，由JeremyRoschelle与安东尼·贝克,PatiRuiz,EricNentrup,GabrielleLueand莎拉·马丁. 开发者社区的贡献成员 ●KristenDiCerbo，可汗学院 ●泰迪·哈特曼，GoGuardian ●NeilHeffernan，伍斯特理工学院 ●KarlRectanus，EDSAFEAI联盟 ●史蒂夫·里特，卡内基学习 ●SharadSundararajan,MerlynMind ●AlyssaVanCamp,TeachFx ●JuliaWinter,AlchemieSolutions,Inc. 我们也感谢许多开发人员，行业协会和非营利组织参加了我们的听力会议，并提出了他们的想法，将教育部关于人工智能教育的建议转化为实用指南。 目录 Introduction1 回应2023年10月的行政命令2 广义定义“人工智能”和“EdTech”3 关键信息：建立信任的共同责任4 从教育设计到获得信任的途径10 建议1：为教学和学习设计12 知道什么12 提问16 追求的方向16 资源17 建议2：为基本原理和影响提供证据18 知道什么19 要问的问题23 追求的方向23 资源24 建议3：促进公平和保护公民权利26 知道什么27 要问的问题31 追求的方向32 资源32 建议4：确保安全和安保33 知道什么33 提问38 追求的方向38 资源39 建议5：促进透明度和赚取信任40 知道什么40 提问44 追求的方向44 资源44 结论45 人工智能教育设计：开发人员的基本指南 Introduction 今天和未来，越来越多的人工智能（AI）模型和功能将被纳入专门服务于教育环境的产品中。TheU.S.教育部（Departmet）致力于鼓励教育技术（edtech）的创新进步，以改善全国教育系统的教学和学习，并支持开发人员使用AI为教育市场创建产品和服务。 在该部门先前的报告《人工智能与教学与学习的未来：见解和建议》（2023年人工智能报告）的基础上，本指南旨在为产品负责人及其创新者，设计师，开发人员，面向客户的员工和法律团队提供信息。这种情况比构建大型语言模型 （LLM）或部署聊天机器人的情况要广泛;它包括现有和新兴的AI功能可用于进一步共享教育目标的所有方式。 我们在这里的见解旨在支持管理团队的人员设计和开发利用AI来改善教学和学习的产品。我们试图解决与整个edtech开发人员相关的主题，其中包括已建立的公司和新来者，以及研究，非营利组织和营利性组织的开发人员。我们不仅面向正规教育环境（包括中小学、学院和大学）的产品开发人员，还面向家庭、社区和其他非正规环境的教育用途。 为此，本文档的每个部分都围绕一个核心建议构建，并包括一组讨论问题，组织中的领导者可以使用这些问题来促进对话，促进强大的开发流程的后续步骤以及可以提供额外支持的资源。请注意，美国商务部和其他联邦机构正在积极考虑下一步措施，以促进安全和负责任地使用人工智能。因此，该文档向故意开放的开发人员建议“要问的问题”和“追求的方向”。 本指南提供了与联邦准则和护栏相一致的非监管性、针对特定教育的指导。本指南对现有联邦准则和护栏的覆盖并不全面或详尽。它不旨在也不使开发人员能够建立其对法规的遵守。此外，它无意也不引入任何新的要求。其中给出了示例，包括指向非U的链接。S.政府网站，它们旨在说明问题，而不是将本指南的应用限制在其他形式的人工智能上，因为它们可以用于教育。我们提供这些外部链接是因为它们包含与本文档中讨论的主题相关的其他信息。 否则可能对读者有用。我们无法证明引用的第三方网站或任何其他链接的第三方网站上提供的信息的准确性。我们提供这些链接仅供参考；与外部资源的链接并不构成新闻部的认可。开发人员可以使用本指南来增加对基本联邦指南和护栏的理解，以指导他们在为教育环境创建AI应用程序时的工作。 回应2023年10月的行政命令 本指南是对美国总统乔·拜登（JoeBiden）于2023年10月30日发布的《关于人工智能的安全，安全和可信开发和使用的行政命令》（AI行政命令）的回应，该命令规定如下： 为了帮助确保人工智能在教育部门的负责任的开发和部署，教育部长应在本命令发布之日起365天内 ，制定有关人工智能的资源、政策和指导。这些资源应解决人工智能在教育中的安全、负责和非歧视性使用问题，包括人工智能系统对弱势和服务不足社区的影响，并应酌情与利益相关者协商制定。 本指南通过与学生，家长和教育工作者以及开发人员，行业协会和非营利组织进行的一系列广泛的公开聆听会议提供信息。这包括代表各种公司规模，资金模式和组织类型（营利性/非营利性）的开发人员的横截面。会议参与者分享了他们当前的安全和保障方法，他们和他们的用户面临的风险，关于支持和资源的建议，以及关于未来建立信任的机会的想法。与最初参与的开发人员中的较小的一组开发人员（在上面的贡献成员部分中列出）进行了几次额外的聆听会议。本指南指的是聆听会议，它包括所有这些听取选民意见的机会。 本指南借鉴了越来越多的关于人工智能的联邦出版物，其中包括以下示例： ●人工智能权利法案科学和技术政策蓝图办公室：2022年白宫白皮书，广泛塑造了一项战略，告知和保护公民免受人工智能和相关技术的侵害 ●美国国家标准与技术研究所(NIST)AI风险管理框架：一个保护开发者和最终用户利益的七步框架 ，特别是与使用AI组件和即将推出的新兴技术的edtech公司相关 ●Biden-Harris政府确保了另外八家人工智能公司的自愿承诺，以管理AI带来的风险|白宫：白宫与科技公司的接触强调了联邦政府、开发者组织和其他选民之间的共同责任。 广义定义“人工智能”和“EdTech” 该部门对术语“AI”和“edtech”有广泛的看法。本文档的指南广泛适用于开发人员可能集成的许多类型的AI ，以及他们的产品可能在教育环境中使用的许多方式。 方框A：人工智能行政命令中定义的人工智能。 术语“人工智能”是指基于机器的系统，对于给定的一组人类定义的目标，可以做出影响真实或虚拟环境的预测，建议或决策。人工智能系统使用基于机器和基于人类的输入来执行以下操作： ●感知真实和虚拟环境 ●通过自动分析将这种感知抽象为模型 ●使用模型推理来制定信息或行动的选项 作为定义“AI”的起点，我们注意到AI的法定定义（见上文方框A），该定义也出现在AI行政命令中。正如我们在该部门的2023年人工智能报告中指出的那样，人工智能是许多研究和创新子领域的总称。根据国家人 工智能研究资源工作组发布的2023年人工智能指数报告，我们继续观察到人工智能能力在许多领域的快速发展，如语音、视觉、机器人和文本。 方框B：定义教育技术（edtech） 根据该部门的定义2023年AI报告，edtech包括以下内容： A.专为教育用途而设计的技术 B.在教育环境中广泛使用的一般技术 同样，我们广义地定义“edtech”(方框B)。在一家独立的市场研究公司的报告中，截至2022年，K-12和高等教育的全球教育技术市场价值为1230亿美元。这个市场包括初创公司，小型企业，非营利组织和大型公司-具有特定于教育的使命的公司以及其他具有用于教育和其他领域的产品的公司。产品范围广泛，从基础设施到学生信息系统，再到学习管理系统，再到特定的最终用户应用程序等等。 虽然市场是由买家和卖家定义的，但我们广泛地定义了edtech“生态系统”，包括许多不同的人和组织共同设计和改进新产品和服务。在这个生态系统中，对“安全，保障和信任”的行政命令概念的讨论将注入更具体的教育概念（例如Procedre、证据、公平、数据隐私)如下所述。生态系统参与者包括。 教育采购部门，其他教育决策者，教育工作者，家长和监护人，学生，非营利组织，高等教育机构和更广泛的社区成员。该生态系统包括直接创建或使用AI产品的人员以及受AI产品影响的教育系统中的人员。建立信任的共同责任远远超出了买卖;它在整个生态系统中的开放和参与交流中蓬勃发展。 关键信息：建立信任的共同责任 通过聆听会议，该部了解到2023年人工智能报告中的一项关键建议“优先加强信任”，引起了开发者的共鸣 ，呼吁采取行动。 开发人员认识到“信任”在他们参与的edtech生态系统中的根本重要性。信任改善了开发人员和教育工作者之间的共同设计过程，以便他们可以共同创建和扩展创新产品。因此，开发人员可以从了解如何与生态系统中的其他人合作以增强信任中受益匪浅。具体关键信息如下：。 1.信任是一种共同的责任。 总统关于人工智能的行政命令从其标题开始明确表示，联邦政府有责任促进“安全，可靠和可信赖的发展”，并阐明了共同责任的立场（见下文）。因此，开发人员将在本文档中找到直接适用于其教育工作的联邦法律和其他联邦资源的信息。由于技术发展迅速，开发人员可能会发现，除了遵守和遵守当今的联邦准则和护栏以赢得信任之外，还有价值。一个重要的例子是软件和信息产业协会的《教育人工智能未来原则》，其中阐明了七个原则（例如：Procedre，他们的评估原则要求不断评估人工智能的影响)。TeachAI还开发了教育中的AI原则，作为其学校AI指导工具包的一部分，以指导AI在教学中的有效开发和应用。作为第三个例子，许多开发人员参加了EDSAFEAI联盟，该联盟产生了一个通用框架，即SAFE基准。 “利用人工智能的好处并实现其无数利益需要减轻其巨大的风险。这一努力需要全社会的努力，包括政