K - 12 教育中的生成 AI ： 挑战与机遇

1 K-12教育中的生成AI： 挑战与机遇 2024年8月更新 ©2024CommonSenseMedia.版权所有。CommonSense及其关联名称和标志是CommonSenseMedia的商标，CommonSenseMedia是一家501(c)(3)非营利组织（FEIN:41-2024986）。 www.commonsense.org2 目录 引言如何阅读此论文背景负责任的人工智能教育特定考虑原则与负责任人工智能指导原则的实例警示性注解美国人对人工智能的看法一般态度认知与知识使用AI教师素养学校政策现状美国、欧洲、大西洋彼岸及全球政策方法美国欧洲联盟英国与澳大利亚政府模式机遇学生支持自适应学习创造力基于项目的学习与合作教师支持课程规划与内容差异化辅导与反馈成绩评定与评估系统支持数据互操作性行政管理与物流家长参与Seckinger高中：全盘人工智能风险、危害与挑战不准确与幻觉偏见与不平等代表性不足信息审查作弊与抄袭对技术过度依赖与批判性思维丧失数据安全同意与隐私人类替代学生观点推荐结论致谢附录资源、链接与信息教育者概览：如何一位社会研究教师导航AI教育者概览：如何一位四年级教师使用KyronLearning教育者概览：如何一位四年级数学教师使用TeachFX关于 版权所有©2024CommonSenseMedia.所有权利保留。CommonSense及其他关联名称和标志是CommonSenseMedia的商标，CommonSenseMedia是一家501(c)(3)类别的非营利组织（联邦税识别号：41-2024986）。 www.commonsense.org3 Introduction 不到两年前，生成式人工智能从一种主要仍局限于研究目的和学术辩论的新兴技术，发展到了广泛的应用。OpenAI在2022年9月公开发布了他们的文本转图像模型DALL-E2，1随后是他们的AI文本聊天机器人ChatGPT。2到2023年1月，ChatGPT已经获得了1亿用户，这是有史以来增长最快的消费者应用程序。3一年后，用户可以选择来自多个聊天机器人竞争对手的服务，包括GoogleGemini和Anthropic的Claude，而且基于这些工具构建的数千款应用已经充斥了市场。 根据无数头条新闻，生成AI的出现标志着“革命”的开始4在各行各业乃至社会各个层面，包括银行、制造 、医疗保健、法律、娱乐、零售、设计，当然还有教育。但新闻标题总是如此，我们之前经历过技术革命（比如汽车、电视、核能、计算和互联网在上个世纪，更不用说工业、铁路和电力在更早的历史中）。AI有何不同 ？这次革命是否代表了所有技术革命之母？我们如何跟上并理解最新的发展动态？ 在研究并撰写此报告的过程中，我们采访了超过40位人士，涵盖了从博士专家到八年级学生等不同层面的人群。我们也借鉴了通用常识（CommonSense）集体的智慧，该组织在过去几年里在其教育、政策、研究、倡导和增长团队中构建了一座专业知识与知识的源泉，专注于生成式人工智能。我们试图集合那些通常不相互接触的人们，以将不同的观点缝合成更像拼布一样的整体。在这广泛的视角下，我们听到了各种各样的反应——包括恐惧、不安、兴奋、焦虑和乐观——有时这些情绪同时存在。这些反应都是正确的。ChatGPT发布近两年后，尽管我们对未来抱有极大的希望，但仍然缺乏清晰的指导方针、约束或政策。 我们的目标是提供K-12教育中生成式人工智能的概览，包括技术背景；AI素养和学校指导方针的状态；机会 ；风险；以及对该领域的建议。 1OpenAI。(2022年，9月28日)。DALL·Nowavailablewithoutoutweaitlist. https://openai.com/blog/dall-e-now-available-without-waitlist 2OpenAI。(2022年，11月30日)。介绍ChatGPT。https://openai.com/blog/chatgpt 3胡克(2023年2月2日)。ChatGPTsetsrecordfor增长最快的userbase-analystnote.Reuters. https://www.reuters.com/technology/chatgpt-set-记录-增长最快-user-base-analyst-note-2023-02-01/ 4索贝克，C.(2023年11月30日)。在ChatGPT发行后，革命刚刚开始。CNN. https://www.cnn.com/2023/11/30/tech/chatgpt-openai-revolution-one-year/index.html;坎德隆，F.，伯采夫，M .，杰哈，G.，萨克，D.，朱可夫，L.，和祖鲁加马丁内斯，D.(2023年，12月1日)。财富. https://fortune.com/2023/12/01/chatgpt-ai-revolution-management-bcg/;罗森鲍姆，E.MITdatashow使用AI为工人提供的“工业革命水平”飞跃。（2023年5月10日)。CNBC。 https://www.cnbc.com/2023/05/10/mit-data-show-industrial-revolution-level-leap-for-workers-using-ai.html； 凯斯勒，S.(2023年6月10日)。A.I.革命将变革工作。没有人同意。NewYOrkTimes. https://www.nytimes.com/2023/06/10/business/ai-jobs-work.html；费尔南德斯，B.(2023年，8月28日)。generativeAIpromisesan经济革命。管理中断将成为现实。W街杂志。 https://www.wsj.com/articles/generative-ai-promises-an-economic-revolution-managing-the-disruption-will-be-critical-b1c0f054 如何阅读这篇论文 读者会注意到，本文标题侧重于“生成式人工智能”，但我们广泛讨论了人工智能；由于它们在大多数人的认知中已经变得同义，几乎不可能将二者分离。当我们使用“人工智能”这一术语时，指的是更广泛的人工智能概念 。我们会在关注特定领域时使用“生成式”和其他限定词。最后，鉴于变化的快速步伐，我们承认本文代表了某一时间点的快照，但我们尽可能地聚焦于那些短期内不太可能得到解决的考虑因素。 我们论文从一般的人工智能背景信息开始，考虑到人工智能素养的重要性。我们概述了负责任人工智能的基本原则，并提供了遵循这些原则的实例，以帮助建立我们如何在教育中处理人工智能的基础。我们也想要纠正一些普遍存在的误解，因此加入了几个警告性的注释来补充这部分介绍性内容。 接下来，我们通过多个调查的结果提供了一个高层次的观点，以展示美国公众、特别是年轻人、家长和教师对生成式人工智能的感受、使用情况及理解程度。调查结果虽有启发性，但我们也直接与受访者交流，以获取他们对这项技术的情感质化认识。论文中穿插了教师和家长的引语，并专门设立了一节来总结与年轻人对话的要点。我们还在附录中包含了与三位教师的完整问答记录。 就政策而言，我们提供了对现行政府政策和学校/区级政策的概览。请注意，两方面的任务还远未完成。 所有这些——背景和定义、示例原则、调查结果以及政策概述——构成了理解我们关于机会与风险部分的基础。在整个过程中，某些主题反复出现： ●炒作与现实●数据安全和隐私●透明度、信任和问责制●偏见和公平●人类监督 这些相同的主题也贯穿我们的建议。 生成式AI的发展仍处于初期阶段，我们并不声称拥有所有答案。但我们希望这份报告能作为这一不断演变领域的指南，帮助教育相关决策者就何时、如何以及是否在教育环境中使用AI工具做出明智的决定。 背景 询问十个人人工智能的定义，你会得到二十个答案。《韦氏词典》将AI定义为“计算机系统或算法模仿人类智能行为的能力。”5这简洁地概括了它，但其他更精确的技术定义避免了对人类的拟人化，因为这可能会给技术带来风险。例如，欧洲委员会高级专家人工智能小组将人工智能定义为“能够分析其环境并采取行动（具有一定自主性）以实现特定目标的系统”。6谷歌开发者词典使用了这一定义："一种非人工的程序或模型，能够 解决复杂任务。"7人工智能（AI）已经存在数十年，从Netflix上的推荐引擎、Siri等语音助手，到客户服务聊天机器人、搜索引擎以及预测工厂机器何时需要维护的监控系统，这些都是早期形式的AI所涉及的任务。这些早期形式的AI执行离散任务并响应特定的输入集。8这些系统可以从数据中学习，并根据这些数据做出预测 ，但它们不会产生原创内容。 另一方面，生成式AI能够响应提交的提示或查询，通过学习现有的大量参考数据集，生成复杂、连贯且原创的内容，这些内容可以是文本、图像、音频和视频等。9亚历克斯在双手沾满生鸡肉糊的情况下设置Alexa的定时器进行烤火鸡，这既便捷又实用，而ChatGPT创作一首关于你的远房表亲、模仿彼特拉克风格的原创十四行诗，则令人叹为观止。 我们在研究此报告时遇到的对生成式AI的各种反应类似于AI行业本身的范围，尽管没有那么极端。在这一端，“悲观派”倡导对AI开发采取更为谨慎的方法，因为一些人担心它可能对人类未来的生存构成投机风险。10另一方面，“千禧一代”相信积极的影响远远超过了风险，并认为发展不应被限制。但无论极端观点获得多少关注，它们都无法解决当前使用中复杂现实和众多疑虑。在中间地带，正在兴起一股努力，旨在发展 负责任，值得信赖的AI，适用于此时此地的所有人。在他们的个人生活中，对于AI的思考普遍既持怀疑态度又充满好奇，大多数人也大都处于中间立场。他们正在寻求指引。 强调准备迎接一个AI主宰至上的可能未来世界存在一个重大问题：这种愿景掩盖了当前需要解决的挑战。长期主义——关注确保人类将在数百万年后生存——这一焦点显得尤为重要。11-对AI来说是可怕的，前谷歌AI的TracyPizzoFrey说 5梅里亚姆-韦伯斯特。(N.D.)。人工智能。在Merriam-Webster.comdictionary. https://www.merriam-webster.com/dictionary/artificial%20intelligence#dictionary-entry-1 6高级ExpertGrouponArtifcialIntelligence。(2018年，12月18日)。人工智能的防御：人工智能和科学学科。 欧洲委员会。https://ec.europa.eu/futurium/en/system/fles/ged/ai_hleg_defnition_of_ai_18_december_1.pdf 7GoogleforDevelopers.(n.d.)Machinelearningglossary.https://developers.google.com/machine-learning/glossary 8马尔，B.(2023年7月24日)。世代之间的差异和传统AI：对任何人都不解释。福布斯。 生成式AI与传统AI之间的差异：为任何人提供一个易于理解的解释-Forbes 请注意，我提供的中文翻译版本可能会根据上下文和专业背景进行调整，以确保最准确的传达原文意旨。 9CommonSenseMedia。AIrating:ChatGPT.https://www.commonsensemedia.org/ai-ratings/chatgpt；麦肯锡公司。(n.d.)。什么是generativeAI？https://www.mckinsey.com/featured-insights/mckinsey-explainers/what-is