学校对人工智能的采用与学生对学生的风险增加有关
引言：人工智能在学校中的应用现状及潜在风险
人工智能（AI）在2024-25学年持续改变着教育体验，其使用频率和多样性不断增加，但同时也与学生面临的风险加剧相关。报告指出，学校使用AI与学生面临四项主要风险相关：
- 数据泄露或勒索软件攻击
- 基于技术的性骚扰和欺凌
- 不按预期运行的AI系统
- 学生与技术之间的困扰互动
调查发现，教师和学生报告的学校使用AI频率越高，他们越可能报告暴露于上述风险中，尤其是深度伪造（Deepfakes）和/或非自愿亲密图像（NCII）相关风险。
课堂中的AI：应用扩展伴随着关于什么构成优质教学与学习的疑问
85%的教师报告在课堂上使用AI，且学校政策正朝着允许使用AI的方向发展。然而，学生和家长对AI使用的看法存在差异，24%的教师报告AI被自动添加到他们已使用的教育工具中。AI的广泛应用引发了一系列问题：
- AI如何影响学生与教师之间的关系
- AI如何影响教师的工作
- 学生使用AI是否会削弱批判性思维能力
- 学生可能以何种方式使用AI的影响是不允许的
聊天机器人和学生：与人工智能的互动影响现实生活中的关系
大多数学生表示他们或他们的朋友与AI进行来回对话，其中31%的学生使用学校提供的设备进行此类互动。教师和家长对AI来回对话的影响表示担忧，认为可能导致学生身心健康问题。
人工智能与个别教育计划：教师使用量在残疾学生担忧加剧中增长
超过一半的特殊教育教师使用AI帮助处理个别教育计划（IEP）和/或504计划，但这也引发了风险，包括可能违反联邦残疾和隐私法律。
人工智能素养：培训与指导被认为有帮助，但未能跟上人工智能的采用或已知风险
85%的教师报告至少使用了一种AI工具，但只有少数学生和教师接受关于AI风险的培训或信息。AI素养培训的不足可能导致教育工作者和学生对AI使用的危害缺乏了解。
深度伪造与NCII：技术扩展了现有的性骚扰和欺凌威胁
深度伪造和NCII的分享仍然是K-12学校的问题，40%的学生表示至少对该主题进行过一些讨论或指导。学生和家长认为严厉惩罚和教育或修复途径相结合将最有效地阻止此类行为。
学生活动监控：技术仍然无处不在，对学生造成的危害依然存在
学生活动监控软件仍普遍存在于K-12学校，常见问题包括学生惹上麻烦、被执法部门接触以及被曝光等。17%的教师报告学生信息与移民执法部门共享，移民学生面临额外的隐私和安全风险。
学生隐私：与现有担忧和威胁相关的AI使用
AI工具的使用增加了隐私和安全风险，学校利益相关者关注数据泄露和勒索软件攻击事件。家长对用于学生安全和非学术目的的数据和技术应用仍表示担忧。
性别流动学生与隐私：各学校在政策与保护措施上有所不同
多数教师表示学校有通知政策，但LGBTQ+学生及其家长对通知政策持负面看法。少数教师报告学校收集的学生性别类别超越了男或女。
移民学生：隐私和安全面临风险
学校收集有限的数据来识别移民学生，但全国加强移民执法的努力导致学校工作人员可能向移民执法官员举报学生。17%的教师报告学生信息与移民执法部门共享。
