五点钟的 CSET

CSET在5 2023年年度报告 乔治敦大学沃尔什外交学院的政策研究组织，安全和新兴技术中心为决策者提供数据驱动 分析新兴技术的安全影响。 要了解更多信息，请访问cset.georgetown.edu. ©2023安全和新兴技术中心。保留所有权利。本报告由JasonLy设计，由CSET制作。 1 2023年安全和新兴技术中心 Contents 03 04 05 06 07 09 11 13 18 1921 21 22 CSET执行董事文化声明通过数字CSET在2023年研究领域的 媒体亮点 交叉项目研究聚焦CSET在ft上精选报告政策.aiCSET包容联盟捐助者 CSETAT五2 执行主任的来信 亲爱的CSET朋友们， 我拥有世界上最好的工作之一！我将领导一个充满活力的分析智囊团，以其他地方很难找到的洞察力，帮助就新兴技术政策进行重要对话。 我们已经从2人发展到60+全职员工，制作了250+报告和100+数据可视化。我们没有进行创新。在2023年，CSET取得了重大进展，通过尝试通过博客和页面上的报告来传达我们的发现，以提高我们对决策者的响应能力。此外，我们继续增加我们的500多个原始源翻译库，并 发布了一个全新的中文技术新闻发现工具，名为新兴技术天文台的Scout。我总是很高兴了解 我们的工作如何为政策和决策提供信息请继续分享！ 就个人而言，我最自豪的组织文化是我们开发的，它专注于为决策者提供基于证据的有用研究。我们遵循数据和信息 到它领导的地方，并努力从越来越广泛的生活经历中捕捉观点。 本报告重点介绍了我们在2023年取得的成就，但我也想再强调一些。CSET在半导体供应链方面的早期工作为最终成为2022年CHIPS和科学法案奠定了基础。 杜威·默迪克 执行董事 CyberAI项目的虚假信息工作于2021年5月发布，为政策制定者提供了18个月的ChatGPT发布及其对错误信息/错误信息的影响。 我们为全球功能格局的发展提供了新的见解，桥接了技术和政策社区对保护AI系统和生成AI的观点，并努力工作 为政策讨论提供经验证据和仔细分析，这些政策讨论可能会在计算和AI治理等领域转向群体思维。CSET基于证据的方法打破了关于移民的神话，为在AI快速发展时应对出口管制，对外投资和AI危害提供了新的框架。 2024年，CSET将继续开展这项重要工作，同时使我们的资金和研究多样化，以确保我们仍然是DC在公共政策、新兴技术和安全的交叉点上获得无党派、难以找到见解的首选来源。 享受！ CSET文化声明 CSET的成立是为了通过独立于政府，资助者或意识形态观点的基于证据，数据驱动的方法来研究新兴技术。 CSET员工来自不同的背景和学科，带来了丰富的观点和经验，为技术和国家/国际安全的交叉研究提供信息。我们致力于培养植根于求知欲和尊重知识的多元化，公平和包容的文化。 在CSET，我们： 挑战假设，遵循证据，了解数据如何为决策提供信息并制定政策，并成为国家安全界值得信赖的顾问。 是终身学习者，他们了解智力谦逊对持续成长至关重要。我们寻求并吸收反馈，并积极致力于自我和组织改进。庆祝个性，鼓励所有团队成员互相欢迎，创造归属感。 合作，因为我们知道问题最好作为一个团队来解决。 有权在工作场所代理并参与有意义的决策。支持和鼓励所有团队的公开对话。 要知道，虽然我们的工作很重要，但我们的个人和家庭需求是第一位的。我们珍惜工作以外的时间，尊重健康的工作/生活平衡，并在需要时相互支持。 衡量我们作为一个团队的成功。首先要以诚信和尊重的态度行事。 2023年安全和新兴技术中心 我们在2023年的影响 通过数字 100+ 2023年发布的数据丰富的分析： •50+博客文章和评论 •50+报告 •25+翻译 •4交互式数据工具 63 2023年的全职员工，加上： •37乔治敦大学学生实习生 •2外部实习生 •3兼职员工 •8来访的研究员 •7附属公司 41 新同事 •10FTE •8附属机构、实习生和兼职支持 •23学生助理 600+ 与决策者的接触 •300+简报 •300+媒体采访/报价 •8证词 5CSET在5 2023年安全和新兴技术中心 媒体中的CSET 时间 2023年11月 “每天，美国军方都将世界上最强大的武器委托给成千上万的军人……军方通过三管齐下的方法来减轻所有这些强大技术的潜在风险：他们对技术，用户及其单位进行监管。政府有机会对AI进行同样的操作。” -EmeliaS.Probasco和DeweyMurdick 福布斯 2023年7月 “如果我们给人的印象是，使用深度假货的虚假信息运动将不可避免地取得成功，而他们不会成功，我们可能会破坏对民主制度的信任。” -JoshA.Goldstein 华盛顿邮报 2023年9月 “我们刚刚开始理解和解开基因的作用。 谁先到达那里，谁就会控制很多真正令人惊奇的事情。但是也有可能被滥用 ...” -AnnaPuglisi 科学与技术问题 2023年4月 “乌克兰对俄罗斯入侵的反应正在重塑我们对现代战争以及国防研发的理解。” -JaretC.Riddick和 ColeMcFaul CSETAT五6 [2/23] 美国商务部长GinaRaimondo关于CHIPS 法案 [2/24] 美中经济与安全审查委员会中国的教育体系和劳动力培训 [3/16] 预测虚假信息活动的语言模型的潜在滥用-以及如何降低风险 [4/1] 2023AI指数 [4/25] [5/2] Year 针对自主网络防御的RSA强化学习会议 1报告，大量引用了CSET的研究，并强调了CSET关于移民的建议 会议的治理 [5/19] ASU新兴技术和科学 [6/22] 人工智能：推动创新走向国家利益 [6/29] 全球环境变化中的国际人才计划 [7/27] [7/12] 前沿AI [9/7] 能源和自然资源委员会 参议院 [9/19] 参议院 国土安全和政府事务新威胁和支出监督小组委员会 [12/6] AI见解论坛 [10/19] House 法院、知识产权和互联网司法小组委员会 研究领域 CSET对人工智能，网络安全和生物技术进行数据驱动的研究。利用广泛的数据资源，专家翻译和深入的主题知识，我们评估新兴技术的好处和风险。我们的工作围绕着五个方面的研究，所有这些都以先进技术的安全方面为重点。这些越来越有影响力的技术错综复杂地相互关联。人工智能的进步不仅增加了生物和网络风险，还使人工智能系统及其数据面临潜在的滥用和操纵。 CSET独特的数据科学和应用机器学习能力是我们政策研究方法的核心。我们的团队包括数据科学家，数据研究分析师，软件工程师以及调查和翻译专家。这些主题专家在整个组织中合作解决研究问题：开发方法，数据集，模型和分析解决方案，以在CSET和公共版本中使用。我们的数据科学工作可以在CSET的出版物，学术会议以及公共代码和互动工具中找到。 APPLICATIONS 美国政府及其盟友如何有效利用人工智能/机器学习（AI/ML）和其他新兴技术？CSET研究人员研究了与国家安全相关的人工智能新兴技术，采用和应用的机遇和挑战，以及在开发和部署人工智能系统方面联盟的机遇。 评估 AI/ML系统容易发生故障，不可靠且不透明。此研究系列旨在了解并有助于AI标准，测试程序，最佳实践的开发和采用， 监管、审计和认证。CSET研究人员确定了美国S.策略可以促进AI/ML功能的负责、安全和可靠的部署。它包括探索AI/ML事故，危害和漏洞;AI可信性，安全性，标准，测试和评估;AI采用，法规和政策;并试图了解系统何时运行良好，何时发生故障以及如何减轻此类故障。 竞争 美国的技术创新和竞争力状况在国力中发挥了什么作用？CSET研究人员为研发政策，科学技术战略和研究安全提供了建议。我们还权衡使用投资和激励措施来加强创新生态系统；出口管制，制裁和相关政策来保护知识产权和敏感技术；以及贸易规则和反托拉斯方法，以促进公平和充满活力的竞争环境。 同行手表 中国等国家正在使用包括人才开发和招聘、投资和内部政策在内的多种手段来刺激国内研发、促进科学进步、驱动技术创新。我们记录了各国用于这些目的的法律，非法和法外机制的作用。研究涉及预算、投资模式、专利趋势、。 人才招聘和其他潜在指标使用官方和开源外语文件，由CSET专家语言学家翻译。 WORKFORCE 劳动力研究探索了全球人工智能劳动力和影响其的政策，包括移民、教育渠道以及人才招聘和保留。我们探讨了美国和中国的人工智能劳动力的供需，美国和中国的人工智能教育状况，美国境内的技术人才迁移趋势，加强国防部的人工智能劳动力和获得人才的机会，并准备所有美国S.工人在人工智能世界中竞争并取得成功。我们还研究了非传统教育途径在增加人工智能劳动力方面的作用，以及顶尖人工智能研究人才的地位和移民动态。 交叉项目 CyberAI项目 CyberAI项目专注于AI和网络安全交叉的主题，包括AI在网络运营中的使用，AI系统的网络安全如何影响其安全和可信的开发和运营，AI对虚假信息活动的影响以及围绕网络的地缘战略竞争和AI/ML。 基础研究补助金 基础研究资助计划在技术见解和CSET以政策为重点的任务之间建立了桥梁。FRG资助了有关主题的技术研究，包括如何保护AI免受对手的攻击，如何确保越来越通用的AI系统按预期运行，以及如何 该计划还举办研讨会，将政策制定者和技术专家聚集在一起，讨论关键的前瞻性主题，例如弄清楚如何从最先进的人工智能系统中管理风险。 新兴技术观察站 新兴技术观察站创建公共分析资源，为有关新兴技术问题的决策提供信息。利用CSET深厚的技术能力和主题专家，ETO整合了各种信息来源，以分析全球新兴技术格局。我们的互动工具包括科学地图、童军和供应链浏览器，为国家安全、研发战略、经济政策和其他领域的决策提供洞察力。ETO资源可在ETO。科技网站。 ETO的科学地图 外语翻译与发现 外语数据源通常包含美国无法获得的独特信息和观点S.由于语言障碍，研究人员和政策制定者。CSET维持按需翻译服务，为CSET分析师和外部利益相关者提供与安全和新兴技术相关的外语文档（主要是中文）的专业质量翻译。因此，CSET的翻译能力既可以为CSET的分析提供信息，又可以为更广泛的国家安全和新兴技术社区提供服务。翻译经理本·墨菲（BeMrphy）是一位中国语言学家，他领导了这一翻译工作，也是与中国相关的所有事物的资源，作为作者、审稿人和发声板，为CSET研究做出了贡献。 迄今为止，CSET已翻译了510份文档，其中192份可通过CSET网站的翻译部分向公众提供。CSET的翻译“最热门”包括中国的第14个五年计划，“中国制造2025”，俄罗斯的国家人工智能战略以及以色列的外国投资筛选过程。每个翻译都包括简短的摘要，对来源的描述以及术语注释，这些术语注释提供了其他上下文和理解文档重要性的框架。 此外，ETOScot工具结合了最先进的机器翻译，大型语言模型，人类注释和主题专家审查，以编译和总结来自有影响力的中文媒体来源的及时新兴的与技术相关的内容，否则这些内容无法提供英文。CSET的数据团队还维护了基于Google云翻译API的批量机器翻译功能，为大量文档提供即时的粗略翻译，以支持大量外语分析项目。 ETO童子军 研究聚焦 研究员聚光灯 阿里·克劳福德 AliCrawford是CSET的CyberAI劳动力专家。她在AI ，网络教育和劳动力发展计划方面的专业知识已获得白宫，国会， 非营利组织和州政府。办公室 国家网络总监的国家网络劳动力和教育战略强调了克劳福德以前工作的许多方面，包括她对CyberCorps奖学金计划的研究。 阿里与国家网络安全教育倡议一起介绍了她在高中网络安全竞赛中的工作，并于2023年12月在NICEK-12网络安全教育会议上主持了关于这些竞赛的好处的讨论，来自所有50个州的官员和教