2024先进人工智能安全国际科学报告-中期报告

中期报告 2024年5月 贡献者 椅子YoshuaBengio教授，蒙特利尔大学/Mila-魁北克人工智能研究所 专家咨询小组 Prof.BronwynFox，联邦科学与工业研究组织(CSIRO)(澳大利亚)andréCarlosPoncedeLeonFerreiradeCarvalho，圣保罗大学数学和计算机科学研究所(巴西)Dr.MonaNemer，加拿大首席科学顾问(加拿大)RaquelPezoaRivera，FedericoSanta3月ía技术大学(智利)曾毅博士，中国科学院空间研究所(中国)Juhaheikkilä，连接DG(欧洲联盟)GuillaumeAvrin，企业总局(法国)Antoniokrüger，德国人工智能研究中心(德国)教授BalaramanRavindran，印度理工学院，马德拉斯(印度)Prof.HammamRiza，KORIKA(印度尼西亚)Dr.CiaránSeoighe，爱尔兰科学基金会(爱尔兰)Dr.ZivKatzir，以色列创新局(以色列)Dr.AndreaMonti，基耶蒂-佩斯卡拉大学(意大利)Dr.HiroakiKitano，日本索尼集团MaryKerema，信息通信技术和数字经济部(肯尼亚)何塞·拉蒙·洛佩斯·波蒂略博士，元素Q(墨西哥) Prof.HaroonSheikh，荷兰政府政策科学委员会(荷兰)Dr.GillJolly，商业、创新和就业部(新西兰)Dr.OlubunmiAjala，ninnovationandDigitalEconomy(尼日利亚)DominicLigot，CirroLytix(菲律宾)教授KyoungMuLee，首尔国立大学电气与计算机工程系(大韩民国)AhmetHalithadip，土耳其工业和技术部(土耳其共和国)CrystalRugege，人工智能和创新政策国家中心(卢旺达)Dr.FahedAlbalawi，沙特数据和人工智能管理局(沙特阿拉伯王国)DeniseWong，信息通信媒体发展管理局(IMDA)数据创新和保护小组(新加坡)dr.NuriaOliver，ELLISAlicante(西班牙)Dr.ChristianBusch，瑞士联邦经济事务、教育和研究部OleksiiMolchanovskyi，乌克兰人工智能发展专家委员会(乌克兰)MarwanAlserkal，内阁事务部，总理办公室(阿拉伯联合酋长国)SaifM.Khan，美国.商务部(美国)DameAngelaMcLean，英国政府首席科学顾问AmandeepGill，联合国技术特使(联合国) 写作小组 ShayneLongpre，麻省理工学院VasiliosMavroudis，伊利诺伊大学香槟分校MantasMazeika，艾伦图灵研究所KwanYeeNg,ConcordiaAIChinasaT.Okolo，博士，布鲁金斯学会DeborahRaji,MozillaTheodoraSkeadas，《人文情报》弗洛里安·特拉梅尔，苏黎世联邦理工学院 DanielPrivitera(首席作家)，基拉中心TamayBesiroglu，A时代IRishiBommasani，斯坦福大学马萨诸塞州StephenCasper，Ins技术研究所YejinChoi，华盛顿大学/A12卡内基梅隆大学HodaHeidari，Mila-魁北克人工智能研究所HodaHeidari，LeilaKhalatbari，香港科技大学 科学协调员 SörenMindermann,Mila-QuebecAIInstitute 高级顾问BayoAdekanmbi，尼日利亚数据科学PaulChristiano，在美国人工智能安全研究所担任高级顾问之前DavidDalrymple，研究+先进发明机构(ARIA)俄勒冈州立大学ThomasG.Dietterich，EdwardFelten，普林斯顿大学香港科技大学PascaleFung在担任Meta职位之前曾担任高级顾问Pierre-OlivierGourinchas,InternationalMonetaryFund(IMF)NickJenningsCBFREngFRS，拉夫堡大学AndreasKrause，苏黎世联邦理工学院PercyLiang，伯南布哥联邦大学斯坦福大学TeresaLudermir，VidushiMarda,REALMLHelenMargettsOBEFBA，牛津大学/艾伦·图灵研究所 JohnA.McDermidOBEFREng，约克大学普林斯顿大学ArvindNarayanan，AlondraNelson，KAIST计算学院高级研究学院AliceOh，GopalRamchurn，英国RAI/UKRITASHub/南安普敦大学StuartRussell，加利福尼亚大学，伯克利斯坦福大学MarietjeSchaake，DawnSong，加州大学伯克利分校AlvaroSoto，智利天主教大学LeeTiedrich，杜克大学gaëlvaroquaux，国家数字科学与技术研究所(Inria)姚明，清华大学跨学科信息科学研究所张亚勤，清华大学 秘书处 由AI安全研究所主办的英国政府秘书处BenjaminPrud'homme，-魁北克AIInstitute 致谢 秘书处感谢以下英国组织的有益支持，评论和反馈:AdaLovelace研究所，AlanTuring研究所，长期复原力中心，人工智能治理中心和英国人工智能安全研究所。还要特别感谢丹·亨德里克斯、迪伦·哈德菲尔德·梅内尔和帕梅拉·萨缪尔森。 ©皇冠警察2024 除非另有说明，本出版物根据开放政府许可证v3.0的条款获得许可。要查看此许可证，请访问nationalarchives.gov.uk/doc/开放政府-许可证/版本/3，或写信给信息政策小组，国家档案馆，Kew，伦敦TW94DU，或电子邮件:psi@nationalarchives.gsi.gov.uk如果我们发现了任何第三方版权信息，您将需要获得相关版权所有者的许可。有关本刊物的任何查询，请发送给我们:secretariat.AIStateofScience@dsit.gov.英国 免责声明 本报告不代表主席、编写或咨询小组的任何特定个人，也不代表支持其发展的任何政府的观点。本报告是对高级AI能力和风险的现有研究的综合。报告主席对此负有最终责任，并自始至终监督其发展。 研究系列编号:DSIT2024/009 4.3.4危害环境594.3.5隐私风险60 4.3.6版权侵权614.4交叉风险因素634.4.1交叉技术风险因素634.4.2跨领域的社会风险因素66 前言 这份报告是人工智能安全之旅的开始 ，我很荣幸主持发布首届《高级人工智能安全国际科学报告》。我很自豪地发布这份中期报告，这是自2023年11月布莱奇利公园人工智能安全峰会委托这项工作以来的六个月里，许多专家付出了巨大努力的结果。 我们知道先进的人工智能正在迅速发展，而且这些先进的人工智能系统如何影响我们未来的生活和工作方式存在很大的不确定性。人工智能有巨大的潜力让我们的生活变得更好，但它也带来了伤害的风险。这就是为什么要进行彻底的分析现有的科学文献和专家意见至关重要。我们知道的越多，我们就越有能力塑造我们的集体命运。 我们的使命很明确:推动对高级人工智能安全性的共享、基于科学的、最新的理解，并随着时间的推移继续发展这种理解。该报告正确地强调了专家之间存在共识的领域，以及对高级人工智能的能力和风险的分歧，特别是那些预计在未来开发的。为了有效地履行我们的使命，我们的目标是解决知识分子诚实的专家社区之间的分歧。通过剖析这些差异，我们为明智的决策铺平了道路，并刺激了有助于消除迷雾和减轻风险所需的研究。 我感谢我们的国际专家咨询小组的宝贵意见，这些意见最初确定了报告的范围，后来又对整个草案提供了反馈。他们的不同观点和认真审查扩大并加强了这份临时报告。同样值得认可的是我敬业的作家和高级顾问团队。他们在过去几个月的承诺创造了一个超出我预期的临时产品。我还要感谢英国政府启动这一进程并提供出色的运营支持。对我来说，同样重要的是，英国政府同意撰写这份报告的科学家应该拥有完全的独立性。 这份中期报告只是旅程的开始。毫无疑问，这份报告在第一次尝试中未能捕捉到的观点和证据。在这样的科学过程中，反馈是宝贵的。我们将纳入更多的证据和科学的观点，因为我们对最终版本的工作。 YoshuaBengio教授 蒙特利尔大学/Mila-魁北克人工智能研究所和主席 AI安全是一个共同的全球问题 我很高兴向您介绍有关高级AI安全性的第一份国际科学报告的临时更新，这是2023年11月在布莱奇利公园举行的开创性AI安全峰会的重要成果。这份具有里程碑意义的报告代表了全球前所未有的努力，以建立对人工智能快速发展所带来的机遇和风险的共同的，基于科学的理解，并证明了“布莱奇利效应”-召集才华横溢的头脑来应对人类最大的挑战之一。 我们认为，要实现人工智能造福人类的巨大潜力，需要积极努力，以确保安全、负责任地开发和部署这些强 大的技术。没有一个国家能够独自应对这一挑战。这就是为什么我如此热衷于将一群世界领先的专家聚集在一起，贡献他们的知识和观点。我要特别感谢YoshuaBengio教授作为主席在巧妙地指导这一复杂的国际努力方面发挥的领导作用。 至关重要的是，该报告还揭示了我们当前知识中的重大差距以及迫切需要进一步研究和讨论的关键不确定性和辩论。我真诚地希望，这份报告及其背后的合作进程能够成为缩小关键知识差距所需的研究和政策努力的催化剂，并为未来具有挑战性的政策选择提供宝贵的投入。 我们还有很多东西要学，但这份报告标志着一个重要的开始。英国期待继续与国际伙伴合作，促进负责任的、以人为本的人工智能发展方法--利用这些强大的工具来改善生活和生计，同时警惕地防范下行风险和伤害。我们可以共同努力，建设一个全人类都能从人工智能的奇迹中受益的未来。 ，RtHonMichelleDonelan议员，科学，创新和技术部国务卿 向前迈出的关键一步，呼吁AI安全采取行动 人工智能的快速发展将以深刻和不可预见的方式重塑我们的世界。从革命性的医疗保健和运输到自动化复杂任务和解锁科学突破，人工智能的积极影响潜力是不可否认的。 然而，除了这些显著的可能性之外，还存在着重大的挑战，需要采取前瞻性的方法。关注的范围从嵌入算法中的意外偏见到自治系统超过 人类控制。这些潜在风险凸显了迫切需要进行全球对话，以确保人工智能的安全和负责任的发展。 在这种情况下，国际人工智能安全报告将为全球合作提供重要的基础。该报告汇集了来自30个国家、欧盟和联合国的专家的知识，提供了对人工智能安全性的全面分析。通过关注对通用人工智能能力和风险的早期科学理解，并评估评估和缓解这些风险的技术方法，该报告将引发多方利益相关者之间的持续对话和合作。 我希望基于这份报告，来自30个国家、欧盟和联合国的专家继续进行平衡的讨论，实现可接受的、适合发达国家和发展中国家具体情况的人工智能风险缓解，从而创造一个创新和负责任的人工智能和谐共存的未来。 Leejong-ho，大韩民国MSIT部长 执行摘要 关于本报告 这是第一份“关于高级ai安全性的国际科学报告”的临时出版物。由75位人工智能(AI)专家组成的多元化小组为本报告做出了贡献，其中包括由30个国家，欧盟(EU)和联合国(UN)提名的国际专家咨询小组。在本报告主席的领导下，撰写本报告的独立专家集体对其内容拥有完全的酌处权。在人工智能发展取得前所未有的进展之际，这份第一份出版物将其重点限制在近年来发展特别迅速的一种人工智能上:通用人工智能，即可以执行各种任务的人工智能。在快速发展的过程中，通用人工智能的研究目前正处于科学发现的时代，尚未成为科学定论。世界各地的人们只有在风险得到适当管理的情况下，才能安全地享受通用人工智能的许多潜在好处。本报告着重于识别这些