策划智源社区内容团队 主编李梦佳 执行组李梦佳熊宇轩戴一鸣钱曙光常政廖璐 编辑组(排名不分先后) 熊宇轩 肖健 任黎明 王光华 沈磊贤 孙晨 张虎 杨依帆 胡雪瑜 周致毅 梁子 李佳伦 陈旭 白鹏 路啸秋 路梦康 马瑞军 顾胜宇 王辉 牛梦琳 姜蔚蔚 刘延龙 成小会 李洋 崔靖男 徐树皓 王惠娟 付思雯 【智源人工智能的认知神经基础团队博后】 在过去三年里,由北京智源人工智能研究院(以下简称“智源研究院”)主办的北京智源大会见证了AI领域的跨越式发展,成为了业内兼具专业性、权威性、丰富性的品牌活动。 今年的大会上,来自海内外的专家纷纷发表了最新的研究进展。其中,图灵奖得主AdiShamir深入阐述了「凹槽流形」最新理论,揭秘了对抗性样本奥秘;强化学习之父RichardSutton提出了利用经验启发AI发展的思路,将AI从利用数据到利用经验的过程分为四个发展阶段,提出了未来构建真正AI(RealAI)的发展方向;梅宏院士介绍了群体智能研究的历史与最新进展,并讨论了如何构造基于「探索-融合-反馈」机制的群体智能模型;MetaAI西雅图研究负责人LukeZettlemoyer从团队工作出发,讲述了万亿参数后,大模型是否会持续增长,以及当前如何更好地利用语言模型。 在这第四个年头里,AI各领域的技术和产业趋势风云变幻,出现了诸多新的拐点。 在自然语言处理领域,预训练大模型进展迅猛,在以「视觉-语言」多模态大模型(如CLIP、DALL-E系列等)为代表的下游任务上取得了惊艳的性能,形成了新的研究热点。大模型在隐知识、可解释性方面有较大进展与突破。 与此同时,情感计算识别技术也已成为研究热点,在抑郁线索、精神压力分析等方面发挥着重要的作用。产业化方面,伴随着HuggingFace等公司的强势崛起,人们在工程+产业结合方面取得了一轮又一轮的新突破。除了通过大模型学习通用知识表征,如何以人类为模板,充分利用低资源数据进行小样本学习,也是极具前景的研究方向。 在视觉领域,随着Transformer被引入计算机视觉领域,视觉基础模型研发迎来了又一个新的高潮。一时间,基于视觉Transformer的骨干模型设计、自监督学习、模型扩展、下游应用等研究井喷式爆发。2021到2022年,SwinTransformer、ViT等突破性工作层出不穷。 在强化学习领域,强化学习算法在仓储物流、共享出行、电网优化调度等现实场景中有着广泛的应用。在围棋、Atari、星际争霸等游戏中战胜顶尖人类选手后,游戏场景下的强化学习研究朝着 「多样化」、「多智能体协同」决策的方向发展,如何让智能体在复杂多变环境下的游戏中取得超越人类的表现成为一个颇具挑战的问题。 认知神经领域,AI与脑科学的碰撞和交融还有无限的空间。脑科学的「第一性原理」正在成为AI创新的认知神经基础。KarlFriston认为,主动推断是知觉行为的第一性原理,如强化学习、主动学习、贝叶斯最优推断等很多和知觉行为相关的算法均可以从这一原理推得。而未来,在无数的基本原理之上,想要真正实现通用人工智能,还需要基于大脑中的无数细节对复杂的「真实世界」进行表征和模拟。 AIforScience领域,在分子动力学模拟、开源软件和药物设计方面均有诸多体现,以图神经网络为代表的先进机器学习算法在这些领域掀起了颠覆性革命。机器学习与科学模型的有机结合,给传统的科学领域带来了新的发展机遇,也正在推动科研范式的创新。 在产业落地方面,人工智能技术催生了自动驾驶、生物制药、生命健康等产业领域的飞速发展。未来,人工智能技术将成为元宇宙概念的支柱性技术,实现虚拟与现实的智能互联。那时,AI将无处不在。 CONTENTS 2022年,自动驾驶仍是科技巨头们的必争之地。与自动驾驶相关的算力、算法、感知、执行、数据成为AI打通更多垂直领域的核心能力。业界基于实时数字孪生技术实现的自动驾驶仿真,正在加速自动驾驶落地;生物制药领域,AI新药研发热度不减,多款来自人工智能设计的药物已进入临床阶段,资本大量涌入,数字疗法等新兴业态也逐渐抢占市场,此时更需要审慎地看待市场预期;元宇宙大爆发之后,为了实现零距离世界的愿景,AI、DAO、虚拟化成为了三大支柱技术。同时AR头戴显示设备作为元宇宙最重要的外设硬件,在工业场景下也萌生了更广阔的外延。 本届智源大会在参会人数方面创历届之最,3万专业观众注册,10万线上观看,覆盖六大洲数十个国家。特邀嘉宾囊括图灵奖得主、哥德尔奖得主、戈登贝尔奖得主、机器学习鼻祖、强化学习奠基人、自由能原理之父等泰斗级人物,中美英各国院士,更有DeepMind、OpenAI、Meta、HuggingFace等知名机构的代表专家。5月31日,智源研究院发布了最新进展:目前精度最高的智能线虫“天宝”诞生,迈出智能生命关键一步;发布AI芯片生态实验室和九鼎智算平台;大模型产业落地加速。当天智源研究院首次承办以色列主宾国论坛。6月1日,青源学术年会召开,发布七大方向年度进展与前沿问题报告... 智源社区特此整理了全体大会专家的主要观点,供各界人士参考,洋洋洒洒十几万字,道尽当今AI领域的最新研究趋势和亟待解决的关键问题,以飨读者。 智源研究进展 01共筑九鼎智能花开:智源发展报告 开幕式及全体大会/特邀报告 14报告一:TheIncreasingRoleofSensorimotorExperienceinArtificialIntelligence 22报告二:如何构造人工群体智能? 31报告三:ANewTheoryofAdversarialExamplesinMachineLearning 35报告四:ImprovingMultimodalEvaluationandExploringFoundationalLanguageandVisionAlignment 40报告五:ImprovingRobotandDeepReinforcementLearningviaQualityDiversity,Open-Ended,andAI-GeneratingAlgorithms 44报告六:LargeLanguageModels:Willtheykeepgettingbigger?And,howwillweusethemiftheydo? 46报告七:大规模AI计算系统的挑战和机遇 52 专题论坛01/ 预训练大模型论坛 67 专题论坛02/ 芯片前沿技术论坛 80 专题论坛03/ 自动驾驶论坛 90 专题论坛04/ 类脑计算论坛 95 专题论坛05/ 主宾国论坛:中国-以色列人工智能创新 114 专题论坛06/ 产业论坛丨中关村昇腾人工智能产业分论坛 48报告八:TravelsandTravailsontheLongRoadtoAlgorithmicFairness 第一天/专题论坛 CONTENTS CONTENTS 第二天/专题论坛 智源简介 130 专题论坛08/ 智能信息检索与挖掘论坛 146 专题论坛09/ 机器学习论坛 157 专题论坛10/ AIforScience论坛 167 专题论坛11/ 青源学术年会 186 专题论坛12/ 人工智能的认知神经基础论坛 201 专题论坛13/ 智能的物质基础论坛 211 专题论坛14/ AI与元宇宙论坛 225 专题论坛15/ 人工智能新基建论坛 119 专题论坛07/人工智能伦理、治理与可持续发展论坛 392 智源研究院介绍智源大会介绍 第三天/专题论坛 234 专题论坛16/ AI与生物医药产业论坛 244 专题论坛17/ AI赋能生命健康论坛 263 专题论坛18/ 神经计算与生物智能论坛 287 专题论坛19/ 强化学习与决策智能论坛 296 专题论坛20/ AI开源共享论坛 308 专题论坛21/ 图神经网络论坛 332 专题论坛22/ AI平台与系统论坛 350 专题论坛23/ 视觉模型论坛 368 专题论坛24/ AI开放研究论坛(暨AIOpen期刊年度交流会) 380 专题论坛25/ 自然语言处理论坛 智源研究进展 共筑九鼎智能花开:智源发展报告 【黄铁军|北京大学智源研究院院长】 5月31日,为期三天的“北京智源大会”线上开幕。 作为综合、前沿、专业的内行人工智能大会,智源大会已连续举办4届,成为国际人工智能交流亮眼名片。今年,AdiShamir等图灵奖得主领衔200余位人工智能顶尖专家,除开幕式与特邀报告外连开3天26场硬核论坛,覆盖学术前沿、技术创新与产业应用。 在大会上,智源研究院发布了最新进展:目前精度最高的智能线虫“天宝”诞生,迈出智能生命关键一步;发布AI芯片生态实验室和九鼎智算平台;大模型产业落地加速。 科学技术部副部长李萌和北京市人民政府副市长靳伟出席大会并发表重要致辞。 李萌副部长在致辞中指出,人工智能过去几年已经取得了一系列成果,当前发展正处在一个重要的节点,出现了许多新的特征,既面临发展困境,也孕育着突破的机遇,有很多理论和实践问题需要科学家、企业家、工程师做出研判选择,以推动人工智能走向更加健康的发展之路。智源大会设置专题论坛讨论关乎人工智能未来发展的重要议题,具有十分重要的意义。目前,科技部与北京市正在共同推动落实中关村新一轮先行先试改革部署。李萌表示:“我们希望加强能力和生态构建,使人工智能发展成为北京国际科技创新中心建设的战略支点。智源研究院成立以来,取得了很多重要的研究成果,聚集了一批高水平研究人才,探索了‘开放合作建生态,青年人才挑大梁,集中力量办大事’等独特的做法,已经成为引领中国人工智能发展的重镇。希望持续加强原始创新和产业生态建设,为中国乃至全球人工智能健康发展做出更大的贡献。” 靳伟副市长在致辞中对智源大会给予了高度评价:“北京智源大会聚焦人工智能发展前沿,连接国际国内顶尖专家,已成功举办三届,广受关注、成果丰硕。本届北京智源大会围绕科研与产业重大命题,搭建思想碰撞平台、发布重大创新成果、深化国际 交流合作,必将为全球人工智能发展发挥积极作用。”当前,北京市正在加快建设国际科技创新中心,推动实施中关村新一轮先行先试改革,为北京人工智能发展提供了新的机遇。靳伟表示:“我们将紧抓创新范式变革机遇,深耕‘大模型+大算力’,推动人工智能基础理论研究和关键核心技术攻关不断取得新突破;将发挥创新平台作用,支持新型研发机构开拓进取,深化与国内外创新主体的交流合作,打造开放协同的创新体系;将加快建设世界领先科技园区,为企业集聚发展、人才干事创业提供更优环境,充分释放北京人工智能发展潜力。 开幕式由智源研究院理事长张宏江主持。智源研究院院长黄铁军以“共筑九鼎·智能花开”为题发布 《2022智源研究院进展报告》,分别从挑战最基础的问题和最关键的难题、营造全球最佳学术和技术创新生态和共同推动人工智能产业发展和深度应用三方面,重点介绍了智源工作进展。 黄院长表示:智源当前在科研方面的布局主要包含三个层次:前沿算法模型探索、“九鼎”智算平台和基础软硬件生态、智能+生命健康。初步探索出了科研创新机制“智源模式”,目标是交出两张“代表作”:持续产出国际领先的卓越科技创新突破,建立自由探索与目标导向相结合的科研体制和创新生态。 “天宝1.0”高精度智能线虫诞生迈出智能生命关键一步 智源研究院天演团队重磅发布天宝1.0(MetaWorm)——生物精度最高仿真秀丽线虫,高精度模拟秀丽线虫全部302个神经元及连接关系,迈出智能生命关键一步。 结合高精度神经系统模拟与肌肉动力学关键技术,“智能线虫”经过训练已经在仿真环境中动态蠕动前行,初步表现出类似生物线虫的趋利(食物)避害(毒物)能力。下一阶段将实现避障、觅食等更复杂的智能行为。 秀丽线虫(Caenorhabditiselegans)是探索生命智能的典型模式动物,近20年三次诺贝尔获奖工作都是围绕秀丽线虫实验展开。秀丽线虫仅约1mm长,靠302个神经元,