2024人本智能：人机共生时代的科技发展观报告-上海交通大学&联想&ESG30-

人机共生时代的科技发展观 出品联合出品 02 人本智能 人机共生时代的科技发展观 PREFACE 序言 “技术创新对生活的影响是巨大的，但这并不是自动发生的。它取决于我们发明的技术类型以及我们如何使用它们。” ——2024年诺贝尔经济学奖获得者、麻省理工学院教授达伦·阿西莫格鲁（DaronAcemoglu） 2022年11月30日，人工智能公司OpenAI发布聊天机器人模型ChatGPT。它以前所未有的生成能力、广泛的应用场景以及像人类般互动的自然语言交互模式，让大众第一次真切感受到人工智能（ArtificialIntelligence，以下简称“AI”）的魅力。由此开启的新一轮AI大模型技术浪潮，正深刻改变着现在乃至未来人类社会的生产生活方式。 事实上，自1956年达特茅斯会议首次提出“人工智能”这一概念以来，人工智能技术至今已经历经大约70年的发展历程。它曾带来过技术变革的期望，也曾经历过产业发展的低谷。然而，此次浪潮所引发的关注度前所未有——公众情绪由最初的旁观、震惊，逐渐演变为一种夹杂着期盼与焦虑的复杂情绪，各种疑虑也不断产生。比如，AI是否会让人变得更有创造力？AI能否真正给人们的生活带来便捷并提升品质？AI会威胁甚至取代自己的工作吗？如何确保AI技术不被滥用、不会侵犯个人隐私和安全……特别是，一些引发大众关注的热点事件将当前AI发展中缺乏对人关注和保护的不足集中暴露出来。 透过AI纷繁复杂的发展背后，人们希望回归两个基本的起点：一是AI作为一种技术的工具属性这一本质；二是发展AI的初衷和目标——人本，或者说以人为中心。 序言03 一方面，人类发明任何工具，出发点都是将人类从繁杂枯燥的生产活动中解放出来，从而帮助其更好地生活。作为一个技术范畴的统称，AI开始于20世纪50年代初计算机、物理、数学、心理学、神经科学等不同领域的学者开始研究如何让机器像人类一样思考和行动。在接下来的几十年里，人工智能领域经历了多次的高潮和低谷，但其核心的工具本质，始终未曾改变。 另一方面，AI系统将人作为学习和模仿的对象，通过复杂的算法和大量数据训练，学习人类的语言、行为模式、决策过程乃至创造性的表达。对于AI而言，人始终是学习进化的基点和目标。 一个AI系统本质上是一个从输入信息到生成行为的转换系统。人类的任务是设计这个转换机制，然而现实的发展可能会偏离起点和初衷。正如历史学家尤瓦尔·赫拉利所做的论断，AI是“历史上第一个可以自己做决定的技术，也是历史上第一个可以自己创造想法的技术”1。对此，人们有必要保持一定的审慎态度，特别是在底层价值认知方面进行充分的反思。从技术这一大类的属性来看，人类可以赋予技术以灵魂，但是反过来，人类这一物种的生物和社会属性可能在很大程度上被技术所左右；从AI本身的技术特性来看，不同于以往的技术或者技术变革，AI有望在人类体验的所有领域引发变革并重塑价值观，改变人类理解现实的方式以及在其中扮演的角色。如何确保在这一进程中AI始终以人为目的，是一个严峻的考验。 人们需要思考，在AI发展如火如荼的大潮下，人们应该以什么样的价值观来推进AI技术和产业的变革及治理，以什么样的关系来处理AI与人类的关系，如何将价值观置于技术之上，进而拥抱AI。正如“AI教母”、华裔科学家李飞飞在其自传《我看见的世界》中所言，“如果人工智能要帮助人们，我们的思考就必须从人们本身开始”。人工智能最伟大的胜利不仅是科学的，还是人文的。人的尊严、人的快乐、人的安全、人的幸福，是人工智能技术发展的北极星——人工智能，以人为本。 1.尤瓦尔·赫拉利，《智人之上：从石器时代到AI时代的信息网络简史》，中信出版集团，2024年 04 人本智能 人机共生时代的科技发展观 CONTENTS 目录 05 17 第一章31 新型人机关系，新AI价值观 案例4：鲲云科技AI系统守护矿工生命安全 06 1.1人工智能的四轮发展浪潮 案例5：设序科技让船舶设计更简单有序 08 1.2新一轮AI的特质 33 3.2.4交通出行 11 1.3新一轮AI下的人机关系 案例6：“萝卜快跑”们上路，自动驾驶引热议 14 1.4走向人机共生新时代 35 3.2.5医疗健康 16 1.5构建新型“三线”人机关系 案例7：联想用AI帮助渐冻人“开口”说话案例8：百川智能用AI“造医生” 第二章38 3.2.3制造业 3.2.6环境与生态保护 人本智能——一种新的科技发展观 案例9：北京亦庄“AI之城”的环境管理 19 21 21 23 2.1从机器智能到人本智能——科技人文主义的兴起 2.2人本智能概念的提出 2.3人本智能的内涵和原则 第三章 41 42 案例10：联想集团“AI+动物保护模式” 第四章 人本智能发展观：倡议与治理 4.1全球人工智能治理的努力 人本智能的应用实践 ——智能向善与负责任的AI 243.1人本智能的产业实践 263.2人本智能的行业应用 263.2.1传媒与文艺创作 案例1：人民日报“创作大脑AI+”平台 案例2：联想AIPC助力纪录片《西野》拍摄制作293.2.2教育行业 44 46 48 4.2走向人工智能的未来——人本智能倡议 第五章 结语——关于AI及人的未来 致谢 案例3：清华学子的AI搭子——“清小搭” CHAPTER1 第一章 新型人机关系，新AI价值观 1.1 人工智能的四轮发展浪潮 人工智能正以惊人的速度重塑着世界。在近70年的发展历程中，人工智能经历过黄金时代也曾有过低谷。不过科技的魅力在于，历经起起伏伏之后，现在的人工智能已开始深深影响人类社会。总体来看，人工智能技术的发展历经了七个阶段共四轮发展浪潮。 1.起步发展期（1943-1960年） 人工智能从概念逐渐演变为学科，并涌现出了两大学派：符号主义和联结主义。人工智能研究者提出了一些基本的概念和方法，如神经网络、图灵测试、符号推理、游戏AI等，并在一些简单的任务处理上取得了初步成功，如机器定理证明、跳棋程序、人机对话等。 其中最具标志性的事件是1956年夏天，美国达特茅斯学院主办了历史上第一次人工智能研讨会。会议虽然未能达成普遍的共识，却为所讨论的内容起了一个名字：人工智能。从此“人工智能”开始作为一门独立学科出现，1956年也因此成为人工智能元年。 2.黄金时代（1960-1974年） 人工智能的黄金年代，也是符号主义的鼎盛时期。这一时期科学家们富有理想、信心，认为机器能够实现与人类同等水平的智能，他们试图用逻辑和符号来模拟人类思维过程，并已经在自然语言理解、专家系统等一些复杂任务上取得了突破性进展。 在这一时期，一款名为ELIZA的聊天机器人程序问世，引起了人们广泛关注。同时期，美国斯坦福大学费根鲍姆教授开发了一款专家系统DENDRAL，能够帮助化学家确定化合物结构和性质，为最早的专家系统开辟了道路——这种经过训练的智能化计算机可以像专家一样“思考”，也酝酿了第二次人工智能浪潮。 3.第一次寒冬（1974-1980年） 20世纪70年代初，人工智能发展遭遇瓶颈。首要困难就是计算能力和存储空间不足，导致当时的计算机无法处理复杂的任务，如图像识别、自然语言理解和机器人控制等。其次，还面临着数据量和知识表示方面的挑战。 鉴于人工智能未能达到预期的目标和效果，政府和社会各界对其产生了质疑和批评，政府更是削减了对人工智能研究的资金支持，致使许多项目被迫中止或缩小规模。 但在此期间，也出现了很多发展亮点和技术进步，如神经网络技术的出现，成为现代人工智能的重要组成部分。 4.再次繁荣（1980-1987年） 科学家借助逻辑编程语言和专家系统技术，推动人工智能在一些商业领域获得成功，进而重新获得政府和企业的支持。同时，联结主义的代表性技术——人工神经网络重新受到关注。这是人工智能的复苏阶段，也是分化和竞争的阶段。 5.第二次寒冬（1987-1993年） 这段时期，人工智能再次遭遇挫折和困境，标志性事件是日本第五代计算机系统研制计划的失败，自此专家系统不再独领风骚。与此同时，神经网络研究遭遇新的瓶颈，针对人工智能研究的资助再次缩减。 在这个阶段，人工智能研究者意识到，要解决更为复杂和普遍的问题，就需要运用更复杂、规模更大的模型，以及更多的计算资源和更丰富的数据等。同时，人工智能也面临着一些哲学和伦理的问题，如机器是否具有意识、机器是否有道德以及是否会对人类构成威胁等。 6.深化发展（1993-2015年） AI研究者开始采用更加实用和渐进的方法，将AI技术应用于各个领域，涌现出许多创新的理论、方法、技术和应用。如IBM的深蓝超级计算机在国际象棋比赛中战胜了世界冠军加里·卡斯帕罗夫；智能系统沃森参加智力问答节目，打败了两位人类冠军，展示了人工智能在复杂领域的强大能力。 7.爆发发展（2016年至今） 随着技术的突破、成本的下降和应用的普及，AI开始从实验室走进大众的生活。2016年至今（2024年）可视为人工智能的爆发阶段，也是创新和应用的关键阶段。 特别是2016年，可被称为人工智能的元年，在这一年谷歌DeepMind研发的AlphaGo在围棋人机大战中击败人类棋手李世石，成为人工智能发展史上的一个重要里程碑——在一片惊呼声中AI迈上一个新台阶，各界对AI的热情和投入被充分激发。 同时，互联网的飞速发展推动人类进入大数据时代，数据、算法、算力三要素齐头并进，以深度神经网络为主的深度学习技术开始兴起并持续取得突破。人工智能的应用从图像分类逐步拓展至语音识别、知识问答、人机对弈、无人驾驶等诸多领域。直至2022年，ChatGPT横空出世，使得公众对人工智能的理解被彻底刷新，并极大加速了AI在各行各业、各类场景中的应用，同时也引发了关于AI技术的社会影响和伦理问题的深入探讨。 一方面，各国政府以及产业界正在积极投资和布局AI领域，希望能在这场科技革命中占据一席之地，并取得产业化的先机；另一方面，很多企业家和学者对AI的迅速发展发出警示，提醒其对社会存在的风险，呼吁全球各国、政府部门、行业组织、社会公众等多元主体共同参与人工智能治理。 来源：毕马威中国、联想集团，《“普慧”算力开启新计算时代》报告 图1AI经历“三起两落”，迎来第四次浪潮 产业热度 一起一落1950s-1970s 人工智能诞生后快速发展，遭遇批判后陷入资金短缺危机 1974年 AI研究经费遭遇大 幅削减，进入“Al之冬” 再起再落1980s-2000s Al模型突破带动初步商业化，但推广应用存在成本障碍 1987年 AI硬件市场需求大幅下跌，Al再次进入低谷 第三次崛起2010s-2020s AI广泛落地语音、图像场景，但杀手级应用较缺乏 2016年 AlphaGo将AI概念和技术推向大众视野，资本纷纷涌入AI赛道 第四次浪潮2023- 出现杀手级应用，AGI加速实现 1956198020062023 1956年，达特茅斯会议召开，人工智能元年开启 80年代，“专家系统”一类的AI程序开始被广泛采纳，知识处理成为主流AI研究焦点 2006年，深度学习元年，AI进入快速发展阶段 ChatGPT月活破亿仅用2月，生成式AI应用进入爆发周期 1.2 新一轮AI的特质 回顾AI的发展历程，人工智能是一个被不断定义且持续扩展的领域，这是因为人工智能具有多维度的属性，而且始终处于动态发展状态。 1956年的达特茅斯人工智能会议首次提出人工智能概念，确定了AI的目标是“实现能够像人类一样利用知识去解决问题的机器”。在这一定义范畴中，人们倾向于将AI理解为能够帮助人类的一种工具，是人类智慧的补充。随后，在近70年的发展中，人们对AI的工具属性不断进行扩展，诸如AI能自我演进和扩展，AI具有经济和社会的基础结构属性，AI具有超主权属性等等。 这些不断叠加且动态变化的属性在最新一轮AI热潮中得到集中展示。自2022年末起，OpenAI公司的GPT系列大模型因为可以广泛应