赛迪译丛2024年第19期（总第645期）：技术展望2024-AI拐点：重塑人类潜力-加水印

2024年6月17日第19期总第645期 技术展望2024-AI拐点：重塑人类潜力 【译者按】今年1月，埃森哲咨询公司首次发布《技术展望2024-AI拐点：重塑人类潜力》。报告探讨了以人为中心的技术发展，尤其是生成式人工智能，在历经多年的指数级创新演进后，正如何提升人类能力、激发潜能，并重塑商业模式。据埃森哲测算，生成式人工智能将影响各行业四成的工作时间，提高900种不同类型工作的产出效率，并在全球范围内 创造高达至少八万亿美元的经济价值。报告揭示了AI伙伴、智能体、空间计算及人机互通四大趋势，帮助企业把握技术“人性化”的重大转变。赛迪智库网络安全研究所对该报告进行了编译，期望对我国有关部门有所帮助。 【关键词】人工智能智能体空间计算人机互通 -1- 一、概要：AI拐点：重塑人类潜力 人类与技术的关系正处于拐点，艺术家担忧技术使用过度会导致人类出现不良影响。然而，未来可以通过重塑人与技术之间的关系，设计技术来增强而非改变人类�质，避免反乌托邦的未来。未来几年，企业将拥有更多强大技术，如自动化智能体、智能界面、空间技术和脑机接口等，这些技术将释放人类更大潜能、生产力和创造力。早期采用者和领先企业已迈向价值和能力新时代，其战略共同点是技术更加人性化。从�质上讲，我们制造的工具大都非人性化，但它们填补了我们的局限，使我们能做我们不能做的事，彻底改变了我们的生活。 技术在提高人类生活水平的同时，也存在非人性化的缺点，如关节炎、视力问题和注意力分散等。然而，我们正看到人性化的新一代技术，如生成式人工智能和转换器模型，它们使技术更直观、更智能、更易用。这些技术正在加速发展，改变了人们的工作方式，并实现技术和专业知识工作的民主化。例如，聊天机器人和AdobePhotoshop的生成填充和生成展开功能，使任何人都可以轻松地使用简单的文�提示，制作出数十种不同的作品。 生成式人工智能正在重塑组织和市场，其潜在影响范围远超现有任务。例如，谷歌云发布了一款生成式人工智能搜索工具， -2- 帮助医生和护士快速查找患者信息。麻省理工学院计算机科学与人工智能实验室的研究人员创建了3FrameDiff，用于制作合成蛋白质结构，为药物开发提供新可能。GitHub的Copilot等工具正使软件工程师更满意工作。这些工具使用直观，员工采用速度快，正自下而上渗透到工作场所，比组织创建正式项目的速度更快。 除了人工智能，许多技术也在朝着人性化方向发展，解决人类与技术之间的痛点，释放人类潜力。微软更新了MicrosoftMesh平台，创建沉浸式空间，推动新的协作方式。Discord和Mastodon建立了个人关系驱动的社交网络。波士顿动力公司致力于将机器人技术与周围世界融合。研究人员将ChatGPT安装到机器人上，实现自然语言交互。人性化技术易使用，提高工作效率，加强联系。数字技术带来各行业扩张机遇，激发创造力。人性化技术带来全新可能性，如人工智能代理和数字空间。 企业将迎来充满新想法和新行动的世界。人性化技术将成为企业重塑数字核心的关键。企业应制定一项战略，最大限度地发挥人的潜能，消除人与技术之间的摩擦。未来将由人工智能驱动，但必须为获得人类智能而设计。企业所做的每一个选择也变得更加重要。 （一）技术拟人化：2024年的发展趋势 �报告研究了影响数实融合发展的最关键要素：人 -3- 物质世界和数字世界的进一步融合推动了更多人性化技术的涌现。今年的四大趋势指出了趋向人性化的几个关键维度，并说明了组织需要如何做好准备。 第一，在“AI伙伴”一节中，探讨了人工智能技术如何模仿 人类处理信息的方式，并颠覆我们处理知识和知识管理的方式。这一变革始于搜索，并深入到记忆结构的设计和组织，与人类大脑相似。 第二，在“智能体”一节中，主要是追踪从能够执行单一任 务的人工智能到智能体的演变过程，在适当的监督下，智能体可以相互合作，并充当人类和企业的代理。 第三，在“空间计算”一节中，空间计算打破物理和数字之 间的界限，使得数字世界能够与物理世界相互融合和交互，数字世界不再是一个与我们隔离的陌生环境，而是能够与我们的身体和感知相连接的环境。 第四在“人机互通”一节中，审视了一套新兴技术——它开 始避开过去不自然的技术互动，比以往任何时候都更能读懂和理解人。 （二）积极筹划：我们的技术十字路口 人性化技术为人类和企业带来巨大利益，但面临伦理挑战。企业领导者需在快速行动与谨慎行动间找到平衡，优先考虑福祉、 -4- 隐私和安全，实现技术包容性，弥合社会差距，为人类创造新道路。 二、AI伙伴：从知识到智识的革新 （一）整体情况 1.搜索已经渗透到生活中并成为人们的一种习惯 谷歌搜索并没有降低我们的智力，但确实改变了我们获取信息的方式。搜索成为人们和企业与数据交互的主要方式，极大地扩展了人们可以获取的知识，并成为员工体验的内在组成部分。然而，在2022年底，搜索界的领导者们进入了高度戒备状态，因为人们与数据的关系第一次出现了变化。生成式人工智能聊天机器人开始取代搜索，成为人们寻求答案的新方式。例如，OpenAI推出的ChatGPT和微软的必应聊天工具，以及Salesforce的EinsteinGPT和Epic的GPT-4集成产品，都采用了生成式人工智能技术，为用户提供更直接、个性化的答案。 生成式人工智能正在改变人们访问和与数据交互的方式，不仅影响网络搜索引擎，还影响各种搜索场景。数据是数字业务的重要因素，聊天机器人正在改变数据访问和提炼方式。生成式人工智能可能改变整个软件市场，成为软件、企业角色和数字世界的核心竞争力。企业有机会重新构想信息运作方式，发明下一代 -5- 数据驱动型业务。客户体验和互动方式将改变，内部工作流程将发生转变，企业价值主张可能发生转变。这是一个巨大的机遇，也是绝对必要的。企业需要采取行动，否则可能面临各种后果，包括失去与客户的直接联系和对品牌的控制。 2.生成式人工智能的出现，让数字管家成为可能 企业信息战略的基础是搜索，但现在越来越多的人转向询问，企业开始使用生成式人工智能聊天机器人作为用户界面和客户接入点。实施大型语言模型和生成式人工智能聊天机器人需要重新思考核心技术战略，包括数据收集、构建、架构、技术工具部署等。企业需要采用新做法，如培训、去伪存真和人工智能监督。人们希望提问并得到答案，生成式人工智能使数字管家成为可能。企业需要灵活适应，否则无法参与到新一代数据驱动型业务的崛起中。 （二）技术：解锁数据驱动型企业 数据为数字业务提供动力，各行各业的企业都在努力建立以数据为驱动的实践。然而，人们仍然为寻找所需数据而苦恼。根据Gartner的调查，47%的数字工作者难以找到有效完成工作所需的信息或数据。为每位员工配备一位拥有丰富企业知识的大型语言模型顾问，可以释放数据的潜在价值，让企业最终实现数据驱动型业务的承诺。生成式人工智能将是建立在企业庞大数据架构 -6- 之上的界面，但如果企业想获得它的诸多优势并改变人们获取信息的方式，就必须最终打好这个基础。 1.巩固数据基础 新技术和新工艺可以帮助企业夯实数据基础，为未来数据驱动型业务做好准备。知识图谱是其中最重要的技术之一，可以汇总更多来源的信息，支持更好的个性化，并通过语义搜索增强数据访问能力。思科系统公司通过创建元数据知识图谱，查找信息所需的时间减少了一半，每年可为销售人员节省400多万小时。除了知识图谱，数据网格和数据结构、矢量数据库等数据管理策略也很重要。建立企业的数据基础对于启用大型语言模型顾问界面至关重要，而大型语言模型也是支持创建和维护这一基础的工具。随着复杂数据基础变得越来越重要，它们也变得更容易维护和更新。 2.探索LLM的深度应用，建立新的数据接口 知识图谱、数据网格和数据结构是知识管理系统的重要进步。下一步，从图书管理员模式转变为顾问模式，将带来更多价值。设想员工无需搜索栏，而是直接以自然语言提问并获取明确答案。可访问的上下文数据基础使企业能够构建这样的系统，有多种方案可供探索。 第一种方法是，企业从零开始培养自己的大型语言模型。不 -7- 过由于需要大量资源，这种方法并不多见。这方面的一些领先者都是人工智能领域的强者，如亚马逊、OpenAI、谷歌、Meta、AI21、Anthropic和彭博社，选择自主研发大型语言模型。这种从零开始的训练方式对大公司来说可能是获取竞争优势的策略。 第二种方法是对现有的大型语言模型进行“微调”。主要云提供商提供微调服务，帮助客户利用自己的数据对基础模型的私有版�进行微调。这种方法比从头开始训练大型语言模型所需的资源要少得多，但不能确保模型拥有最新的信息。对于不需要实时信息的特定领域，如设计或营销领域的创意输出，该方案最为合理。此外，企业开始针对专业用例对小型语言模型（SLM）进行微调。小型语言模型所需的计算资源仅为大型语言模型的一小部分，效率更高、运行成�更低、碳足迹更小，可以更快地进行训练，并可用于更小的边缘设备。 第三，构建大型语言模型顾问最常用的方法之一是检索增强生成（RAG），它将信息检索系统与生成模型相结合，生成模型可以自行训练或开箱即用，并通过应用程序接口进行访问。RAG的工作原理是：首先，用户输入请求，然后检索相关文档，以向量嵌入的形式出现。这些文件连同提示信息一起被发送到大型语言模型，生成对用户的响应。通过上下文学习和检索增强生成来建立大型语言模型，所需的时间和计算能力要少得多，且所需的 -8- 专业知识也比从头开始训练大型语言模型或大型语言模型微调要少得多。这种方法最适合需要最新信息的用例，但仍有必要验证其准确性。 （三）启示：企业知识的未来 1.了解和降低风险 企业在利用大型语言模型时需警惕风险，如模型可能生成错误信息导致严重后果，如律师误信ChatGPT虚构法律案例登上 《纽约时报》头版。此外，模型使用还涉及数据安全（防止专有数据泄露）、访问控制、计算成�管理和专业技能缺乏等问题。因此，不应将这些挑战视为一种威慑，而应将其视为通过适 当控制来实施技术的号召。对大型语言模型来说，最重要的治理对于任何人工智能的实施都很重要，尤其是在涉及数据安全性、准确性和道德问题时。 大型语言模型的数据应高质量、最新、无偏见，包括零方和第一方数据。执行安全标准保护个人和专有数据，确保数据权限到位。生成式人工智能聊天机器人的输出结果应准确、可解释且与品牌一致。设置防护栏，传达不确定性，提供验证来源。持续测试和人工监督，投资人工智能道德，制定最低标准，定期收集反馈并为员工提供培训。 2.从搜索到询问的转变将促使我们采取什么行动 -9- 企业内部机遇包括生成式人工智能聊天机器人，可扩大内部知识共享、客户服务和产品能力。摩根士丹利公司利用GPT-4创建聊天机器人，帮助顾问即时获得所需见解。丰田利用生成式人工智能搜索车主手册，为人们的汽车问题提供更直接答案。研究表明，客服人员也能从生成式人工智能聊天机器人的帮助中受益，提高工作效率，改善客户感受，提高员工保留率，减少对经理的请求。企业也在想方设法为自己的产品添加人工智能聊天机器人，例如Discord和Snapchat。 生成式人工智能聊天机器人正在改变企业内外的信息查找方式，为客户提供更便捷的答案，节省时间，并帮助企业做出更好的决策。企业需要重新构想如何接触客户，抢占先机。一些公司正在研究通过插件改进生成式人工智能聊天机器人的输出，提供最新信息。未来几年，新趋势将不断涌现，企业需要尝试新事物，以适应数据驱动型业务的新时代。 （四）小结：AI伙伴 生成式人工智能正在改变数据和软件的游戏规则，如同几十年前的搜索技术。大型语言模型正在改变我们与信息的关系，从企业如何接触客户到如何增强员工和合作伙伴的能力，一切都将发生转变。领先公司正在研究、想象和构建下一代数据驱动型业务，不久将成为数字业务运作的新方式。 -10- 三、智能体：AI互联的生态系统 （一）整体情况 1.96%的企业高管认为，利用智能体生态系统将是企