人工智能为金融服务业带来风险和机遇

人工智能为金融服务业带来风险和机遇 金融服务业领导峰会 2023年10月 “关于AI的讨论令人振奋，同时也会感到恐慌。” ——与会董事 人工智能为金融服务业带来风险和机遇 视点 金融服务业领导峰会 2023年10月 自OpenAI于2022年下半年推出ChatGPT以来，许多知名人士就人工智能 （AI）对社会的影响发表了看法。比尔·盖茨（BillGates）表示，ChatGPT具有“革命性”，是“自图形用户界面以来最重要的技术进步”。1谷歌首席执行官桑达尔·皮查伊（SundarPichai）认为，AI的快速发展“将影响每家公司的每一款产品”，他表示“社会需要适应AI”。2 但并非所有人都看好AI前景。今年3月，包括特斯拉联合创始人埃隆·马斯克 （ElonMusk）和苹果公司联合创始人斯蒂芬·沃兹尼亚克（SteveWozniak）在内的一批技术专家、学者和商界领袖联名签署信函，呼吁在六个月内暂停训练世界上最先进的AI模型。签署者认为，先进AI技术开发必须基于审慎规划和协作。信中写道：“很遗憾，目前的规划和管理水平并不到位——尽管最近几个月，各人工智能实验室陷入了失控的角逐赛道，争相开发和部署更强大的数字思维，但没有人（即使是创造者）能理解、预测或可靠地控制这些数字思维。”3 关于AI的讨论引起了金融服务业高层领导的关注，他们认为AI技术可能创造新的机遇，但也会给金融机构和社会带来新的风险。一位与会董事指出：“关于AI的讨论令人振奋，同时也会感到恐慌。”4 6月13日至14日，多家大型银行、保险公司、资产管理公司和金融科技公 司的董事和高管、监管人士以及其他行业专家聚首2023年金融服务业领导峰会。与会者讨论了AI的发展、应用及大型金融机构所面临的挑战。本期 《视点》汇总了峰会讨论和相关对话，并重点关注以下主题： •AI技术发展迅猛 •金融服务业不断涌现新的AI应用 •生成式AI带来额外风险 •金融机构正处于调整治理和监督模式的早期阶段 AI发展迅猛 对于企业高层而言，不去理会围绕新兴技术的大肆炒作可能非常困难。但如果这项技术，如同AI一样，带来重大风险或机遇，那么这样做又是必需的。虽然大型银行和保险公司利用AI执行某些功能已有一段时间，但一些与会者认为，ChatGPT和类似生成式AI工具的出现标志着AI取得了重大飞跃。他们指出，AI可能会带来变革式影响。一位与会者表示：“我们正经历AI的爆发式增 长，但人类很难掌控这一切……我们正处在AI发展的拐点，很显然，这将成 为一个社会性的拐点。” 1 “我们正经历爆发式增长，但人类很难掌控这一切。” ——与会者 “技术应用得越多，越不觉得恐惧，反而越兴奋。” ——与会者 “AI发展势不可挡，趋势不可逆转，影响无处不在。” ——与会高管 但也有与会者质疑AI是否有别于过去的技术发展。一位与会董事提出这样的问题：“自计算机诞生以来，人类可能会变得无关紧要，这项威胁一直存在。30年前，交易大厅有100名股票交易员，如今有99名算法程序员和一名交易员。这说明工作离不开人，只不过是从语言沟通转变为代码编写。那么，AI技术有何不同？” 金融服务机构开始尝试使用生成式AI，初步成果令许多机构惊叹。一位与会高管表示：“生成式AI出现后，我们决定试试。我们一直在后台使用这些大型语言模型，并研究其功能。我们很快发现，这些功能表现惊艳，实现了巨大飞跃。”另一位与会者预测，AI将继续快速发展，“我们将在未来五年内打破认知。” 随着AI的进步，整个社会对其前景感到乐观的同时，也存在深深的不安感。一位与会者表示：“AI技术将造福人类，广泛应用于多个领域，不仅关乎健康，还将长期提升我们的生活质量……由于机器学习的出现，我们的知识水平将大大提高。AI适用甚广，非常有益。”一位自称“恐惧的乐观主义者”的与会者认为，有些恐惧是“对进步的合理反应”，但也强调AI技术可能带来诸多益处，停止AI发展并不可行，因此，不要暂停模型开发。该与会者建议，金融机构应继续尝试使用这些新工具，因为“技术应用得越多，越不觉得恐惧，反而越兴奋。”另一位与会高管表示赞同：“我觉得AI发展势不可挡。趋势不可逆转，AI的影响无处不在。AI留给我们适应的时间远少于互联网，它将加速发展，并产生变革性影响。” 金融服务业不断涌现新的AI应用 大型金融服务机构过去已使用AI来提高运营效率、改善客户体验、缓释经营风险、推动组织创新。自ChatGPT问世以来，AI模型越来越强大，部署速度也越来越快。“我们一直在研究生成式AI，”一位与会者指出，“我们正处于开发阶段。我们在世界各地部署，让所有人都可以使用AI界面。”金融机构仍在测试这些工具，以深入了解其功能，并且开始使用。一位与会高管表示：“银行目前正在进行试水摸索。我们都认可AI的价值，它可能节约成本”。 与会者指出，生成式AI工具可以带来如下益处。 •提高客户服务质量。大型语言模型（LLM）有望增强客户服务数字化工具，利用客户信息提供更个性化、更高效的服务。一位与会高管指出：“AI让这些工具更加强大。现在的聊天机器人只能回答它们知道的问题，不多也不少。不久以后，它们将能够回答自己不知道的问题。”更强大的数字化辅助工具有助于缓解前台员工压力，同时提供更好的客户体验。证据表明，初步试验前景看好。帕兰提尔公司（Palantir）最近宣布，旗下有一款尚未正式上市的AI产品，其需求之大“前所未有”。一位保险行业客户在获准提前使用该产品的几天内，创建了一个“协作式AI代理”来自动处理理赔事宜。帕兰提尔公司表示，该客户认为这一工具比竞争对手的产品“领先数年”。5 “GPT将彻底改变软件行业，普通人也将具备编程能力。” ——与会者 •加快并改善文件复核和数据分析。银行和保险公司在正常业务过程中会生成大量文件和数据。要在各个保单、表格和数据库中搜索具体信息，可能既费时又繁琐。先进的大型语言模型（LLM）可以帮助加速这一过程，并生成新的信息。一位与会保险业高管解释道：“保险公司的文件和报告中含有大量专业知识和信息。LLM可帮助理解先前难懂的信息。”该与会者还表示：“我们注重语言能力和措辞。在承保和创建保单时，我们必须完成跨国家、语言、法律法规、保单、免责条款等的翻译。GPT-4能够出色地找出合同和保单中的措辞差异，并且可以识别多种不同语言。”更快地识别这些差异，有助于承保人员或数据科学家将时间投入到更有意义的工作上，并且预防“泄露或成本过高的情况”，从而节省成本。另一位与会高管表示：“我们可以采用ChatGPT处理数据，搜索结果将更加出色；也可用于股票研究和其他业务领域。” •简化软件开发，实现软件开发大众化。一位与会者预测道：“GPT将彻底改变软件行业，普通人也将具备编程能力。”一位与会高管称，这将通过“提示工程”来实现，即软件开发人员使用生成式AI助手Copilot协同工作，“直接使用自然语言而非编程语言”。这一流程将大大减少工程师在软件开发上花费的时间。一位与会高管预测，效率将提高40%。虽然对顶尖技术人才的需求在短期内不会得到缓解，但技术背景较弱的人员可以通过提示工程执行开发流程，从而缓解人才供应短缺。一位与会者预测“英语专业或将再度成为热门”，因为需要有能力“表达细微差别从而指导和训练这些模型”的人才。 •管理原有平台。与会者认为，在最终迁移到更现代化的平台之前，可以利用生成式AI工具提高对老系统的管理效率。一位与会高管表示：“每个银行或保险公司都有处于运行状态的老旧系统。没有人了解这些系统。即使维持这些系统现状，生成式AI也会告诉你它们在做什么。生成式AI可以帮助你了解这些系统，为转型做好准备。” 尽管与会者对生成式AI的初步应用场景抱有一定热忱，但他们表示，在生成式AI技术成熟周期的这个阶段，仍有一些领域是他们不愿探索的。例如，一些机构仅使用生成式AI处理自有数据。一名与会高管表示：“我们不想接触任何外部数据。我们不接触外部世界，这确实限制了效率。”另一位与会者表示，他们只在内部使用这些工具，“我们还没有用它与客户互动；这还不是我们的优先工作事项。” “这是我第一次感受到，变革的速度超过了我们所能理解和管理变革的能力。” ——与会者 “我们必将面临更多的欺诈和网络攻击，但防御应对措施也会越来越先进。” ——与会者 生成式AI带来额外风险 大型金融机构在考虑如何使用AI的同时，还需要降低这一技术带来的风险。一些风险并不陌生，但随着生成式AI的日益普及，其他风险也在不断出现。与会者指出了他们在部署这些工具时所关注的一些问题。 •紧跟技术变革的步伐。AI的飞速发展引发了深刻的问题，即使是具有技术背景的人才也不例外。一位与会资深行业人士承认：“我从事变革性技术工作已有40多年这是我第一次感受到，变革的速度超过了我们所能 理解和管理变革的能力。”另一位与会者指出：“从GPT-1、GPT-2到GPT- 3.5再到GPT-4，AI实现了巨大的飞跃。”我们很难将AI的炒作与现实区分开来，并在此基础上处理发生的状况，做出及时且明智的决策。一位与会者认为：“我们将面临变革速度的挑战培训一门新学科可能会成为 一项艰巨的任务。” •分清事实与虚构。众所皆知，生成式AI工具生成的结果有时令人叹服，但有时毫无真实性。与会者认为这些“幻觉”是AI模型的特有现象。一位与会者指出：“ChatGPT是一个概率模型，它与人类认知非常不同。问题随之而来。例如，ChatGPT会产生幻觉，提出捏造、不真实的信息。”将概率结果解释为事实陈述可能会误导我们，就像同行给出的意见可能会有偏见。另一位与会者表示：“我们不应该轻信这些结果，就像出门在外不应该相信任何人一样。我们需要考虑AI给出答案的概率分布。” •监控可能存在的偏见和意外后果。AI应用日趋复杂，可能产生偏见。一位与会者表示：“大多数算法反映了算法制定者的偏见。大多数算法制定者是美国西海岸的白人。我们已经发现快递应用程序加快了为上层白人的邮政编码区送货的速度。”金融服务业也出现了类似的问题。一位与会董事表示，某银行测试使用AI处理信贷申请时，他们震惊地发现“在两周内，AI完全根据邮政编码发放贷款。它不能这么做。” 出于避免偏见的考虑，许多高层领导不愿将AI应用于授信和审贷流程等领域，因为在这些领域，金融机构可能需要向客户和监管机构解释他们做出特定决策的原因。一位与会高管表示：“我们必须非常谨慎地在提取信息并将其呈现给投保人或经纪人与真实提出建议之间划界限，否则会违反大量规则。” •加强网络和其他安全防御措施。一位与会董事表示：“我非常担忧国家支持的网络行动、网络威胁、欺诈、网络钓鱼。我们将会看到网络骗子如何利用AI来提高其效率。”另一位与会者也有此类担忧：“生成式AI的本质是生成新的文本、图片和音频，因此，欺诈和网络攻击也必然会增加。”另一位与会者提醒：“通过操纵数据湖和破坏数据就可以操纵算法。”但是，一位与会者比较乐观：“是的，我们必将面临更多的欺诈和网络攻 击，但防御应对措施也会越来越先进。那么，我们如何利用AI驱动工具加强防御呢？” “OpenAI首席执行官山姆·阿尔特曼 （SamAltman）对其协助创造的技术感到不安。他正在申请由世界各地的监管机构和政策制定者对AI进行监管。” ——与会者 “如果我们告诉客户，我们正在使用AI技术和相关信息作出与他们相关的决策，他们会有何反应？” ——与会者 金融机构在应对这些风险的同时，还需要关注不断变化的监管环境，因为这也可能给金融机构带来新的挑战。一位与会者指出：“OpenAI首席执行官山姆·阿尔特曼（SamAltman）对其协助创造的技术感到不安。他正在申请由世界各地的监管机构和政策制定者对AI进行监管。”该与会者警告道：“随着社交媒体的发展，操纵选举、滥用儿童数据、心理健康问题等随之而来。这是一场在没有监管的情况下部署技术的社会实践。”金融机构的领导者希望政策制定者更加积极主动地监督AI的发展。一位与会者表示：“我们通常在出现问题且一发不可