生成式AI企业应用落地技术白皮书

致广大而尽精微 生成式AI企业应用落地技术白皮书 神州数码集团股份有限公司 神州数码通明湖研究院 北京信百会信息经济研究院 CONTENT目录 1生成式AI是一场技术范式变革3 2生成式AI的六层技术生态9 2.1AI算力基础设施9 2.2基础大模型与相关技术16 2.3大模型与训练、评测数据25 2.4生成式AI应用开发技术28 2.5生成式AI安全与监控39 2.6生成式AI应用设计42 3生成式AI企业应用落地实践探索和总结45 3.1生成式AI与企业数字化转型45 3.2企业应用落地✁关链问题与应对方法47 3.3企业应用落地的四类驱动模式 60 4AI产业政策与发展趋势72 4.1我国AI产业政策72 4.2AI产业发展趋势77 4.3促进我国AI产业发展✁对策建议80 5写在最后82 6引用84 1生成式AI是一场技术范式变革 2022年人五atGT的模空山及其之后的持续送代，以种人人可亲身恶知的式，把人 工智能在自然语言领域单时中人进展在一夜之间展下在人面前。们生企业感用场景方，之 前的AI技术部集中在相对专业的应用场景内，如机器视觉、语音识别、或推荐系统、风控管理等。但是语言，作为人类年要的患维工其以及知识组织和传措的最主要手段，其“能方泛化” 的可能性远远超出了其他领域。因此，当ChatGPT能够与人炎进行深入、富有深度的对语付， 人们开始想象个真正能够理解业务或专业、思考解答专业问题、甚至进行业务的组织、管理和创新的机器的可能性。对企业的数字化转型进程而言，生成式AI技术带来的潜在影响很容易让人将之类比于交通史上铁路系统的发明、办或动力系统中对交流电的引入， 在生成式AI技术出现之前的十多年间，数字化转型一直是企业采取的-项重要战略，来促进企业在新的商业环境中保持竞争优势、创造新的商业机会。根据2011年，数宇化转型早的 提山者之一一Gartner的定义，数字化转型包括从IT现代化升级（比如企面云化升级），到通过数宇技术进行业务优化（比如精准营销）或业务模式包新（比如创新的流和益利模式） 的系列战陷举措。近几年来，数字化转型的重点聚焦领域，已经越来越转向企业数据资产的 建立，补州数码兼事长兼首序执行官郭为在“数字化的力量》·书中，对此提山了全面和系统 的论还， 而生或式A出现之前，数据一股只有经过结构化处理之后，才能够在企业应用环境中发 挥作用；而在企业的经营活动中，产生的人量的数遇元法被结构化处埋，比如内部海量的会议免要、周报、季报，其中包含人量关十企业具休业务串项的分析和讨论；企业的人量的合司文 本、项目验收材料，其中包含有人量的交易细节；而在销售和客服人员与顾客的线上动义 本，其中也有一手的客户对产品和服务的反馈；再有，是企业产品的人量的用户手则、故障分衍文档、产品服务和支持技术资科等等，其中有丰富的技术支持所露的判识。 所有这些包含的非常有价值的信息和判知识，以征只能限于少数专象或管理者的随机及高数地利用。传统的数据处埋理和分析方法对这种结构化的文本数据无所适从。高价值的信息无法限有效提收，意味奢个业川能错失了率要的决费依害、市场润察和创案机会。 以大语言模型为代表的先进的自然语言处理技术的山现，预示誉这种情况开始发生变化。企业有可能利用这些创新技术来白动分析、归类和抽取这些非结构化数据中的关键判识，进而为决策者提供有力的支持。例如，通过自动分析销售和客服的交互文本，企业川以更准确地了 3 生成式AF企业应用落地技术白皮书 解客户的错求和不满，进步优化产品和服务。更进步，企业还可以利用这些技术结合知识图详技术，将分散企不同文档和系统中的信息接起来，形成个腾组织结构、跨业务领域、跨时间维度的企业大脑；为企业提供一个一体化的知识查询甚至咨询平。这样的平台将会成 为企业的超级销售助理、超级客服助理或者是留级管理理。生或式AI技术的出现，为企业数字化转型，注入了强大且更为直接的新动能。 不过，以上对生或式A1技术对数字化转型的推动的“推演”：可能还存在很人高限。如同早期的英国铁路，斯托克顿-达灵顿专线其实是在铁轨上跑马车，早期的菱汽机的一个主要应用场景是在枯水期将水引向高处蓄水池以帮叻驱动水车。 自前我们设超的生成式A的应用质累，也处下早期状态。生成式A技不为企业数字化转 型带来的会是更为根本的变年，即技术范式的改变（ParadigmShift）。我们借用技术的 （它）不是单独一个技术依的出现，而是新技术体引发的“重新从定”。新技术域对经济的影响也比单个技术对经济的影利要更深刻。作者认为，经济并不是采用（Adopl）了一个新的技术体，而是遵遇（Encounters）了一个新的技术体。经济对新的技术体的山现会作山反应， 它会改变活动方式、产业构成以及制度排，也就是说，经济会因新的技术体而改变白身的结 构。如果故变的结果足够重要，我们就会宣称发生了-场赋覆性改变。 生成式AI技术正在形成新的技术域定，它首先对应用软件开发产生了显菩影响。得益丁计算机程序设计语言的严格语法、清晰逻辑性和节见的二义性，生成式AI技术在代码生成和辅助编程方面的效果日益笑出。展望未来，软件开发的重心将更多地频向于需求分新和软件架构设计，而编码和代码质量审核的流程，将在先进的辅助编程工具的助力下，实现效率的飞跃 佳提升。在2017年，曾经是OpenAI创始成员和研究科学家，担任特斯拉技术总监的AndrejKarpathy就预见到了引入Al之后的新软件开发范式，他在端技大博客中提山了款件2.0的概 急。在软件1.0的模式下，山程序员设计软归解决间题的方法和细节逻辑，并通过编写显示指令 来实现这此逻短。而软件2.0是利用剂经网络自动完或软件的设计。本来人部分程序员无需编写夏杂的程序，维护复杂的软件库、或者分析它们的性能。他们只负责收案、清理、换作、打物签、分析和可视化为神经则络提供信息的数据即可。随若生成式A技术的快速送代，业界内正 在宜称“软工程3.0”时代的开启：AT重新定义了开发人员构建、维扩和收进应用软件的方 式，研发团队的主要任务而是以含有移域专业判识的语料（或图像、视赖）来训练或精调模 型、围绕业务主题设计提示模板（PromptTemplale）、探索最有效的智能体（Agent）机制等。 4 百会！ 解决问题的方 规示工程 特证工排 (: 解决问的方法软件工指 图1o(l:re1.0到3.0 台性的创新力量。应用会在价值和体验、安企和运营，架构和交付等方面发生深刻交单、从而催生山企业应用的大升级和人达代。而更快和更广泛的业务数宇化转型，则会产生更多的数据资产和应用场景，数字化转型的飞轮效也将应运而生。 为什么会有这篇白皮书 每一次投术的范式变苹部深刻地虽望广经济格局和社会结构，同时也佳牛出企业数宇化的新浪湖。价如，以2010年为分水收，移动互联图和智能手机的快速漫透为众多新新的应用提供 创新的上填。在此首景下，移动定位、身份绑定和移动支付等技术场景快速落地，为企业开辟了全新的移动获客渠道。不少企业敏锐地捕提到这趋势，纷纷推山小程序或打造移动应用平台，助力自身在激烈的市场竞争中快速而精准地获取用广、拓展市场地位。这不仅为企业和市场带来了前所术有的变单和机会，甚至形成了新的社会消费习慢。 由十对1一次的技术变苹带来的影响仍记忆犹新，使得这一轮人工智能的飞跃式进展所产 生的需越和影响更为强烈。不仅技大层面的CIO、CIDO和CTO表现出浓厚的兴趣，企业的各个 业务单元，包括CEO在内的高级决策层，几平都在第一时间启动了密切地关注与讨论。 5 生成式AF企业成用落地技术白皮书 而男方面，在这场山生成式A引领的技术式变年中，相关的准动力量从实验室快速走 到了公众具论中心。这些力量，不再仅仪局限于学术会设的探讨。行业实部公司、别创企业及各个研究团队，也在数字化的今天利用白操体平分和社区平台积极互动，并保持与主流媒的沟通，开源社区的贡献和风险投资的活跃参与，更是叻燃了这场技术单台，人量创新的想法都会快速落地实现、并成为资本追逐的日标。 人量的白媒休在这场热潮中成为了连接“医内”和公众的纽带，他们出速收集信息，并按 更易传措的方法拆解（或萨片化）信息，使其在短时间内成几何级效放大，触达更广泛的受众。 然而，这冲聚光灯下的创新展现，也给企业带来了乘题。在信息海量消入的时代，过多的信息反而形成了负担。企业在务力把握技术趋费、评估技术进展对自身业务的在影响下，在 注陷入信息过载的用境，这不仪无法快连做出决策，更可能导致企业而临选择困感，产生不必要的焦虑。而人量的粗粒度信息，也会对技术产生误解并不恰当的期望，这反而会阻碍早期的创新型尝试： 主与众多企业客户深人交流的过程中，我们深刻地认识到，对」当前的技术进展和客神盈用实践进行系统的梳理与小结是至美重要的。这不仪能为企业提供·个清晰的技术发展蓝图，同时也助于他们更好地了解趋势，指提潜在机会，进而制定更加科学、前赔性的战略计则。比外，这样的梳理还能推动行业间的交流与合作，为企业之间打造共靠的合作模式，加遵整个数子化转型领威问史新的阶价段发展 我们希望道过编据这篇白皮书》，能够起到“抛砖引玉”的效果，可发业界的讨论。我们热切划地期望生成式AT相关的反术提供者、应用解决方索的开发者、行业内的要客户，以及各大研究机构等，能够以这需占皮书为“肥子”进行深入的梳理和探过。我价更看望它能 成为企业客户和生成式AI技大落地实践者之间共识的起点，帮助人家登滑概念、分析当前的技术趋势，预测术来可能的发展方向。我们深知，单凭家之力难以提膜整个行业的脉搏，但是，通过美思广益，我们相信能够对这一领域产生更深入、更全面的了解。 任这当口皮书多中，我们旨在全面探索生成式A技术的进展学应用。后续内客将分别从 生成式AI的相关技术梳理、技术落地企业应用的略径、以及生态和监管这个维度展开：对相关技术梳理，将从生成式AI的六层技术生态的角度，思考和总结生成式AI技术在不同维度带来的技术创新和姚战：然片，找价将深人探案生成式A在落地企业中的实际应用，以及与现有业 务的整合和可能适到的挑成；最后，我们将讨论生成式AI在整个行业生态中的地位，伴随的伦 5 理考量，以及对应的监管理议和未来发展趋势。通过这二个章节，有望可以为读者提供清晰的技术发展蓝图，带时企业和研究者更好地理、应用并推动技术的健度发展，从而应对信息过鼓、股术误降杆创新尝试的桃战，止如我们征门书开需月还的背意机月的 并发式创新的复杂局面和企业应对的策略 生或式AI的企业应用落地，实上已经形成了基继计发、监管和安全、应用开发、企业 （或行业）影或数提就绪、企业能力就绪等多个领域并行探索的局面。上述额个额或既相互足进，叉相互制约，前在企业应用的实际环境中，又需要探索业务流程、使用习惯和技术落地之回的变通和粘合。例企业（或行业）程域数据就绪总末誉个业需要建立一套完整的数据管准和维护体系，来确保数据的质量、完整性和安全性，当人语言模型需要进行微调改适应特定 场景时，可以让速地获得高质量的训练数据。 们最为年要的是，牛成式A的基础技术研发还在快速进展之中，制的其任其实业务场景使用范因的问题：例如在移域知识框架内的对齐，包括幻觉消除，知识收效，以及上下文长度等，还在不断探索和解决之中。其中应用场景更为广阅的多模态人奠型技术，史是令人充满期待。 人采没有邸一个时客，使得企业在制定技不茂略时，需要理释如比复的技术趋势：平衡学虑如此多的不因索。从近期利客广的广泛之交流中，我们发现，一世非常旧得借装的策略已经成： 1、两个立即着手： ，立即膏手采用点状业务创案的片式：案率跟保股技术进展，深案安全和监管的边果购建： ·立即若手采用共创的方式：选择外部供应商和合作伙伴，为有可能到来的生成式AI的场景爆 发准备好强人的外投力量。 2、两个规划制定： ·私域知认治理规划：生战式AI技术助力企业数字化转型，无论如何都需要企业减知识的加持，部分企业曾经并展过数据治理工作，这为企业私或知识治理打下了很好的基础； ，牛成式A应用开发和管理