2024年05月 AIGC引领保险数智化变革 李立新华三集团高级副总裁、首席科学家 CONTENTS 录 目01 02 03 人工智能发展趋势和保险适用场景新华三能力集 新华三落地实践 人间一日,AI十年,大模型技术日新月异 2022.11 ◦ChatGPT ◦大语言模型进入公众视野 ◦开启人工智能Iphone时刻 2023.2 ◦LLaMA开源: ◦开源生态的反击,大多数公司的“自研”有了基础 2023.4 ◦斯坦福小镇论文-AIAgent: ◦硅基文明的无限可能性:使用工具、协作和决策能力的首次实验 2023.11 ◦GPTs+AssistantsAPI: ◦初级Agent形态与GPT生态构建 2024.2 ◦英伟达ChatwithRTX发布: ◦端上智能的曙光 2023.2 ◦ControlNet提出: ◦AI生图控制基础,文生图成为真正的生产力工具 2023.3 ◦GPT-4上线: ◦“与AGI的第一次接触”,人类开始看到“世界模型”的影子 2023.9 ◦Mistral-7B,Mixtral-8x7B开源:模型小型化的里程碑,打平超越GPT-3.5(175B) 2023.12 ◦GoogleGemini系列发布: ◦OpenAI对手开始出牌,竞争正式加速升级 2024.2 ◦OpenAISora发布: ◦视频生成代际跃迁,再次证明AGI相对“窄AI”的代际优越性;虚拟现实成为可能 大模型及应用成为知识沉淀的最佳载体 •行业数字化转型路径明晰,“IP化-云化-数据化”为主线,智能化贯穿始终 •数据平台建设解决了数据使用问题,但没有解决知识沉淀问题 •下一阶段,“数据化-知识化-自主化” 数据化 知识化 大模型建设 自主化 基于大模型的反应系统 (LLMbasedARS) autonomicresponsesystem 数字原生 IP化 网络建设 设备互联全IP化 软件定义网络 网络即服务NaaS 云化 云平台建设 (Cloud) 业务上云 云原生 数据平台建设 (DataLake/warehouse) 数据入湖 数据集成 数据分析 数据资产 数据服务 (MultimodalLLM) AI算法 AI使能基础设施 公域大模型 预训练基座大模型 垂直领域私域大模型 能力集成行动系统 自主策略制定 自主任务执行 自主评估优化 AIGC在金融行业的应用场景 保险产品智能配置 智能代码生成、智能运营、知识管理、人力管理、智能培训、文档处理…… 后台 中台 智慧风控、反欺诈、安全服务、自助分析、智能知识库…… 大模型相关金融的应用场景 前台通用金融场景 前台专用金融场景 银行保险证券智能征信智能核保智能投行贷款催收智能理赔智能资讯 ……………… 智能客服、智能投顾、智慧营销、智能助手、客户获取、客户维护、客户跟进、智能话术、智能投研、金融数字人…… 保险客服 代理人销售支持 事前预防减损 防欺诈 智能定损 智能理赔 车险定价 代码生成 参考财通证券《保险+AI深度报告》 CONTENTS 录 目01 02 03 人工智能发展趋势和保险适用场景新华三能力集 新华三落地实践 新华三AI全栈解决方案能力布局 20年深耕积累 激活数据要素价值 绿洲 数据平台3.0 多元异构算力调度 傲飞 AI算力平台 AI助手(LinSeerCopilot)大模型使能平台(LinSeerHub) 百业灵犀大模型 (LinSeerLLM/CV/多模态) 新华三私域大模型全栈能力,一站式应用部署 CloudOS7.0 紫鸾云平台 CloudOS5.0 云平台 CloudOS3.0 云平台 CloudOS 云平台 绿洲 数据平台2.0 绿洲 数据平台1.0 新华三具备AI全栈解决方案能力 AIINALL NAS/超融合/大数据存储 数据化 云化 IP化 交换机路由器 SDN 商用/国产化CPU服务器 2003 2013 2016 2018 2023 华为3com成立 云计算产品线成立 新华三集团成立 AI研究院成立 百业灵犀大模型发布 布局IP化 启动云化布局 启动数据化布局 启动AI布局 具备AI全栈能力 7 全闪/混闪存储 高性能 AIGPU服务器 国产化GPU服务器 海量分布式存储 并行文件存储 算力集群 高品质 全栈 液冷 突破 RoCE网络IB网络800G交换机能效 100G/200G网络 网络连接RDMA无损网络200G/400G/800G瓶颈 新华三智算战略 AIinALL 让新华三产品和解决方案更智能 AIforALL 赋能百行百业,让我们的客户更智慧 “1”百业灵犀私域大模型 行业专注、区域专属、数据专有、价值专享 “N”优选生态大模型 基于行业数据与应用场景的大模型定制化和解决方案能 力政企联动、生态聚集、打造产业新高地 算力联接 算力多元化联接标准化 充分发挥算力和联接双基石的乘数效应 支撑从模型到 基础设施一站式应用部署 保险行业智能化应用 新华三保险智算解决方案 代码生成 智能客服 内容生成 智能知识库 百业灵犀AI助手 LinSeerCopilot 智能核保 智能理赔 智能风控 智能投研 大模型服务 大模型使能平台 推理服务 大模型评估 微调服务 预训练服务 提示词工程 数据要素提供大模型服务 统一的数据共享平台,支持行业 傲飞算力平台 数据标注算法开发模型训练应用推理 调度优化模型仓库资源监控工程化 绿洲数据平台 数据采集数据治理数据开发数据服务 数据安全数据管理湖仓一体可视化 供给 数据数据要素统一治理和管理 云平台 VPC虚拟机容器裸金属云存储EIP…… 算力基础设施 异构算力 GPUCPUASIC 海量存储 对象文件 分布式并行文件 无损网络 数据采集智能调优CT设备IT设备 主动安全 安全感知数据安全网络安全应用安全 算力、存力、运力协同感知的高性能计算集群 符合国家“双碳战略”的零碳绿色算力中心 零碳数据中心 液冷散热绿色供电高效节能智能可靠 百业灵犀大模型,提供专业、灵活、安全、高效的能力 专业 数十年行业客户理解,十数个行业客户数据,训练出贴合行业场景的通用底座模型 灵活 提供百亿及数百亿的两个模型版本,并通过DMOE技术实现千亿乃至万亿模型的支持,提供灵活的模型选择 安全 去除不合规的原始训练语料,采用行业场景的训练数据,从模型层面保证合规性 “通识”为基,“四专”为用,深度贴合行业场景 高效 单卡完成模型推理部署,既能够满足数十人并发需求,支撑数百人日常使用,极大降低模型部署和使用成本 更高效 应用层 AI助手 运营商 企业 教育 医疗 政府 大模型使能平台(LinSeerHub)让你用好大模型 •模型灵活集成 更灵活 更 简单 大模型使能平台 模型集成 评估优化 推理服务 多模型管理 行业适配 插件服务 知识库 提示词工程 内容安全 答案侧防护 模型侧防护 问题侧防护 自动智能 自动任务分解 应用管理 服务编排 生态伙伴 + 新华三 •流程自动智能 •能力无限拓展 更安全 模型层工具&框架层算力基础设施层 •行业专属适配 •安全多重保障 大模型一站式服务平台,集成AI助手,帮助行业客户用好大模型,快捷构建智能应用,实现“模型使用自由” 使能平台产品原理:驱动大模型,赋予应用智能 AI助手 大模型使能平台LinSeerHub 推理平台 请你请根据我提供的文件,汇总提炼其中第三章节的内容,要求 内容提炼到300字,并将结果以PDF的形式 大模型 模型选择/model-select 反馈。 Ⅰ任务计划 提示词工程 任务拆解 CV 大模型 NLP 跨模态大模型 xxx.word xxx.pdf Ⅱ任务执行 Ⅲ模型推理 第三章节的内容概括如下: 保险合同第三章的主要内容为:xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx。我已根据提炼内容创建文件“xxx.pdf”请点击下载。 分布式推理/distributed-reasoning Ⅳ响应生成 插件库 Ⅲ插件调用 向导化 图形化 开放化 工程化 一站式工程化套件实现AIGC落地应用 数据处理 算法开发 模型训练/微调 模型管理 部署推理 大模型使能 •全维度数据管理 •多样化数据处理 •交互式建模 •拖拽式建模 •分布式训练 •大模型微调 •大模型训练调优 •可视化监控评估 •基于质量管理 •基于精度、类型 管理 •云边端推理 •云边端部署 •知识库 •向量库 •能力集成 •数据安全审计 向导式+图形化降低AIGC门槛,开放性+工程化加速AIGC落地 金融国产化AI算力建设 新华三金融AI算力中枢,整合产业软硬件多元、开放生态 GPU虚拟化\Docker Kubernetes调度 人工智能计算业务 统一资源管理、作业调度层 天数iX 计算框架 寒武纪Neuw are 软件栈 算法、应用基础开发框架 驱动、编译、加速库 AI芯片 场景算法 大模型 Llama 、智谱、百度文心、阿里通义千问、百川…… ResNet GNMT Kaldi … 算力资源 适配多软件生态 开发框架 一流科技OneFlow … 低时延 无损网络 商业计算池 AI集群 国产化计算池 异 构算力基础平台 AI 计算 昆仑芯 XRE 软件栈 昆仑芯 BI/MR … 高性能集群存储池 基础计算 商业化AI算力技术栈 国产化算力技术栈 MI300 AMD Gaudi2 Intlel MLU 百度PaddlePaddle CPU(海光、鲲鹏、飞腾) CPU(Intel、AMD) 阿里龙蜥 统信UOS 中标麒麟 …Windows CentOS Ubuntu NvidiaGPU DCU AMDROCm 软件栈 IntelOneAPI软件栈 NvidiaCUDA-XAI生态 (CUDA、加速库、函数库) 海光 DTK 软件栈 MXNet Pytorch Caffe Tensorflow 旷视天元 Mega Engine 操作系统逻辑计算 保险行业AI赋能场景落地路径 建设AIGC前,应先进行自身业务分析并选择场景,依此确定技术方案及场景生态 选择合作生态 选择试点场景 构建初步方案与落地路线图 总结业务痛点与需求 理清业务流程与数据资产 自身战略分析 代码生成 承保核保核赔 AI客服赋能 智能营销 投研投顾 办公助理 阶段一阶段二阶段三小规模算力基础设施中规模算力基础设施金融智算中心 智能保险文档生成 AIGC智能运维 数字人客服 智能客服 智能投研 智能知识库问答 场景应用 CONTENTS 录 目01 02 03 人工智能发展趋势和保险适用场景新华三能力集 新华三落地实践 某头部保险机构金融大模型组网方案总结 AIGC金融大模型 平安科技金融大模型 项目采用新华三大模型整 体硬件解决方案项目,采 用了多项前沿技术。 金融行业大模型ICT基础设施解决方案落地保险头部客户 智能无损网络解决方案首次在金融行业 大模型中应用 AI大模型专有网络Hash算法全行业首次落地验证 AI大模型中RoCEVXLAN进行 租户隔离首次落地验证 无损以太网 SDN租户隔离 LBN算法应用 RDMA可视化