杨小东-华院认知智能引擎平台落地实践

华院认知智能引擎平台落地实践 Copyright©版权所有华院 关于华院丨企业介绍 华院愿景 让世界更智慧 华院使命 赋能企业数字化、智能化 华院计算技术（上海）股份有限公司（简称“华院计算”），成立于2002年，是中国认知智能技术的开拓者。公司以算法研究、算法创新和算法应用为核心：基于数学应用与计算技术发展，聚焦认知智能技术、创新自研底层算法；基于认知智能引擎平台的场景应用，为智能制造、社会治理、数字文旅、零售金融等行业提供AI+行业解决方案、实现全面赋能，从而推动行业智能化的转型和升级，让世界更智慧。 产业应用实验室 计算法学 计算社会学 智能配料 工业数字仿真虚拟数字人 认知智能研究中心 华院与上海市静安区人民政府签署了战略合作框架协议，联合高校进行共同课题研究和博士后人才培养，推进人工智能 相关基础研究和技术应用，服务国家人工智能科技战略，为上海市及静安区大数据、人工智能产业发展提供有力支撑！ 偏态学习小样本理解与推断 概率性知识图谱 意识图灵机 斯梅尔数学和计算研究院 美国科学院院士斯梅尔教授受邀担任研究院名誉主席。 -斯梅尔研究院有多位菲尔兹奖、沃尔夫奖、图灵奖的得主以及国内外科学院院士； -斯梅尔研究院联合了UC伯克利、密西根大学、斯坦福大学、卡内基梅隆大学、复旦大学、浙江大学、北京大学、山东大学等知名学府； 计算基础理论计算生物学非线性期望 表面监测 连铸质量预判智慧安全智能配煤 云展厅 交互式智能终端数智人视频生成数智人虚拟直播 教育 生物医药金融&零售基层社会治理 智能制造 AIGC 其他 产业应用X 小样本学习 认知智能引擎 多模态生成 知识与数据融合 垂直行业大模型 斯梅尔数学和计算研究院 认知智能研究中心 通用平台 算法实验室1 AI落地困境 算力 算力贵算力杂 场景 锦上添花价值感不强 模型能力 国产大模型能力差距 数据 私有化 责任 输出内容可控 华院认知智能引擎平台|驱动不同行业多场景应用落地的核心引擎 行业应用 质量预判数字人直播AIGC视频生成…… 缺陷检测 行业大脑 AIGC数字人 基层治理决策平台 分子药物筛选平台 工具集 工业大脑智能制造 通用能力 大模型 规划决策 多模态 知识融合 知识推理 知识表示 底层算法 小样本学习 多任务强化学习 意识图灵机 概念网络 特征融合 通用特征建模 鲁棒学习 通用序列预测 内驱力机制 概率知识图谱 特征对齐 不变特征提取 给谁用？ 产品形态？ 发展策略？ 算法工程师贡献弹药大B客户构建智算平台直接支撑场景应用 算法 产品 大B 。。。 小B -- 产品经理搜寻弹药 ---- 华院认知智能引擎平台|构建思路：单点切入，做深做透 特定元素解析强化复杂表格；流程图；音视频 文件调度、存储单个文件限制多大？多用户调度策略、文 件存储与带宽优化 角色设定 文件解析 文件类型全覆盖 向量化 纯中文场景、纯英文场景、中英夹杂场景下的Embedding模型选择 基底模型选择 如何选择基底模型，哪个好，为什么，凭什么；平衡效果与首字响应； 不同模型如何设定角色，角色遗忘咋办 检索策略 向量检索用啥index；混合检索； 以RAG为例 ConfidentialCopyright©UniDT.com10 基础 算力管理 能力 算法优势 数据 数据管理 链路 AI全链路 LLM 大模型 大脑 行业聚焦 屏蔽底层硬件感知 集成华院认知智能能力 数据集管理、数据权限管理 从开发、训练、部署到测试运维全链路 做到各类大模型开箱即用，快速落地 行业聚焦，深度赋能 异构算力管理 数据处理 模型版本与加密 用户任务公平调度 基底模型并行测试 基础设施用户数据IO基底模型选择 引擎平台 主要技术点 应急回滚策略 异构算力管理 数据处理 模型版本与安全 用户任务管理 基底模型 K8S GPU显存切分 国产卡兼容 多框架支持 •不同品牌、型号的显卡存在显著差异，需要针对任务需求，合理分配算力资源 模型大小版本对应 多格式支持表格解析加强版面理解 模型加密 多编码自动切换多语言支持 …… 文件 提示词优化 模型集成测试 模型统一管理 文件切块策略CFS调度 自适应优先级 运行报告评估 模型输出结果跟踪 推理Tokens限流输入文字 …… 加速技术资产积累 1 提升售前效率 2对内 模型快速复用加速 3 工业大脑 1 对外数字治理大脑 赋能 2 加速交付AIGC引擎 配料管理 智能配煤烧结配矿高炉配料 …… 质量管控 连铸质量预判与切割优化热轧带钢表面缺陷监测铜箔表面缺陷及针孔监测 …… 能源管理 加热炉智慧燃烧系统热轧生产线能源优化 …… 智慧安全 飞钢智能安全监控厂区智能安全巡检 …… 降低配料成本 提高产品质量预测闭环管理 成材率提高 降低轧线生产综合能耗 设备巡检及预测性维护 痛点解决方案成效 基于认知智能引擎的配煤模型 •难以精准预测焦炭质量 •生产成本高 •缺乏焦煤质量跟踪手段，不利于生产问题分析和溯源 •过于依赖配煤师经验，难以共享与传承 •缺乏自身特点的煤质评价方法和数据库，不利于科学用煤、购煤 基于大数据算法模型和认知智能的鲁棒学习算法、小样本学习、数据+知识融合进行配煤优化和焦炭质量精准预测，以成本和效益优先为指导进行资源配置，显著降低成本； 通过智能配煤来保证生产焦炭的质量，合理利用煤炭资源，节约高价值的炼焦煤资源，扩大炼焦煤资源，实现焦炭生产的保质增效； 焦炭质量预测配煤配比优化 提高配煤效率 稳定焦炭质量 优化配煤成本 智能配煤 成本预测 综合炉型优化 自学习 智能煤场 数据可视化煤焦对应 针对成品带钢的表⾯缺陷，情况如下： 产品表⾯质量图像采集和分析 ⼈⼯检查 人⼯判定 低效 基于认知智能引擎的热轧表面缺陷检测应用 通过摄像头获取产品的表⾯图像，采用机器视觉⾃主开发质检平台、检测表⾯缺陷，实现全⾃动⾼速的质量缺陷检测系统； 基于认知智能的小样本学习、数据+知识融合以及非公理化推理代替人工对棒线材、型钢等长材轧制过程中高温红钢的轧制状态进行实时监测，实现实时监控、智能识别、报警通知、设备联锁、历史追溯等功能以保障工厂生产安全管理。 实现全⾃动⾼精度的在线质检，并⽣成质检记录； 质检信息完整存档，可供追溯； 减少质检⼈员配置，降低⼈⼒成本； 精度根据数据集的完整性可达到98%以上。 痛点解决方案成效 落地场景 产品矩阵 通用能力 算法模型 电商/知识付费 虚拟主播虚拟老师虚拟客服 …… 银行/证券/保险 数字理财专员数字投顾专员数字保险代理人数字大堂经理 通用场景 虚拟员工展厅讲解员数字客服 虚拟培训对练 短视频生成平台 虚拟直播平台 交互式智能终端 数智人定制 数智人AIGC 数智人智能互动 分身与驱动引擎 对话交互引擎 多模态理解与表达引擎 大语言模型 创建分身 唇形驱动 ASR、TTS NLP 多模态融合表达，可控生成语言情绪/表情/肢体 知识增强语言模型KeLM RLHF 表情驱动 肢体驱动 对话框架 领域LLM 用户认知 个性化内容 …… 检索式增强RAG 指令微调SFT 虚拟理财顾问 虚拟主播 虚拟主持人 老年认知评估文化推广使 数字理财顾问 博主分身 法律大模型 喝了两斤白酒后开车可能会面临以下法律后果： 1.危险驾驶罪 2.行车证和驾驶证吊销 3.罚款4.... 综上所述，请勿酒后驾车。 法条库 《中华人民共和国宪法》 《中华人民共和国民法典》 …… 类案库 如果喝了两斤白酒后开车，会有什么后果？ 事实 增强 已知信息：危险驾驶罪是指在醉酒状态... 根据上述已知信息，回答用户的问题。 问题是：如果喝了两斤白酒后开车，会有什么后果？ 指令微调数据100k条指令 20种司法子任务 多轮指令-回答对 逻辑 学习 3189部法律 50504部法规司法解释 知识 注入 中文司法知识数据40G 《最高人民法院、最高人民检察院、公安部关于办理醉酒驾驶机动车刑事案件适用法律若干问题的意见》 知识库 自研法律大模型 基座模型 预训练 指令微调 通过对各类数据进行分析，从“人”“事”2个层面，开展监测预报、事前预警、事中评价、事后评估等智能化应用和服务 建立“感知—研判—预警—应对—督查”的全闭环流程，实现信访管理的“智能辅助” 认知算法 模型 概率性知识图谱 NLP算 法模型 热点问题自动标签模型 人格内驱力分析模型 通用特征表示模型 智能法条搜索模型 相似案例推荐模型 视频算法模型 识别模型 异常时间点预警模型 行人检测模型 行人重识别模型 预警/预测及风控算法模型 信访事件预警模型 信访事件数量预测模型 信访人风险预警模型 ConfidentialCopyright©UniDT.com22 要素提取栏目 调解协议预览 数据层 数据清洗 数据采集整合 其它实验数据集 蛋白-蛋白相互作用数据库 蛋白质结构数据库 数据质量检查修 复 基因序列数据库 华院计算认知智能引擎|落地实践：支撑药物筛选 •基于大量公开和私有的蛋白质结构和复杂结构数据，利用认知智能引擎专有的小样本学习技术、通用特征表示方法、基于博弈论的极大极小鲁棒算法。 应用层 多肽类药物 小分子药物 抗体药物 生物学医学实验验证 作用于靶点的候选药物 蛋白质三维结构预测 蛋白结合区域建模 分子对接计算 分子动力学模拟 AI引擎层 小样本学习算法 迁移学习算法 深度学习算法 数据特征提取 序列向量化 模型集成 •结合分子对接和分子动力学模拟，构建了一个基于人工智能的多肽药物、小分子化合物和其他药物筛选平台。该平台提供了一系列算法和应用场景，包括蛋白质三维结构预测、蛋白质结合位点建模、分子对接计算、分子动力学模拟等。 目标靶点（蛋白质受体）基础科学研究 谢谢！ 华院计算技术（上海）股份有限公司 上海·北京·杭州·成都·西安·南昌 地址·上海市静安区万荣路1268号云立方大厦A座9楼电话·021-63617288传真·021-63617299 网址·www.UniDT.com