安全产业研究2024年第1期（总第56期）：我国“人工智能 安全生产”发展趋势研究

研 安全产业究 赛迪研究院主办 2024年3月25日 第1期 总第56期 本期主题 □我国“人工智能+安全生产”发展趋势研究 『所长导读』 安全是发展的保障，发展是安全的目的。2024年3月，我国《政府工作报告》首次提出要开展“人工智能+”行动，我国工业生产方式即将迎来新的变革机遇，对安全生产工作提出了更高的保障要求。在“人工智能+安全生产”领域，部分政企已经开展了先行先试，取得了良好成效。未来“人工智能+安全生产”有望成为安全生产发展的重要方向。 本期主题文章为《我国“人工智能+安全生产”发展趋势研究》。文章分析了我国“人工智能+安全生产”发展现状，选取了典型案例体现“人工智能+安全生产”发展成效，分析了“人工智能+安全生产”发展态势，并就促进“人工智能+安全生产”落地提出了对策建议。 本期内容由程明睿、许越凡承担了主要研究工作，不足之处欢迎业界批评和指正。 赛迪研究院安全产业所所长袁晓庆 2024年3月25日 目录 CONTENTS 本期主题：我国“人工智能+安全生产”发展趋势研究 一、我国“人工智能+安全生产”发展现状…1 （一）“人工智能+安全生产”的重要意义…1 （二）“人工智能+”促进传统安全生产体系改革…3 （三）“人工智能+安全生产”相关政策…5 （四）三类主体推进“人工智能+安全生产”落地6 二、“人工智能+安全生产”典型案例分析…7 （一）某工业互联网企业智慧安全管理解决方案及应用实例…7 （二）某工业互联网企业安全生产智能应用平台及应用实例9 （三）某企业矿山大模型产品及应用实例…12 三、“人工智能+安全生产”发展态势…13 四、促进“人工智能+安全生产”落地的对策建议…15 本期主题：我国“人工智能+安全生产”发展趋势研究 本期主题： 我国“人工智能+安全生产”发展趋势研究 一、我国“人工智能+安全生产”发展现状 我国历来重视安全生产工作，重视新技术、新装备和新工艺在安全生产领域中的应用。自2015年以来，工业和信息化部和原国家安全监管总局发布了系列《推广先进安全技术装备目录》，在安全生产领域大力推广先进安全技术装备；2023年9月，工业和信息化部等五部委印发了《安全应急装备重点领域发展行动计划（2023－2025年）》，明确提出要“推动5G、人工智能、机器人、北斗、新材料等在安全应急装备领域的集成应用及规模应用，遴选具有技术先进性、应用实效性、模式创新性、示范带动性的技术成果转化项目，开展试点示范”。人工智能作为有望实现生产力变革的关键基础技术，已在安全生产部分垂直领域实现了初步 实践，并成为了安全生产工作未来的主要发展方向。 （一）“人工智能+安全生产” 的重要意义 “人工智能+安全生产”是提升工业安全生产水平的重要路径。人工智能的介入为安全生产管理模式、技术装备、响应流程的全方位变革提供了宝贵机遇。安全生产的管理主要针对人的不安全行为和物的不安全状态，这两个因素是造成安全事故发生的主要因素。通过人工智能算法训练，人工智能能够吸收安全生产标准规范和实操数据、总结垂直行业安全生产经验，并以直接管理、辅助决策等方式介入工艺流程和安全生产监管工作。在“物”的层面，人工智能能够分析装备状态、工艺流程、安全生产环境等存在的风险隐患，对存在“不安全状态”的内容如装备维护周期、 《安全产业研究》2024年第1期1 专业就是实力精准就是品牌 工艺本质安全水平、安全生产环境风险隐患因素等进行预测和管理，从根本上降低或消除物的不安全状态。在“人”的层面，一方面，人工智能能够通过辅助决策、优化工艺流程等方式，减少人做出错误决策的几率，降低人与风险源的接触时长，或将操作人员与风险源隔离开来，从多种角度降低人的不安全行为对生产环境的影响和对人自身的伤害；另一方面，人工智能能够通过提升自动化、无人化系统生产效能，提升自动化、无人化生产模式的经济效益，从而推动自动化、无人化生产模式的产业化应用，将人从具有危险源的生产环境中彻底解放出来，将人的不安全行为从生产环境中剔除出去。 “人工智能+安全生产”是培育新质生产力的重要内容。2024年1月31日，习近平总书记在中共中央政治局第十一次集体学习时强调，要加快发展新质生产力，扎实推进高质量发展。新质生产力包括新型劳动者、新型劳动工具和新型劳动对象，人工智能作为新质生产力的发展引擎，不但是推动新质生 产力发展的核心动力，也深入参与了新质生产力的各个要素中，促使生产力的要素产生了质的变化，也为安全生产工作提出了新的要求。新型劳动者是新质生产力的主体，新型劳动者能够有效适应数字化、智能化的生产方式，了解人工智能的运作原理和数据需求，能够熟练使用或持续创造人工智能等新型生产工具，使自身从重复性工作中解放出来，将精力投入到创造性工作中。新型劳动工具是新质生产力发展进程的重要标志，是新质生产力的体现和主要载体，其中人工智能不但是一种先进的新型劳动工具，也是整合新型劳动工具、构建新质生产力的重要技术手段。新型劳动对象是新质生产力发展的新“原料”，主要形式为数据、知识和服务等，它不但是人工智能训练的基础和运作的核心，也是新质生产力下生产模式实现数字化、智能化转型的必备要素。在安全生产层面，新型劳动者的产生对安全生产保障工作提出了更高要求，数据等新型劳动对象的发展为安全生产保障工作提出了新思路和新挑战。人工智 2《安全产业研究》2024年第1期 本期主题：我国“人工智能+安全生产”发展趋势研究 能作为新型劳动工具的重要组成部分，也是实现新质生产力带来新型保障要求的重要技术手段。人工智能以模型为核心、数据为基础，能够有效响应新型劳动者优化工艺本质安全水平、提升安全隐患排查治理能力、增强安全生产培训信息化水平、实现安全生产预案和隐患台账的信息化管理等多样化需求，最终实现安全生产全流程的信息化管理，并以此提升生产流程的本质安全水平和应急响应能力。 “人工智能+安全生产”是推动安全生产智能化发展的新阶段。安全生产工作人命关天，可靠、实时、精确、高效、全覆盖是安全生产管理工作永恒的主题。随着人工智能大模型的发展，场景模型批量式孵化成为现实，人工智能小模型在各类安全生产场景中的广泛应用成为可能，实时、高效、全覆盖式的人工智能应用在安全生产领域快速铺开。然而，“可靠”和“精确”仍然是“人工智能+”在安全生产领域实现深层次、大规模应用所必须解决的问题。目前，大模型性能的提升水平超过了人们对大模型的 理解能力，大模型可解释性技术的发展速度难以追赶“人工智能+”在工业领域的应用速度，而在安全生产工作中，人们必须了解大模型的能力、局限性和潜在缺陷，从而对大模型给出的结果进行评估，防止风险隐患错报、漏报的产生。“人工智能+”有望助力工业领域大幅度提质增效，以人力为主的传统安全生产管理范式将难以满足“人工智能+”下的工业管理要求，需求侧将倒逼大模型可解释技术快速发展，为“人工智能+”在安全生产领域的深度应用提供丰富的市场需求和广阔的发展前景。 （二）“人工智能+”促进传统安全生产体系改革 “人工智能+”在安全生产领域的应用，对以“党政同责、一岗双责”的行业安全生产管理结构进行了全新解读，对于安全生产三级管理体系的每一层级都提供了全新的解决方案。以工业大模型为核心的“人工智能+”，与安全生产的三级管理体系深度融合，形成了“人工智能+安全生产”的总体架构。依据安全生产管理主体的规模， 《安全产业研究》2024年第1期3 专业就是实力精准就是品牌 安全生产三级管理体系可以是集团级、地区公司级和项目级，也可以是厂部级、车间级、班组级等等，依据体系各级管理内容的不同，总的来讲可以大致分为高层、中层和基层。 安全生产管理的基层是安全生产工作的一线，是高层所制定安全生产规章制度的具体实施者。安全生产管理的基层主要负责进行现场安全生产工作，在“人工智能+”的视角下，安全生产管理的基层是新型安全生产管理模式和技术装备应用的一线，是“人工智能+安全生产”中人工智能载体、具身智能装备的主要应用方，也是工业安全生产数据的主要来源。从人工智能大模型应用的视角看，端侧应用在基层较为常见，主要通过在端侧进行模型推理和模型微调，实现设备安全隐患自主排查、产品质量控制、人的不安全行为监控（如吸烟、未按规定佩戴安全帽）等功能。 安全生产管理的中层是基层生产工作的管理者和高层所制定安全生产规章制度的执行者。在生产过程中，中层负责统筹基层同类场景 的生产工作，并将自身强专业性与适当的管理权限结合起来，实现专业化高效生产。在“管行业管安全”的要求下，中层对基层负有管理责任，中层长期积累了众多基层场景生产管理经验，能够在安全生产领域发挥有效作用。在“人工智能+”的视角下，安全生产管理的中层是安全生产信息的中转站，它不仅能够存储、整理基层收集的安全生产信息，还能够依托中层的专业能力将其进行筛选、清洗和加工，形成供高层参考的高质量信息。从人工智能大模型应用的视角看，边缘侧应用在中层较为常见，由训推一体机训练的行业大模型专业性强，一是能够通过“人工智能+专家系统”等方式打开行业关键工艺流程“黑盒”，从而实现工艺流程安全隐患深度理解和精确管理；二是能够通过模型的迁移能力，对同类安全生产场景进行快速建模，从而实现新项目、新产线等同类安全生产专业领域下新场景的迁移管理。 安全生产的高层是安全生产规章制度的制定者和执行者。高层主要负责制定安全生产责任主体的规 4《安全产业研究》2024年第1期 本期主题：我国“人工智能+安全生产”发展趋势研究 章制度，承担安全生产主体责任，并指导和督促中层落实规章制度、开展教育培训等。在制度制定方面，高层主要负责安全生产责任制、安全生产组织管理制度、安全生产培训和教育制度、安全生产预案等的制定。在“人工智能+”的视角下，安全生产管理的高层是安全生产信息的终点与人工智能应用的起点：一方面，安全生产管理的高层是安全生产主体产生全部安全生产信息的“终点”，安全生产信息经过基层的采集整理和中层的梳理归纳，最终到达高层进行汇总，形成数据集、知识库等，为“人工智能+”的本地化应用提供数据基础；另一方面，安全生产管理的高层可调用的资源最为丰富，是“人工智能+”应用的起点，部分集团、工厂等高层或拥有工业大模型训练能力、或拥有人工智能算法应用能力、或可以购买人工智能服务，以人工智能为核心开展顶层设计，由上而下实现“人工智能+”与安全生产的深度结合。 （三）“人工智能+安全生产”相关政策 安全生产人命关天，当前以大模型为发展方向的人工智能应用还处于初级阶段，“人工智能+安全生产”尚处于探索中，部分城市率先提出要在安全生产领域尝试开展人工智能应用。深圳市在“人工智能+安全生产”推广应用的政策部署中处于前列。2023年5月，深圳市印发了《加快推动人工智能高质量发展高水平应用行动方案 （2023-2024年）》，提出要推进“城市治理＋AI”，在消防监管、建筑施工安全等领域，开展图像识别、视频分析、监测预警等人工智能应用；提出要推进“千行百业 ＋AI”，推动人工智能在设备故障检测和故障诊断等制造业领域的应用。深圳市对“人工智能+安全生产”应用推广进行了初步探索，其主推的图像识别、视频分析、监测预警等应用为传统的AI视觉应用，是目前发展较为成熟的技术；而设备故障检测和故障诊断等则为知识库应用，其实现形式由易到难，为知识库、专家系统、大模型外挂知 《安全产业研究》2024年第1期5 专业就是实力精准就是品牌 识库等，都属于研究进展较为顺利、已出现多个成熟案例的人工智能大模型应用。 我国直接鼓励“人工智能+安全生产”的政策较少，目前主要应用模式还以“工业互联网+安全生产”为主，人工智能在其中只起到工具作用。2020年10月，工业和信息化部和应急管理部印发《“工业互联网+安全生产”行动计划 （2021-2023年）》，对工业互联网与安全生产的结合方式进行了详细说明，明确了开展“工业互联网 +安全生产”所需的四大重点任务和五项保障措施，其中提到要开展试点应用