2024年数字电网人工智能系统操作行为评估

Operationl BehaviorEvaluationforAlSystem in Digital Power Grid 演讲者李洁珊 人工智能蓬勃发展带来的风险思考 国际标准化组织/国际电工委员会的第一联合技术委员会（ISOIECJTC1) 联合国报告《GoverningAlforHumanity》(2023) 经济合作与发展组织（OECD） 随着越来越多的互动以人工智能为媒介，人们对无法操作或无法控制的人工智能表示担忧，包括它可能对人类的生存构成威胁。 ·相关数据显示，截至2023年12月全球范围内明确记录在案的AI风险事件超过495起。这其中，包括： ·2024年1月以来，ISO/IEC等国际标准化组织发布人工智能相关国际标准33项。 V美国ChatGPT出售私人个人数据事件√俄罗斯国际象棋机器人伤人事件V杭州AI人脸互换侵权事件 ·美日等发达国家将人工智能带来的歧视、不平等、数字鸿沟和排斥视为技术结果，并将“政策制定者”作为技术领域“最高权威”人工智能发展的政治风险值得关注。 ·尽管人工智能遍及全球，但风险治理仍然是地域性和分散的。 ·发展AI的重要任务是在全球范围内营造良好的AI生态系统，确保对所有参与者负责。 因此，采取必要措施对AI技术应用可能引发的风险进行防范是必然的，也是必要的。 生成式人工智能在数字电网建设中的潜在风险 生成式人工智能在感知、认知、模仿、生成等方面具有巨大潜力，利用人工智能技术实现电力系统的智能态势感知与智慧调度决策，降低电网运行的波动性与不确定性，对推进数字电网和新型能源体系建设具有重要作用 但是，具备深度神经网络结构的天模型所存在的一个必然的问题，就是其深度判断逻辑的可解释能力不足，难以对模型的训练过程和推理结果进行有效的跟踪和解释。以大模型技术为代表的新一代强AI是否能对人类的客观需求提出可靠的台理的、符合自然逻辑思维的反馈值得关注，其合成内容在事实性、时效性等方面缺少通用有效的评价和校验机制。 电网运行对人工智能模型可控与可信决策方面要求极高，对模型计算错误的容忍度极低，复杂电力场景应用过程中出现偏离实际工况的“幻觉”判断，存在应用的困难和潜在的风险。 强AI复杂性来自其独立意志！ 应对风险的思考与解决建议 联合国报告《GoverningAIforHumanity》(2023) 中国《全球人工智能治理倡议》 欧盟《人工智能法案》(2023) ·在世界和平与发展面临多元挑战的背景下，各国应秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重的原则，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，促进人工智能技术造福于人类，推动构建人类命运共同体。 根据适当的技术手段和方法，包括指标和基准，对其影响能力进行评估 ·团结科学家解决社会挑战，成为利用人工智能潜力造福人类的关键推动因素。 ·根据反映先进技术水平的标准化协议和工具进行模型评估，以识别和降低系统性风险。 ·开展公平、准入和预防伤害等方面评估，并对人工智能技术本身的性质采取预评估或干预措施。 ·在技术方面，治理工作的重点是数据、模型、基准或评估。 美国《国家人工智能研发战略计划》(2023) ·建立人工智能风险等级测试评估体系，提升这项技术的安全性、可靠性、可控性、公平性。 ·利用标准和基准衡量评估人工智能系统，使人工智能更易使用、更可靠。 企业人工智能评估实践案例 实践方面：完善企业人工智能评估及决策容错机制，开展多学科合作，引入法学、哲学、管理学等多个方面专家，提升人工智能风险外部监督水平；通过技术创新和技术能力升级提升个人隐私的保护力度、算法可解释性、模型可靠性。 人工智能系统操作行为评估模型 思维特征模拟保真度 行为安全性 考量AI系统模拟人类思维时，在目的性、连贯性和逻辑性等方面的表现。 评估AI系统行为对电网安全以及人员安全的潜在影响程度。 社会价值标准考量AI系统的行为是否与社会价值要求相契合。 行为协调性 用于评估AI系统在执行任务时动作的协调程度。 情绪感受度 行为可控性 评估AI系统模拟人类情绪感受的能力，体现系统对外部环境和交互情况的情绪响应程度差异。 聚焦于AI系统受外部控制的程度以及自身所具备的自我修复、自我优化和自我保护等能力。 群体均衡发展度 行为可解释性 关注AI系统对人类群体均衡发展的影响程度。 衡量AI系统行为的目的、过程以及具体操作可被解释清晰程度。 一个值得思考问题 What is the significance of conducting researchon technologies? 开展前沿技术研究的意义是什么？ 5月27日，我收到了中东专家一封告别信，信中除了阐述她因返回故土无法继续参加技术研讨的歉意外，还包含了对战乱的悲伤。 作为朋友，我们都回复了这封邮件。俄国专家字里行间透露着气愤，韩国专家的文字里充满同情。但身为中国专家，和气愤与同情相比，我更真切的情绪却是感同身受。 百年前，中国也曾在战火中挣扎一一国弊民穷，山河破碎,连孩子在废墟中的呼救都无人回应。战乱不是好东西，零和博奔也不是良策，只有共同发展，才能促进长久的和平。 因为淋过雨，所以愿意为你打伞；因为跌倒过，所以愿意向你伸出双手。我们欢迎国内外专家学者、各行业科研人员一起合作，共同开展开放、公平、公正的国际科技合作，形成越来越多的科技综合解决方案 为应对全球重大挑战和人类社会可持续发展难题贡献一份力，防止“技术殖民”的发生，守护住孩子们的笑容，守护住来之不易的安定与和平！ 以知致远，以智赋能谢谢！