研报主要内容总结
1. 人工智能蓬勃发展带来的风险
- 全球风险事件：截至2023年12月，全球记录了495起AI风险事件，其中涉及美国、俄罗斯等国家。
- 主要风险：包括技术歧视、不平等、数字鸿沟、隐私侵犯、误判等。
2. 生成式人工智能在数字电网建设中的潜在风险
- 优势：提高电力系统智能感知与决策能力，降低运行波动。
- 风险：深度神经网络的可解释性不足，模型计算错误可能导致“幻觉”判断，增加应用难度。
3. 应对风险的思考与解决建议
- 国际合作：倡导共同、综合、可持续的安全观，通过对话与合作达成共识。
- 技术手段：建立风险等级测试评估体系，利用标准和基准进行模型评估。
- 法律框架：参考欧盟《人工智能法案》、中国《全球人工智能治理倡议》等。
4. 企业人工智能评估实践案例
- 南方电网：完善企业人工智能评估及决策容错机制，提升隐私保护和算法可解释性。
- 其他公司：阿里巴巴、华为、滴滴出行、百度、谷歌等企业也在积极探索。
5. 人工智能系统操作行为评估模型
- 评估维度：包括思维特征模拟保真度、行为安全性、行为协调性、行为可控性、行为可解释性、情绪感受度、群体均衡发展度。
- 评估级别：从I级到V级，不同级别对应不同的行为表现和风险程度。
6. 结论与展望
- 意义：开展前沿技术研究有助于解决全球重大挑战，促进人类社会可持续发展。
- 呼吁：欢迎国内外专家学者共同开展国际科技合作，为全球和平与发展贡献力量。
通过上述总结，可以清晰地了解南方电网在人工智能领域的研究进展及其面临的挑战，并了解到全球范围内对于人工智能风险的共同关注和应对策略。
