行业研究公司研究宏观策略财报招股书会议纪要 Token 低空经济十五五 AIGC 大模型

AI韧性：AI安全的革命性基准模型

信息技术 2024-12-16 CSA GCR 李艺华🌸

人工智能治理与合规研究报告总结

1. 基本理论

治理与合规：治理是指对某一事物的监督和控制，确保企业遵守业务行为准则中的法规、道德原则和标准。合规则是自下而上的执行，确保员工遵守治理框架。关键要点包括：
- 人类监督：确保人工智能系统受到人类的监督和控制，建立人工干预机制。
- 安全性和可靠性：优先考虑技术的安全性和可靠性，进行严格测试和风险评估。
- 伦理考虑：确保人工智能遵守道德原则，尊重人权和促进公平。
- 数据隐私和安全：实施数据保护和安全措施，采用隐私设计和安全设计原则。
- 鲁棒性：开发能够抵御对抗性攻击和数据扰动的人工智能模型。
- 法规遵从：确保开发和部署遵守相关法律法规和标准。

2. 人工智能概览

人工智能简史：从1956年的达特茅斯会议到现代的大型语言模型，人工智能经历了多次飞跃。
- 2018年，谷歌推出了BERT模型，极大地提高了语言理解能力。
- 2019年，出现了15亿参数的GPT-2模型。
- 2020年，出现了大规模语言模型，参数量从1750亿到5300亿。
- 2021年，参数量高达一万亿的大型语言模型出现。
- 2022年，ChatGPT-3成为公众关注的焦点。
人工智能技术：主要包括机器学习（ML）、微型机器学习（tinyML）、深度学习（DL）、生成式人工智能（GenAI）和通用人工智能（AGI）。
- 机器学习（ML）：利用数据和算法模仿人类学习过程。
- 微型机器学习（tinyML）：在低功耗设备上执行数据分析。
- 深度学习（DL）：利用神经网络处理复杂模式。
- 生成式人工智能（GenAI）：生成统计上可能的输出结果。
- 通用人工智能（AGI）：具有与人类相同或更高智能水平的理论形式。
训练方法：包括监督学习、无监督学习、强化学习、半监督学习、自监督学习和联邦学习。
- 监督学习：利用标记数据训练算法。
- 无监督学习：分析无标签数据，发现隐藏模式。
- 强化学习：通过试错进行学习。
- 半监督学习：利用少量标记数据和大量非标记数据。
- 自监督学习：根据原始输入数据生成标签。
- 联邦学习：通过分散设备训练算法，保护数据隐私。

3. 真实案例研究和行业挑战

行业案例：涵盖了汽车、航空、关键基础设施、国防、教育、金融和医疗保健等多个行业。
- 汽车：自动驾驶汽车的安全性问题。
- 航空：飞行安全与技术风险。
- 关键基础设施：电力系统、供水系统等的安全挑战。
- 国防：军事应用中的风险和挑战。
- 教育：在线教育的技术安全问题。
- 金融：数据隐私和安全问题。
- 医疗保健：医疗算法的偏见和数据隐私问题。