国土安全部关于降低人工智能与化学、生物、放射性和核威胁交叉点风险的报告（中文）

报告标题：《国土安全部关于降低人工智能与化学、生物、放射和核威胁交叉风险的报告》

背景与目的

• 背景：2023年10月30日，美国总统发布的第14110号行政命令，旨在确保安全、可靠和值得信赖地开发和使用人工智能，特别是在面对生物武器的背景下。
• 目的：评估人工智能被滥用以开发或生产化学、生物、放射和核(CBRN)威胁的可能性，同时考虑其在应对这些威胁方面的优势和应用。

主要发现与建议

• 发现：

  • 人工智能的广泛应用可能对国家安全构成风险，特别是在生物和化学领域。
  • 人工智能模型可以被误用，用于开发或生产CNRN威胁。
  • 人工智能在物理和生命科学领域的应用促进了研究改进，但也可能带来潜在风险。
  • 模型的扩散性高，包括恶意行为者，可能对公共健康、经济安全和国家安全构成威胁。
  • 人工智能工具可以增强与CNRN相关工作的国际合作与交流，以及对可疑生物制剂或化学袭击的归因和监测。

• 建议：

  • 监督人工智能模型的培训、部署、发布和使用，以减轻对国家安全的潜在威胁。
  • 对可能对美国带来CNRN风险的人工智能模型类型进行评估，并提出规范或监督建议。
  • 强调了持续互动和交流的重要性，以确保前沿模型开发人员与国家安全和更广泛的生物防御社区之间的沟通。
  • 提倡通过国际合作，利用人工智能工具支持与CNRN相关的关键工作，以及对可疑生物制剂或化学袭击的归因和监测。

结论

报告旨在提供长期指导，确保人工智能在化学、生物、放射和核领域的发展和使用是安全、可靠和值得信赖的，同时指导潜在的跨机构后续政策和实施工作。通过综合分析，报告强调了人工智能的双刃剑特性，呼吁社会各界共同努力，既利用其潜力，又有效管理其风险，以维护国家安全和社会福祉。