2024先进人工智能安全国际科学报告-中期报告

关于高级AI安全性的国际科学报告:中期报告

这份中期报告是关于高级人工智能安全性的一次开创性尝试，由全球75位人工智能专家共同参与撰写，其中包含了来自30个国家、欧盟及联合国的国际专家咨询小组的贡献。在Yoshua Bengio教授的带领下，报告的撰写工作具有高度的独立性，报告的内容完全由撰写团队自主决定。

报告的焦点在于探索和管理一种特别迅速发展的人工智能形式——通用人工智能（AGI）的风险。AGI指的是能够执行多种任务的AI，其研究目前正处在科学发现的阶段，尚未形成科学定论。这份报告旨在揭示通用人工智能的能力和潜在风险，并评估用于评估和减轻这些风险的技术方法。

报告指出，通用人工智能的快速发展为社会带来了巨大的潜力，包括促进公共利益、增加繁荣和推动科学发现。然而，如果不加以妥善管理，AGI也可能带来伤害，如在高风险领域作出有偏见的决策、通过诈骗、虚假媒体或侵犯隐私等方式。

通用人工智能能力的未来进展存在高度不确定性，专家们对于其发展速度的看法存在分歧。一些人认为进展将逐渐放缓，而另一些人则认为可能会出现极快的进展。这取决于技术进步的速度以及监管环境的影响。

报告强调，尽管开发人员可以采用各种技术方法来评估和降低AGI的风险，监管机构也可以要求相应的措施，但这些方法都存在局限性。例如，解释AGI模型为何产生特定输出的技术当前仍存在严重限制。

通用人工智能技术的未来充满不确定性，但通过社会和政府的决策，可以决定人工智能的未来走向。这份中期报告旨在促进对人工智能风险及其缓解措施的国际共识，并提供一个科学、证据基础的讨论框架。

报告综述了当前对通用人工智能及其风险的科学理解，识别了科学共识的领域以及存在不同观点或开放研究问题的领域。它呼吁在风险得到适当管理的前提下，人们能够安全地享受通用人工智能带来的潜在好处。