人工智能问题独立国际科学小组的初步报告：对人工智能带来的机遇、风险和影响的询证评估

核心观点

• 人工智能发展迅速，其能力提升速度超过了对衡量和监管能力的发展速度，给政策制定者带来重大挑战。
• 人工智能发展不均衡，算力、数据和人才集中在少数国家和公司手中，导致全球南方国家在获取和发展人工智能方面处于劣势。
• 人工智能发展带来机遇和风险，包括损害用户心理健康、被用作破坏性工具、对社会、经济和环境系统产生影响等。
• 完善对人工智能的治理至关重要，需要投资于技能、数据、工作流程和基础设施，以实现公平分配收益并降低风险。
• 需要采取行动应对人工智能带来的风险，包括建立独立的评估机制、制定共同标准、投资于全球南方国家的人工智能实力等。

关键数据

• 全球每周有超过10亿人使用对话式人工智能。
• 美国占全球人工智能超级计算机500强算力的75%，中国占15%。
• 91%的知名人工智能模型来自私营部门。
• 全球有7 000多种语言，但人工智能模型的开发和评价基础设施仅反映了其中的一小部分。

研究结论

• 人工智能在科学、卫生、教育和农业领域带来有实证支持的显著效益，但取决于当地的具体情况。
• 人工智能对劳动力市场的影响最好围绕任务、新就业岗位创造和就业质量来加以理解，而非简单地关注劳动力替代。
• 人工智能可能助长有害活动，也可能成为攻击目标，还可能加剧现有威胁。
• 需要建立与人工智能智能体对接的安全、通用的通信和支付协议，并对人工智能智能体的评价进行标准化和复现。
• 需要将人类监督作为一项可衡量的目标加以落实，并制定责任、监督和事件报告框架。
• 需要在整个人工智能生命周期中进行系统性变革，以发展更具包容性的人工智能，并投资于全球南方国家的人工智能实力。