AGI 未来的情景规划 - Anton Korinek

F&DArtfi社会情报 场景规划 A(G)I未来 AntonKorinek AI可能会超越人类 情报；我们应该做好准备 A rtifi社会智能迅速发展- ING，进步的步伐已经近年来加速。ChatGPT， 222年11月发布，惊喜 用户通过生成人的素质文本和代码，无缝翻译语言， 写创意内容，回答问题- 以一种信息的方式，所有这些都在一个级别- 看不见的。 然而在背景中，基础模型生成AI的基础一直在进步迅速超过十年。 计算资源（或简称“计算”）用于训练最尖端的AI系统 在过去十年中每六个月翻一番。 当今领先的生成式AI模型可以做些什么 就在几年前，这样做是不可想象的:他们可以 为世界提供显著的fi不能提高生产率 高级顾问，程序员，甚至 对于经济学家(Korinek2023)。 关于AI加速的猜想人工智能的最新进展促使主要研究人员预测 目前的进展速度不仅可以持续 但在未来几年甚至可能加速。在五月 2023年，Geo夫reyHinton，一位计算机科学家奠定了深度学习的理论基础, 描述了他观点的一个重大转变：“我 突然改变了我对这些是否事情会比我们更聪明。"他推测，人工一般智力 (AGI)-具有理解能力的AI， 学习，并执行人类的任何智力任务 可以执行-可以在一个跨度内实现5到20年。 一些人工智能研究人员对此持怀疑态度。这些分歧- gent观点反映了fi等巨大的不确定性关于未来进步的速度，是否预测- ressisacceleratingormayeventuallyplatform.in 此外，我们面临着显著的fi不能不确定性 人工智能进步的更广泛的经济影响以及受益fit与伤害的预期比率 越来越复杂的AI应用。 在基本面上，不确定性也与有关本质的深刻问题有关智力和人类大脑的能力。 图表1显示了两种相互竞争的观点工作任务的复杂性分布 大脑可以执行。 面板1展示了一个视角，即人类大脑的解决能力 更复杂的任务是无限的。这对齐 机器人服务员携带食物 客户在a机器人主题餐厅在 印度金奈。 Artfi社会情报 凭借我们自工业以来的经济经验革命：随着自动化前沿的进步， 人类拥有自动化的简单任务(两者 机械和认知)和重新分配的工作- 他们执行更多剩余的更复杂的 任务-也就是说，他们已经移动到正确的尾巴图中所示的复杂性分布。 简单的推断会表明 这一过程将随着人工智能的进步和自动- 伴侣越来越多的认知任务。 的面板2中所示的另一个透视图图表1，认为存在一个上限 人类大脑可以执行的任务的复杂性。信息理论认为人类的大脑 是一个计算实体，不断处理 过多的数据。大脑的输入包括感官感知——视觉、声音和触觉，除其他外-其输出表现为physy-行为、思想和情绪反应。 甚至使我们成为人类的复杂方面，例如情感，创造力和直觉，可以看到 作为计算输出，从阴谋中出现- 神经回路与生物化学的相互作用- CALreactions.Althoughtheseprocessesarehighly 复杂和涉及的复杂性，我们不完全理解，这个观点表明有 任务复杂性的Defi固有上限人类的大脑可以执行。 这两种观点有很大的不同- 对未来潜在范围的影响 自动化。截至2023年，人脑是最 先进的计算设备，当涉及到 执行广泛的智力任务的能力 以稳健的方式。然而，如果第二个视角-事实证明，现代人工智能系统是正确的快速追赶。事实上，COM的许多措施-尖端基础的计算复杂性 模型已经接近人类的模型 brain.Thecomputationalcomplexityofhuman 大脑受生物学的限制，大脑的能力- 将信息传输到其他智能实体的能力- 领带(人类或人工智能)受到速度慢的限制 我们的感官和我们的信息传递 语言。尽管如此，AI系统仍在继续 快速前进，可以在速度明显更快。 准备多种方案 经济学家长期以来一直观察到最优处理不确定性的方法是使用门户-利奥方法。鉴于明显的差异- 世界知名的人工智能未来进展 专家，将所有鸡蛋放在一个中是不明智的 F&D F&DArtfi社会情报 篮子和制定单一的经济计划 场景。相反，关于什么的不确定性未来看起来应该激励我们对冲 我们的赌注和从事一系列的仔细分析可能会出现的不同场景，从繁忙-像往常一样对AGI的可能性。除了公正对待当前的不确定性水平， 情景规划使潜在的机会- 联系和风险切实存在，并帮助我们发展联系-tingency计划，并为多种可能性做好准备-布尔结果。 以下是三种技术方案跨越广泛的可能结果，经济政策制定者应该注意: 方案一（传统，一切照旧）： AI的进步提高了生产力并实现了自动化一系列的认知工作任务，但它们也包括-为受感染的工人提供新的搬迁机会 从事平均生产力更高的新工作 比他们流离失所的人还要多。这个 视图由图表1的面板1封装。 情景二（基线，20年的AGI）：Over在接下来的20年里，人工智能逐渐发展到AGI的观点，导致其能够执行所有 到期末的人力工作任务，贬值- 正在劳动(Susskind，即将到来)。这将 对应于finite脑力的观点 由图表1的面板2捕获，以及 假设最多需要20年 复杂的认知任务可以被AI访问。 情景III(侵略性，five年的AGI)：此场景复制了场景II，但在更多 激进的时间表，这样AGI和所有的 劳动的后果将达到 在five年内。 虽然我非常不确定，但在 在写作中，我估计这些场景中的每一个都有大于10%的材料化概率- ING。考虑到不确定性，并充分 为未来做准备，我相信政策- ERS应该认真对待每一种情况， 压力测试我们的经济和fi财政政策如何框架将在每个场景中执行，并且 必要时对它们进行改革，以确保它们 就足够了。 这三种情况都有可能导致到显著不同的经济结果 广泛的指标，包括经济 增长、工资和资本回报，fi规模可持续- 能力、不平等和政治稳定。此外，他们呼吁改革我们的社会安全网和税收制度和政府行为- 强制性政策、fi金融监管、工业和工业发展战略。 Korinek和Suh(2023)分析了这一含义 描述的产出和工资的情景 Artfi社会情报 F&D 自动化的主流宏观经济模型。所有三种情况的结果都显示在 图表2，其中每个方案的输出路径- nario显示在面板1中，com的路径- 第二小组的竞争性市场工资。三个主要见解脱颖而出： 首先，虽然增长沿着轨迹继续- 我们习惯了过去几十年的保守党- 积极的业务照常的情况下，产出增长这两种AGI方案要快得多，因为稀缺性劳动不再是对产出的约束。 第二，工资最初在所有三个场景中都上涨- ios-但只有在劳动力稀缺的情况下。他们暴跌- 在经济接近AGI的情况下相遇。 第三，输出中的tako<unk>和在两种AGI方案中的工资都是由 同样的力量:稀缺劳动力的替代 相对更丰富的机器。这个 这表明应该有可能设计宣传机构- 补偿工人收入的建议 损失，并确保AGI的收益导致共享繁荣。 劳动任务的范围。投资水平，例如作为对研发的投资，tal- ent和计算机芯片，捕获我们有多少资源是由AI开发造成的。指标- 越来越多的人工智能在所有领域的采用 经济将捕捉到由此产生的 系统在实践中被有效地部署。最后， 宏观经济影响最终将 在生产率统计和劳动力中变得可见市场趋势。 跟踪这些互补信号允许 政策制定者为现实- 正如他们所表现的那样。但是我们必须保持 谦虚-未来可能会让我们感到惊讶。 截然不同的经济轨迹 前面描述的三种情况所暗示的强调发展适应性的重要性- 能够灵活应对的积极政策框架 随着未来的发展。政策制定者应该强调- 针对每种情况测试现有机构 并在必要时进行改革，以确保他们 是有弹性的。这可能涉及渐进的步骤，如 图表2说明了广泛的情况- “鉴于赤裸裸 随着税制改革和扩张 自参然观的前所变未化有可的能技会术影响- 不同的观点的 社会安全网，或新计划，如介绍- 赚取可以扩大的小额基本收入 宏观经济，但最好低于- 站在一个可能性的例证- 联系，而不是作为一个精确的预测- 一长串警告适用。 关于未来的进展 AI，这将是不 必要时。 政策制定者应该向专家团队收费使用迭代的场景规划来帮助他们恢复-适当地更新他们对概率如何的看法 首先，底层的模型把所有的鸡明蛋智放的在一个 劳图动表力是在其一中个赢有得效竞率争的力经-济中铸造的-篮子和配方 各种场景的演变。拥抱 通过适应性强的、基于场景的不确定性方法将使我们能够最大化fits和 积极的回报。一系列因素可能 与AGI相比，AGI的推出速度较慢在技术上是可能的- BLE，来自组织摩擦，法规和对资本积累的约束-产业-如芯片供应链瓶颈-到实施AGI的社会选择。 即使在技术上可以更换 工人，社会可能会选择让人类 某些功能-例如，作为牧师，法官，或立法者。由此产生的“怀旧”工作可以维持对人类劳动力的需求- tuity(Korinek和Juelfs，即将出版)。确定哪个AI场景最适合未来 随着事件的发展，政策制定者应该 监控跨多个域的领先指标， 请记住，所有的努力都要预测速度进步面临巨大的不确定性。有用的指标跨越技术基准、水平 AI开发、采用方面的投资fi 整个经济中的人工智能技术，以及 由此产生的宏观经济和劳动力市场趋势。 最直接的技术基准 衡量人工智能系统在广泛领域的表现 A的经济计划 单一场景。“ 减轻人工智能在经济领域的风险持续进化。F&D antonkorinek是一个教授在经济系和达顿学校 弗吉尼亚大学商业专业。他是治理中心的AI经济学负责人AI，国家局的研究助理 经济研究的研究员，以及经济政策研究中心。 参考文献 Korinek,Anton.Korinek,Anton.2023.GenerativeAI 经济研究：用例和对 经济学家。经济文献杂志2023, Korinek，Anton和MeganJuelfs。即将到来。“前- 为(不存在的？)未来的工作做准备。“牛津 AI治理手册。英国牛津：牛津大学- 大学出版社。 Korinek、Anton和DonghyunSuh。2023年。“。场景向AGI过渡。“。弗吉尼亚大学工作 论文，弗吉尼亚州夏洛茨维尔。 萨斯金德，丹尼尔。即将到来。“技术联盟- 就业”。牛津AI治理手册.Oxford, 英国：牛津大学出版社。