AGI 未来的情景规划 - Anton Korinek

Anton Korinek AI可能会超越人类情报；我们应该做好准备 凭借我们自工业以来的经济经验革命：随着自动化前沿的进步，人类拥有自动化的简单任务(两者机械和认知)和重新分配的工作-他们执行更多剩余的更复杂的任务-也就是说，他们已经移动到正确的尾巴图中所示的复杂性分布。简单的推断会表明这一过程将随着人工智能的进步和自动-伴侣越来越多的认知任务。的面板2中所示的另一个透视图图表1，认为存在一个上限人类大脑可以执行的任务的复杂性。信息理论认为人类的大脑是一个计算实体，不断处理过多的数据。大脑的输入包括感官感知— —视觉、声音和触觉，除其他外-其输出表现为physy -行为、思想和情绪反应。甚至使我们成为人类的复杂方面，例如情感，创造力和直觉，可以看到作为计算输出，从阴谋中出现-神经回路与生物化学的相互作用-CAL reactions. Although these processes are highly复杂和涉及的复杂性，我们不完全理解，这个观点表明有任务复杂性的Defi固有上限人类的大脑可以执行。这两种观点有很大的不同-对未来潜在范围的影响自动化。截至2023年，人脑是最先进的计算设备，当涉及到执行广泛的智力任务的能力以稳健的方式。然而，如果第二个视角-事实证明，现代人工智能系统是正确的快速追赶。事实上，COM的许多措施-尖端基础的计算复杂性模型已经接近人类的模型brain. The computational complexity of human大脑受生物学的限制，大脑的能力-将信息传输到其他智能实体的能力-领带(人类或人工智能)受到速度慢的限制我们的感官和我们的信息传递语言。尽管如此，AI系统仍在继续快速前进，可以在速度明显更快。 Artifi社会智能迅速发展-ING，进步的步伐已经近年来加速。ChatGPT，2022年11月发布，惊喜用户通过生成人的素质文本和代码，无缝翻译语言，写创意内容，回答问题-以一种信息的方式，所有这些都在一个级别-看不见的。然而在背景中，基础模型生成AI的基础一直在进步迅速超过十年。计算资源（或简称“计算”）用于训练最尖端的AI系统在过去十年中每六个月翻一番。当今领先的生成式AI模型可以做些什么就在几年前，这样做是不可想象的:他们可以为世界提供显著的fi不能提高生产率高级顾问，程序员，甚至对于经济学家(Korinek 2023)。 关于AI加速的猜想 人工智能的最新进展促使主要研究人员预测目前的进展速度不仅可以持续但在未来几年甚至可能加速。在五月2023年，Geo夫rey Hinton，一位计算机科学家奠定了深度学习的理论基础,描述了他观点的一个重大转变：“我突然改变了我对这些是否事情会比我们更聪明。"他推测，人工一般智力(AGI) -具有理解能力的AI，学习，并执行人类的任何智力任务可以执行-可以在一个跨度内实现5到20年。一些人工智能研究人员对此持怀疑态度。这些分歧-gent观点反映了fi等巨大的不确定性关于未来进步的速度，是否预测-ress is accelerating or may eventually platform. in此外，我们面临着显著的fi不能不确定性人工智能进步的更广泛的经济影响以及受益fit与伤害的预期比率越来越复杂的AI应用。在基本面上，不确定性也与有关本质的深刻问题有关智力和人类大脑的能力。图表1显示了两种相互竞争的观点工作任务的复杂性分布大脑可以执行。面板1展示了一个视角，即人类大脑的解决能力更复杂的任务是无限的。这对齐 准备多种方案 经济学家长期以来一直观察到最优处理不确定性的方法是使用门户-利奥方法。鉴于明显的差异-世界知名的人工智能未来进展专家，将所有鸡蛋放在一个中是不明智的 机器人服务员携带食物客户在a机器人主题餐厅在印度金奈。 篮子和制定单一的经济计划场景。相反，关于什么的不确定性未来看起来应该激励我们对冲我们的赌注和从事一系列的仔细分析可能会出现的不同场景，从繁忙-像往常一样对AGI的可能性。除了公正对待当前的不确定性水平，情景规划使潜在的机会-联系和风险切实存在，并帮助我们发展联系-tingency计划，并为多种可能性做好准备-布尔结果。 以下是三种技术方案跨越广泛的可能结果，经济政策制定者应该注意: 方案一（传统，一切照旧）：AI的进步提高了生产力并实现了自动化一系列的认知工作任务，但它们也包括-为受感染的工人提供新的搬迁机会从事平均生产力更高的新工作比他们流离失所的人还要多。这个视图由图表1的面板1封装。 情景二（基线，20年的AGI）：Over在接下来的20年里，人工智能逐渐发展到AGI的观点，导致其能够执行所有到期末的人力工作任务，贬值-正在劳动(Susskind，即将到来)。这将对应于finite脑力的观点由图表1的面板2捕获，以及假设最多需要20年复杂的认知任务可以被AI访问。 情景III (侵略性，five年的AGI)：此场景复制了场景II，但在更多激进的时间表，这样AGI和所有的劳动的后果将达到在five年内。 虽然我非常不确定，但在在写作中，我估计这些场景中的每一个都有大于10%的材料化概率-ING。考虑到不确定性，并充分为未来做准备，我相信政策-ERS应该认真对待每一种情况，压力测试我们的经济和fi财政政策如何框架将在每个场景中执行，并且必要时对它们进行改革，以确保它们就足够了。 这三种情况都有可能导致到显著不同的经济结果广泛的指标，包括经济增长、工资和资本回报，fi规模可持续-能力、不平等和政治稳定。此外，他们呼吁改革我们的社会安全网和税收制度和政府行为-强制性政策、fi金融监管、工业和工业发展战略。 Korinek和Suh (2023)分析了这一含义描述的产出和工资的情景 自动化的主流宏观经济模型。所有三种情况的结果都显示在图表2，其中每个方案的输出路径-nario显示在面板1中，com的路径-第二小组的竞争性市场工资。三个主要见解脱颖而出：首先，虽然增长沿着轨迹继续-我们习惯了过去几十年的保守党-积极的业务照常的情况下，产出增长这两种AGI方案要快得多，因为稀缺性劳动不再是对产出的约束。第二，工资最初在所有三个场景中都上涨-ios -但只有在劳动力稀缺的情况下。他们暴跌-在经济接近AGI的情况下相遇。第三，输出中的tako<unk>和在两种AGI方案中的工资都是由同样的力量:稀缺劳动力的替代相对更丰富的机器。这个这表明应该有可能设计宣传机构-补偿工人收入的建议损失，并确保AGI的收益导致共享繁荣。“鉴于赤裸裸的图表2说明了广泛的情况-参观前所未有的技术-不同的观点自然的变化可能会影响宏观经济，但最好低于-站在一个可能性的例证-联系，而不是作为一个精确的预测-一长串警告适用。关于未来的进展AI，这将是不明智的首先，底层的模型把所有的鸡蛋放在一个图表是在一个有效率的经济中铸造的-篮子和配方劳动力在其中赢得竞争力-积极的回报。一系列因素可能与AGI相比，AGI的推出速度较慢在技术上是可能的-BLE，来自组织摩擦，A的经济计划单一场景。“法规和对资本积累的约束-产业-如芯片供应链瓶颈-到实施AGI的社会选择。即使在技术上可以更换工人，社会可能会选择让人类某些功能-例如，作为牧师，法官，或立法者。由此产生的“怀旧”工作可以维持对人类劳动力的需求-tuity (Korinek和Juelfs，即将出版)。确定哪个AI场景最适合未来随着事件的发展，政策制定者应该监控跨多个域的领先指标，请记住，所有的努力都要预测速度进步面临巨大的不确定性。有用的指标跨越技术基准、水平AI开发、采用方面的投资fi整个经济中的人工智能技术，以及由此产生的宏观经济和劳动力市场趋势。最直接的技术基准衡量人工智能系统在广泛领域的表现 经济系和达顿学校弗吉尼亚大学商业专业。他是治理中心的AI经济学负责人AI，国家局的研究助理经济研究的研究员，以及经济政策研究中心。