技术恐慌、生成式人工智能以及监管谨慎的必要性

技术恐慌、生成式人工智能以及监管谨慎的必要性 由帕特里克·格雷迪和丹尼尔·卡斯特罗|5月1日,2023年 生成式人工智能（AI）-从简单的用户提示生成新颖文本、图像和音乐的AI系统，在许多领域都有重要的应用，包括娱乐、教育 、医疗保健和零售。然而，对该工具可能造成伤害的夸大和误导性的担忧已经排挤了关于该技术的合理讨论，产生了一种熟悉但不幸的“技术恐慌”。在歇斯底里消散之前，政策制定者应该暂停任何直接针对生成人工智能的新立法或法规。 介绍 重大的技术变革不可避免地会扰乱经济和社会，而重大变革的潜力会引起膨胀的恐惧和期望。人工智能（AI）是计算机科学的一个分支，研究执行以前需要人类智能的操作的计算机系统，其最新发展增强了对未来的想象力。人工智能末日预言者预测工作破坏、人类智力下降、隐私丧失、算法操纵，有时还会预测人类的终结。1 由于生成式人工智能的出现，对人工智能的担忧达到了新的水平。生成式人工智能是一种新颖的工具，可以从简单的输入中生成复杂的文本、图像和视频，有望使创意部门民主化，并实现全新的创意形式。这种新颖性给技术爱好者留下了深刻的印象，但也让许多其他人感到震惊，尤其是那些认为人工智能正在侵蚀创造力的人，许多人认为这是将人类与机器区分开来的本质区别。 然而，技术和人类创造力长期以来一直交织在一起，过去对新创新负面影响的担忧被夸大了。例如，音乐领域的先前创新导致人们担心唱片专辑会使现场表演变得多余，或者广播会摧毁唱片业，或者采样和其他数字编辑手段会破坏音乐艺术性。但这些担忧从未到来。随着时间的推移，随着公众接受新技术，市场适应，最初的担忧显然被夸大或从未到来，这种和其他技术恐慌逐渐消失。 对新技术的担忧遵循一种可预测的轨迹，称为“技术恐慌周期”。2随着公众熟悉这项技术及其好处，恐惧会随着时间的推移而增加、达到顶峰，然后下降。事实上，创意部门之前的其他“生成”技术，如印刷机、留声机和电影机，也遵循了同样的路线。但与今天不同的是，政策制定者不太可能采取太多措施来监管和限制这些技术。随着对生成式人工智能的恐慌进入最不稳定的阶段，政策制定者应该深吸一口气，认识到我们所处的可预测周期，并暂时搁置任何直接针对生成人工智能的监管努力。 科技恐慌周期的四个阶段 鼓励或遏制任何新技术的优点取决于可用的用例和潜在的危害。虽然许多人接受这个前提，但危言耸听者只会想象灾难性的风险，或者更喜欢技术现状。许多危言耸听者有动机去寻找或夸大警报的理由，因为这样做会吸引资金用于他们的宣传。当新技术到来时，这些参与者开始播下恐慌的种子，引发连锁反应，很快爆发成狂热 。 随着公众开始使用并熟悉一种新工具，很快就会发现危言耸听者夸大了风险或误导了公众的担忧。恐慌开始消退，媒体慢慢失去注意力（尽管他们很少纠正记录）。随着创新成为主流，只有危言耸听者在最终转向新技术之前会抛弃零星和不太吸引人的担忧。这种模式构成了技术恐慌周期（见图1）。 图1:科技恐慌周期3 该周期绘制了四个阶段：信任开始、恐慌加剧、恐惧消退和继续前进。 阶段1:信任开始 在周期开始时，对新创意工具的了解仅限于发明者、该领域的创新者、评论员和领域专家。工程师们仍在研究它的潜力，创新者正在考虑商业用例。人们的担忧仍然很低，因为该工具既不为人所知，也不广泛使用。 但末日预言者很快就发现了新工具的风声，并发出了警报。由于危言耸听者无法确定设备被滥用的地方，因此他们针对的是想象中的伤害而不是真实的伤害。例如，AccessNow最近声称，微软通过秘密听取Teams用户的意见来训练Vall-E，这是一种尚未公开的生成AI工具。4如果这是真的，这将证明对人工智能公司欺骗用户的力量和意愿的焦虑是合理的。但这种说法是错误的：Vall-E使用Libri-Light（一个公开的音频档案集合）来获取训练数据。5 当新的生成技术的影响更加明显时，例如它在劳动力中的地位，危言耸听者经常使用不必要的情绪化修辞来误导。6这种说法不可避免地被证明是错误的，但却吓坏了许多人。由于公众在信任开始阶段对新技术的理解是如此原始，公众和媒体经常接受该技术具有破坏性潜力的说法。这一刻标志着恐慌的时刻。 阶段2:不断上涨的恐慌 恐惧在危言耸听的网络和那些听取决策者意见的人中迅速蔓延。在恐慌加剧阶段，易受热点问题影响的政策制定者通过在立法草案、听证会、公开演讲和声明中重复这些担忧，使恐惧合法化。感到受到威胁的传统行业往往处于领先地位。记者们无法抗拒撰写耸人听闻的内容的机会，忍不住投入到回报丰厚的点击诱饵报道中。 在恐慌加剧阶段，反乌托邦言论获得了更多的关注，并扫除了消费者最初对新工具的乐观情绪。媒体生态系统变得如此充斥着夸张的恐惧，只剩下最离谱的说法。恐惧最终在恐慌上升阶段结束时达到顶点：歇斯底里的高度。 阶段3:紧缩的恐惧 当公众接受新工具并接受其优点时，“泄气恐惧”阶段就会到来。到这个阶段，很明显，许多恐惧永远不会成为现实。由于新技术的日益普及，危言耸听者继续煽动恐慌，但未能像以前那样获得牵引力。 偶尔的丑闻和新功能会引起微恐慌，但现在公众不那么容易被愚弄了。实用性标志着这一阶段的结束。社会整合了新技术，人们不再相信末日预言者。 阶段4:移动 科技末日永远不会到来。在“继续前进”阶段，以前的恐惧被揭露和嘲笑（在某些情况下，是由首先发出警报的同一个人。《连线》杂志在2000年发表了一篇危言耸听的文章《为什么未来不需要我们》，八年后又发表了一篇更加谨慎的文章《为什么未来仍然需要我们一段时间》。7曾经令人恐惧的工具被常态化，冷静的头脑领导政策对话。危言耸听者已将注意力转向现阶段最新的闪亮技术炒作。新的恐慌排挤了旧的恐慌。循环往复。 创意行业以往科技恐慌的例子 技术的进步导致了印刷书籍、录音和电影的技术恐慌。印刷机的发明和纸张技术的进步为印刷书籍带来了技术恐慌;留声机的发明和便携式存储声音的方法（例如唱片 ）引起了对录制声音的技术恐慌;摄影和电影材料的创新为电影带来了技术恐慌。生成式AI也是如此：机器学习算法和计算能力的进步为生成式AI带来了技术恐慌。 这些创意工具——印刷书籍、录制的声音、电影和生成人工智能——有三个共同的特点。首先，每个都有一系列功能。 例如，录制的声音用于广播新闻、发出指令或作为音乐娱乐。印刷书籍包含从科学论文和经典文学到色情作品和种族灭绝的卑鄙呼吁的所有内容。其次，每个都向公众呈现新的内容类型。例如，电影使静态照片或书面记录无法获得的场景和场景栩栩如生。第三，每一种都通过扰乱其生产价格来大大拓宽内容的可用性。例如，随着印刷书籍价格的暴跌，新的、更便宜的文学内容形式出现了。 在每次恐慌中，创意部门的创新都会使制作新内容变得更加容易。一些人，尤其是现任者和精英，倾向于担心这种新内容的影响，随着政策制定者和危言耸听者共同努力减缓其进展，新闻媒体无法抗拒这场戏剧，担忧达到了沸点。然而，最终，公众接受了这些工具并继续前进。 印刷书籍 印刷书籍改变了人们分享信息的方式。事实上，印刷机促进了各种书面材料的大规模生产，包括书籍、报纸和小册子。在发明之前，书面材料必须手工印刷或复印：这是一个令人担忧、费力的过程，将知识的传播限制在少数负担得起的人身上。约翰内斯·古腾堡（JohannesGutenberg）在14世纪首次将书写过程机械化，使快速，廉价地制作书面材料的副本成为可能。8 在信任的开端阶段，当印刷机非常昂贵时，稀疏的识字阶层欢迎这种工具作为分享和接受知识的手段——书籍成为身份的象征。9但是，实际上垄断了手写书的僧侣们感到不安。“因为印刷而停止对写作的热情的人并不是圣经的真正爱好者，”15世纪的住持约翰内斯·特里特米乌斯（JohannesTrithemius）宣称，他为抄写员的工作辩护 ，反对那些使用新技术的人。10然而，由于印刷仍然很少，人们的担忧仍然很低。 但印刷和纸张技术的进步带来了更多的书籍。例如，欧洲在18世纪的印刷量比前三个世纪的总和还要多。1119世纪见证了更大的创新飞跃——每小时可以打印的页面从本世纪初的480页增加到几十年后的2，400页（到本世纪末增加到90，000页）。 12这些进步使书籍价格暴跌，并引发了人们对印刷机对社会影响的担忧。正如英国 诗人和文学评论家塞缪尔·泰勒·柯勒律治（SamuelTaylorColeridge）在他颇具影响力的《文学传记》（BiographiaLiteraria，1817）中哀叹的那样，“大量的书籍和文学的普遍传播，在文学界产生了其他更可悲的影响;”曾经被尊为“宗教神谕”的书籍已经“堕落为罪魁祸首，在每一个酒吧里举起双手。 self-elected…法官。”13人们担心那些没有地位或没有正规培训的人可以通过写作获得权力和影响力——这是互联网时代常见的恐惧——迅速蔓延并标志着恐慌的点。 随着印刷机的使用激增，许多人开始特别担心小说的阅读。“在小说创作中，我们可能会失去真理的苦涩和贫瘠！”19世纪早期的作家辛克莱·汉密尔顿（SinclairHamilton）感叹道，而《奥古斯塔先驱报》（AugustaHerald）则警告说，小说将人们带入了“一个迷人的国家他们败坏了所有的原则。14生成内容的能力如此自 由地打扰了危言耸听者。 在恐慌上升阶段，《圣詹姆斯纪事报》（1822年）谴责“挥霍无度的作家”引诱“更多的书商出版邪恶倾向的书籍”，莱斯特郡水星在1847年警告不要轻易发行小说：“大量的书籍是一个巨大的邪恶。写作的这种狂热是没有衡量标准或限制的;每个人都必须是作者;有的出于虚荣心，为了获得名气，扬名立万;其他人为了利益和利益。151889年，学术和生成技术危言耸听者约翰·梅克勒约翰（JohnMeiklejohn）发表了一篇题为“文学与书籍”的演讲，他在演讲中宣称“这个时代的疾病是分心，匆忙，对太多事物感兴趣，其结果是精神消化不良和头脑混乱。16由于技术的进步，人们担心有太多的内容被广泛使用，这预示着随后的每一次技术恐慌。 与许多科技恐慌一样，危言耸听者对年轻人的颠覆发表了异想天开的宣言。技术进步催生了一种新的廉价小说类型——“一毛钱小说”、“闪光文学”或“低俗小说”——这加剧了歇斯底里。著名作家乔赛亚·W·利兹（JosiahW.Leeds）在他的文章《关于印刷的毒药》（1885年）中指出了“'闪光文学'对年轻人的邪恶影响”：它“在我们中间比比皆是的廉价小说的可怕和有害影响”，而那些公共图书馆“已经微弱地屈服于对小说的渴望，甚至到了提供垃圾、乏味、乏味、而且往往是不道德的行为。17 此时此刻，只有令人发指的主张才能幸存下来。如图2所示，评论家认为小说应对凶杀、自杀和“堕落的情绪”负责。18例如，《信使邮报》描述了一个16岁的女孩塞西尔·吉马良斯（CecileGuimaraes），她的父亲禁止她引起年轻人的注意，这反过来又驱使她自杀。但是，该报声称，导致她痛苦的不是她父亲的紧缩，也不是精神疾病，而是“感伤小说”。与此同时，《波士顿环球报》在1884年写了一篇关于两个14岁男孩在读完一毛钱小说后离开家园的故事，《圣保罗环球报》发表了一篇关于“一毛钱小说受害者”的文章，描述了一个11岁的孩子因为重复他正在阅读的小说中的台词而被送往“疯人院”的例子。19“灌输在塑料中的错误观念的麻痹效果很容易 男孩们受伤的心灵几乎没有意识到，“”你男孩在读什么？“报纸警告说。20这个令人担忧的时代标志着歇斯底里的高度。 图2:歇斯底里的高度,1863-189721 然而，随着识字率的提高和书籍价格的持续下降，围绕小说的歇斯底里开始消退。在科学知识传播的帮助下，许多恐惧被认为是错误的，当局最终承认书籍不应该归咎于社会弊病。22在20世纪初，危言耸听者不得不求助于不太有趣的问题，例如“在床上阅读”而不是小说本身的危险。23最终，即使是危言耸听者也承认，小说的积极影响比消极的影响要多得多。到1952年，《温哥华太阳报》哀叹三分之一的英国儿童不识字，指责“电影，电视，广播”。24 尽管“前进”舞台已经到来，但挥