2025年AI vs AI：人工智能自我识别的挑战报告（英）

1 洞见 目录 引言2 定义与生成式AI发展5 人工智能生成写作特点13 工具用于识别人工智能生成的写作16 方法和算法背后的这些工具18 专家访谈20 评估人工智能文本检测技术的可靠性：我们的研究22 由ChatGPT生成的文本25 历史文本 26来自DeltalogiX博客的AI翻译文本27安东尼奥 格拉索发布的文章28 挑战与局限性在人工智能文本识别中30 使用案例及相关于生成式AI不加选择使用的伦理问题32 结论36 参考文献38 引言 生成式人工智能（GenAI）正在重新定义内容创作的边界，为数字生产提供了之前无法想象的可能。这种高级的AI形式，通过如GPT（生成预训练转换器）和BERT（来自转换器的双向编码表示）等系统 ，具有生成具有高度复杂性和连贯性的文本的能力，这引发了关于作者身份的问题：它是人类智慧的 产物，还是算法的产物？本研究旨在通过深入分析生成式人工智能及其创作与人类创作难以区分的内容的能力来探索这一前沿。我们将关注文本生成的机制，从简单的神经网络到更先进的模型，突出并行处理和访问大量数据集在它们的发展中的基础性作用。 特别重视将被放在文本识别工具上，那些能够评估内容是否为人工智能或人类智慧的软件。我们将通过比较分析不同类型的文本来检验其可靠性：由AI生成作品、人类写作、历史文献以及借助AI翻译的文本。这次采用实证方法进行的调查旨在评估五大主要识别工具的有效性，揭示目前区分人工智能生成内容和人类作品的挑战与局限性。 本研究的实证方法涉及通过直接实验和测试收集数据的系统观察和分析。这种方法使我们能够基于具体和可验证的证据得出结论，确保对文本识别工具进行更加严谨和可靠的分析。在实践中，我们使用由AI生成的文本、人类书写、历史文件和翻译文本对工具进行了一系列测试，收集了关于它们性能的定量和定性数据。 值得注意的是，尽管生成式人工智能能够自主创建内容，但它依赖于通过人工文本开发出的训练。像GPT和BART这样的算法是在海量的人工文本数据上训练的，这意味着人工智能的知识库和语言结构完全源自人类的工作。换句话说，即使AI生成的文本看似自主，每一片段生成内容背后始终存在着提供训练数据的智力痕迹。这一方面突显了作者权问题的复杂性以及需要可靠工具识别内容来源的必要性 。安东尼奥格拉索在他的著作《迈向后数字社会：数字进化与人民革命的交汇处》中提出了一个相关的澄清： 3 洞见 正如法国文学批评家和理论家RolandBarthes在著名论文《作者之死》中辩论的观点所示，作者在其眼里并不创建全新的独特思维，而仅仅是（如果您允许我拓展这个观点）其所处时代的ChatGPT，消耗形式的和社会的学习，将它们以新的混搭词汇形式呈现出来。如果ErnestHemingway不是诞生在1899年（事实上是他那个时代的），而是在1799年或1999年，他以同样的风格创作小说系列的可能性会更大？明显，答案是否定。从这个角度来看，生成型人工智能与人类并没有太大区别：它使用提供的材料指令来将看似人类般的思维综合成一种艺术品。1 我们的研究提供了对生成式人工智能演变及其对数字内容生产日益增长影响的全面概述，涵盖了关键点，如人工智能写作的独特性、大数据集的重要性以及并行处理。我们还将探讨在新闻、文学和学术等敏感领域使用生成式人工智能的伦理影响，反思在人工智能主导的时代确保内容透明度和真实性的重要性。 总结而言，我们的研究不仅将突出与生成式人工智能和文本识别工具相关的潜力和挑战，还将为未来对这些技术演变及应对新兴问题的策略反思铺平道路，最终目标是明智且负责任地在广阔且未充分探索的生成式人工智能海洋中航行。 关键发现 生成式AI的双重影响： 生成式人工智能的快速进步，通过GPT和BECT等算法，正在通过提供前所未有的可能性来革新内容创作。然而 ，这一进步也带来了挑战，尤其是关于内容的真实性和来源。人类作品与AI生成作品之间的界限正变得越来越模糊，需要强大的识别工具。 文本识别工具评估： 文本识别工具在区分人工智能生成内容与人类书写内容方面的有效性至关重要。本报告重点分析了各种工具的比较，例如GPTZero、Writercom、ZeroGPT、ContentScale和Scribbr，强调它们的优点和局限性。实证方法揭示了不同类型文本在准确性和可靠性方面存在显著差异，强调了持续改进的必要性。 人工智能内容创作中的伦理考量： 生成式人工智能的伦理影响是深远的，尤其是在新闻、文学和学术界。确保人工智能生成内容的透明度和真实性对于维护公众信任至关重要。这包括明确的标签以及解决训练数据中固有的偏见，这些偏见可能perpetuatestereotypesandinequalities。 大数据集与并行处理的作用： 生成式人工智能的发展高度依赖大数据集和并行处理能力。这些因素对于训练能够生成高质量内容的复杂模型至关重要。报告强调了多样化和全面的大数据集对于捕捉人类语言的复杂性和提升人工智能性能的重要性。 未来方向与警惕： 随着生成式人工智能的不断发展，对有效识别工具和伦理指南的需求变得越来越重要。未来的进步应着眼于减少文本识别中的误报和漏报，提高对人工智能能力和局限性的理解，以及促进开发者、研究人员和政策制定者之间的合作。最终目标是发挥生成式人工智能的潜力，同时确保数字内容的完整性和真实性。 定义与发展生成式人工智能 生成式人工智能，或称生成式AI，是指一类利用机器学习算法根据数据创建全新和原创内容的技术。这种内容可以包括文本、图像、音频和视频 。这种人工智能形式不仅限于内容创作，还被应用于商业环境中复杂过程的模拟和优化，例如减少生产浪费或提高运营效率。2 生成式人工智能的益处工具如GitHubCopilot 增加程序员 生产力 3 生成式AI的发展可以追溯到20世纪40年代早期的模拟人工神经元的数学模型。然而，由于那个时代的科技限制，这些模型并没有立即找到实际应用。随着1980年代反向传播算法的引入，尽管计算资源仍然有限，但这导致了神经网络在技术上的重大进步。这些进步导致了第一个专家系统的开发。 提升对代码的信任 质量 工作更快 真正的生成式AI转折点是在2012年由AlexNet的成功所标志，这是一种卷积神经网络，它在一场主要的图像识别竞赛中获胜，预示着神经网络以强大的姿态进入机器学习和AI领域。随后，2014年引入的生成对抗网络（GANs）标志着另一大飞跃，特别是在图像生成方面。 来源：GitHub（2024） 网络生成内容与评估其可信度网络之间交互 。最后，像OpenAIGPT这样Transformer模型出现，由于这些模型处理上下文和生成高质量文本内容能力，彻底改变了自然语言处理领域。 这些进步使得生成式人工智能被Gartner视为主要通用技术之一，其潜在影响与蒸汽引擎、电和互联网等革命性技术相当。 Z世代：明智决策革新者 4 关于千禧一代报告使用“ 技术 GenZ信任技术 协助他们获取信息 决策 这表明生成式人工智能已成为技术创新驱动力 ，其影响远远超出了仅仅内容生产范畴，深刻影响着商业和创意过程。 最初，基于20世纪40年代和50年代开发人工神经元数学模型简单神经网络代表了首次尝试模拟人脑功能以及以能够模拟自然智能方式处理数据。然而，由于当时技术和计算限制，这些模型能力有限，无法处理大量数据或复杂任务。 随着技术进步，尤其是在20世纪80年代反向传播算法引入后，神经网络开始以越来越复杂方式发展，标志着显著改进。 来源：Salesforce（2024） 生组成织式内人部工智激能增采纳5 他们学习和预测能力。这一进步为深度学习算法和生成模型发展奠定了基础，这些模型能够以先前仅能想象方式创造内容或解决问题。 神经网络通过多层处理和从大量数据中学习能力，已经开始在模拟人类思维和创造力某些方面展现出非凡潜力，为人工智能领域创新开辟了前所未有道路。 65oforganizations现在报告使用 生成式人工智能 定期，过去十年中显著增加。 这些高级模型需要并继续需要使用大量数据集进行训练，以“学习”有效并生成高质量输出。大量数据集至关重要，因为它们提供了机器学习模型捕捉现实世界复杂性和多样性必要示例种类和数量，范围从自然语言文本到高度详细图像。这种学习方法被称为监督学习，它允许模型在数据中识别模式、概念和关系，学习根据这些输入进行复制甚至创新。 并行处理，得益于GPU（图形处理单元）使用而大大简化，使得训练这些网络效率大幅提升并更为可行。能够同时处理大量数据能力，使得处理深度学习模型训练所需庞大运算量成为可能。 来源：麦肯锡（2024） 对于深度和复杂神经网络，如基于Transformer 模型，这些模型需要大量计算能力。6 这些体系结构，其特征是注意机制允许模型集中 在输入不同部分以提高预测或文本生成效率与质量，标志着在深度学习模型效率和质量方面 一个转折点。 关键要点 GPU，即图形处理单元，最初是为加速图形渲染而专门设计处理器 。现代GPU对于超越传统图形任务至关重要，包括人工智能、机器学习和科学模拟。它们提供大规模并行性，使成千上万个线程能够同时执行，这对于计算密集型任务性能显著提升。随着高性能计算需求增长，GPU已发展到支持更先进特性和功能，使它们在消费电子和高性能计算环境中都变得不可或缺。 在这次技术革命核心是大型语言模型（LLMs） ，这是一种复杂深度学习算法，它彻底改变了机器理解、处理和生成自然语言方式。这些模型，utl 利用Transformer架构，人工智能实现了质飞跃 ，使机器不仅能够理解并连贯地回应自然语言文本，还能在广泛主题领域产生原创和相关内容。通过在包含从互联网提取数十亿单词和短语无前例大数据集上训练，类似于OpenAIGPT3和NVIDIA以及微软MegatronTuringNLG大型语言模型（LLMs）获得了对人类语言极其丰富和细微理解。这种能力使得从创意写作到科学研究辅助，从自动翻译到与聊天机器人 高级对话交互等应用成为可能。7 这些模型已经展示了前所未有能力，能够生成通常难以与人类书写内容相区分文本，为人类与机器协作开辟了新领域。它们应用范围从优化业务流程到创造新内容，从个性化客户服务到为软件开发自动生成代码，展示了在众多领域产生变革性影响。LLM（大型语言模型）演变不仅代表了一个技术里程碑，也是一个对智能、创造力和人类与人工智能之间互动本质进行反思节点，预示着未来社会机器将越来越多地 、创新性地支持人类活动。 所使用数据集为 大型语言模型（LLMs）训练 急剧增长。 例如，在2024年，一个包含 14万亿代币 开发了以增强语言模型性能为目。 在这种情况下，例如BERT和GPT这样算法，在技术术语中被称作Transformer 来源：Shaoetal2024 GitHubCopilot作为一款生成式人工智能工具：提升速度与生产力 8 程序员在使用GitHubCoPilot等生成式AI工具时 更快地重复 任务 模型代表了当前生成AI前沿。这些模型分别由谷歌和OpenAI于2018年推出，通过创新地使用注意力机制，彻底改变了自然语言处理（NLP）领域。BERT采用双向方法，能够理解文本中每个词上下文，而GPT及其后续版本已完美地实现了生成连贯且上下文丰富文本，为NLP应用如自动翻译、文本摘要和代码生成开辟了新可能性。 深入研究关于生成式AI中大数据集重要性讨论 ，数据集规模和质量至关重要。生成模型，如深度神经网络，需要大量数据才能“学习”有效 。例如，训练像GPT3这样模型涉及到使用数 百GB文本数据集。这些数据不仅为模型提供了学习示例，还有助于确保内容生成多样化、丰富 ，并减少重复相同错误或偏差可能性。 更多生产性总体上 通过利用这些庞大数据集，模型可以捕捉到广泛语言细微差别和语境微妙之处，这对于产生高质量、类似人类输出内容至关重要。这种能力对于需要高度理解和创造