人工智能会制造网络剑还是盾？
执行概要 网络安全是攻击者和防御者之间的持续战斗，他们试图利用技术进步以获得优势。这些技术的进步可能会有所改善 有利于进攻或防守的天平，事先并不总是很清楚哪一方受益更多。本报告说明了数学建模如何提供有关技术进步如何影响以下几个领域的见解 网络安全：1）网络钓鱼，2）漏洞发现，以及3）修补之间的竞赛和剥削。我们演示了该方法并展示了它的见解类型 可以提供。网络钓鱼 网络钓鱼已经是攻击者的一种流行且有效的技术。不费吹灰之力，攻击者可以向许多收件人发送通用邮件，欺骗一小部分 他们打开了受害者组织的大门。攻击者可以更加努力地工作根据个人目标定制他们的信息，增加成功的可能性。今天可以收集私人数据并令人信服地写入的自动化系统威胁 将这些喷雾和祈祷网络钓鱼活动的规模与有效性相结合鱼叉式网络钓鱼。 对于此报告，我们考虑向组织发送大量电子邮件如何增加违规的机会，但也增加了被发现的机会 组织的捍卫者。我们发现，即使将人工智能（AI）应用于网络钓鱼过程增加了员工收到网络钓鱼电子邮件的几率， 攻击者可能会选择发送很少的电子邮件以避免被检测到-如此之少，以至于人类可以自己写。如果网络钓鱼检测尤其如此 技术也在改进。这意味着被针对的组织 过去可能不会因自动网络钓鱼而发生巨大变化。组织 到目前为止，这些都太低调而无法引起攻击者的太多兴趣，可能不是幸运的是，由于以下原因，高质量的网络钓鱼攻击可能会增加 自动书写系统的可用性。如果网络钓鱼活动针对更大的这些组织的数量，然后共享有关这些攻击的威胁信息活动可能会变得比现在更有益。 漏洞发现 在检查漏洞发现过程时，我们发现计算机和 人类发现漏洞的速度从高开始，然后随着时间的推移而减少。 在数学上建模时，只有两个组件：一个描述 漏洞发现的初始速率，以及描述漏洞发现速度的第二个速率率降低。对此活动进行建模表明，快速测试可以发现大多数或 所有这些漏洞都可以修复，甚至可能在软件出现之前修复它们。释放。但是，对于继续发现漏洞的测试人员来说，只有适度的漏洞发现率降低，漏洞发现过程继续 更长的时间。测试速度更快可能只是意味着存在更多漏洞攻击者使用和防御者补救。这表明技术 简单地加速漏洞发现对防御有利，但技术 更具创造性，并随着时间的推移维持漏洞发现过程—有些东西更类似于当前的人类过程-实际上可能伤害大于帮助。 种族之间的修补和剥削 一旦发现新的漏洞，攻击者和防御者就会竞相修补系统或利用它们。补丁需要开发和分发 在开发和分发漏洞之前到世界各地的计算机。为 在这份报告中，我们借鉴了与这些独立历史延迟相匹配的模型阶段的比赛。 防御者通常会抢占先机，大约80%的漏洞都有补丁在漏洞披露之日准备就绪。即使他们没有那个头 首先，补丁开发往往比漏洞利用开发更快。这个领先优势快速发展意味着从进一步中获得的好处有限 补丁开发的进步。另一方面，部署这些补丁通常是 由于各种原因，在实践中要慢得多，因此可以帮助用户的进步合并补丁可以显着减少计算机的比例 在给定时间容易受到给定漏洞的攻击。我们的估计表明，五补丁采用的加速倍数将减少暴露的峰值数量 漏洞减少约25%，并将减少暴露的数量计算机在第100天大关上增加了400%。 关于建模技术开发的结论 我们相信，这样的模型可以帮助指导投资和研究决策优先考虑可能产生最有益影响的技术的方法。作为一个 几个例子，用于网络钓鱼的人工智能可能会增加对信息共享的需求，漏洞发现技术应该旨在提高发现速度，而不是 创造力和补丁部署技术应优先于补丁 发展。然而，这些模型是高度不确定的，我们预计它们的主要好处可能不在于任何具体建议，而在于具体化 假设。我们希望在数学上明确可以加速关于最合适的假设。 介绍 自从一个杂散的火花点燃了一个村庄而不是温暖黑夜以来，人类已经不得不考虑其最有益的创造物的可怕力量。今天，步伐 进步几乎没有时间权衡技术的优点，而新工具的作用是很少像剑和盾那样清晰。整个社会，以及 特别是政策制定者，必须通过预测即将发生的事情来争取时间。到达是为了准备和引导创新者走向最大化的应用程序 好处同时最小化伤害。 权衡特定技术进步的利弊的一种方法利用大量的网络安全数学和经验模型。 这些模型通常是为了反映当前现状而构建的，但它们也可以是用于通过将变量调整为 匹配AI的可能进步。我们从三个方面说明了这个过程 网络安全：网络钓鱼、漏洞发现以及修补和修补之间的竞赛开发。存在许多详细和复杂的模型可供借鉴，但我们专注于在非常简单的模型上说明过程并使其清晰。本报告讨论 处理并显示可以从中得出的见解类型。进一步的技术 详细信息和基础数学可在配套报告中找到。1我们还提供 关联的GitHub存储库中的编程代码和数据。* 数学方法并不意味着给出精确的答案，因为参数（甚至模型的数学结构）都太不确定了。 相反，这种方法要求明确陈述假设，我们认为这可以加快关于哪种类型的进展和结果最合理的辩论。 我们希望为通常主要是 定性将帮助决策者和安全研究人员缩小范围方案是可能的，并且最适当地分配资源。 *https://github.com/georgetown-cset/modeling_ai_for_cyber 网络钓鱼 Autonomously-Generated网络钓鱼电子邮件汤姆, 我希望你一切顺利！我想提醒您我们即将举行的活动 在食物银行。我们可以使用你的帮助! 该活动将于12月12日星期六上午9点至下午12点举行。我们将帮助排序并向有需要的人分发食物。这是回馈社区的好方法 和人们的生活产生影响。 如果您对志愿服务感兴趣，请将您的信息添加到我们的列表中的网站。我希望你能加入我们! 谢谢, 莎拉 谨慎的收件人不会成为这封电子邮件的受害者，除非他们是这个虚构的汤姆 谁知道这个虚构的萨拉，在这种情况下，它可能非常诱人。学习模仿 真正的萨拉的写作风格，了解到真正的汤姆在这个食物银行做志愿者，还有萨拉在那里工作对人类来说可能很难，但对计算机来说很简单。 计算机经过优化，可将元素从堆积如山的公共、泄漏或 被盗数据，上面的电子邮件编写成本不到半美分。这只是一个问题用数据库中的数据填充下面提示的带下划线的部分，然后是AI 文本生成器可以休息。* *这个特定示例由GPT-3编写，仅显示提示。 提示网络钓鱼电子邮件 汤姆已经在首都地区食品银行做志愿者两年了。萨拉作品首都地区食品银行，需要说服他将他的信息添加到列表中她即将举行的活动的网站。她的电子邮件描述了这一事件： 汤姆, 这项技术尤其令人担忧，因为历史上只有少数几个高 个人资料受害者已成为这种质量和特异性的目标，但很快就会成为目标 向群众释放。像这样的大量有针2 对性的电子邮件为攻击者提供了 许多优点，但它也带来了风险。更多恶意电子邮件提供防御者有更大的机会注意到攻击并开始隔离和 清理。因此，攻击者可能会尝试发送足够的电子邮件以最大化他们的有机会在不提醒受害者的辩护人的情况下访问网络。 为了模拟这种情况，我们假设攻击者的目标是至少妥协 目标组织中任何地方的一个帐户，而不会提醒防御者。我们也假设如果防御者被告知任何网络钓鱼消息，他们可以 使用该消息中的信息（例如有效负载、标头或出站链接）以查找广告系列中的所有其他网络钓鱼邮件。有了这些假设地方，模型非常简单。输入是1）可*能的受害者的点击率，2）自动方法将给定的网络钓鱼电子邮件报告给 辩护团队，以及3）人类将报告给定网络钓鱼电子邮件的概率辩护团队。然后我们进行两个计算：1）广告系列的概率 将成功网络钓鱼组织中的至少一名受害者，而不会提醒防御者， 2）最大化该概率的最佳消息数。 作为没有人工智能的基线，我们使用3%的点击率，即 当前各组织的估计点击率中位数。3点击率增长接近30 百分比，用于精心定制的电子邮件，例如鱼叉式网络钓鱼活动中使用的电子邮件。4为这项研究我们想象人工智能系统可以像人类作家一样有能力，所以我们使用 30%为AI生成的点击率。表1提供了其余的以及模型的输出参数。 *具体来说,方程是P未被发现的感染=P感染P没有警报P感染=1-(1-p点击)N和P没有警报=P人类的警报-P机器警报P人类的警报P机器警报)N. 单击计算机人类未被发现 最优 表1：网络钓鱼活动的参数和结果 模型配置 率 警报 率 警报 率 入侵 概率 消息数 人为的邮件 3% 1% 1.5% 28% 26 AI-Generated邮件 30% 1% 1.5% 84% 9 AI-Generated邮件vs。改进的探测器 30% 25% 0.5% 28% 2 来源：AndrewJLohn和KrystalAlexJackson，“人工智能会制造网络剑还是盾：一些数学模型的技术进步。” 没有AI增强功能的基线有28%的几率 成功且未检测到的网络钓鱼活动，攻击者应发送26 消息以最大化其概率。如果人工智能能像一些人一样写得令人信服鱼叉式网络钓鱼活动，这将点击率提高到30%和 一个成功且未被发现的活动跃升至84%，只有九条消息。如果自动警报，则未检测到成功的概率将下降到28% 系统还进行了改进，足以在25%的时间内检测网络钓鱼。在这种情况下，最优的消息数量只有两个。 鉴于这些结果，可以自动化网络钓鱼的计算机的威胁会增加攻击者的赔率很大。另一方面，最佳消息数 自动化活动足够低，人类可以编写它们。自动化 网络钓鱼会增加成功的几率，但会减少以下消息的数量： 攻击者需要写。如果人工智能辅助自动检测得到改善，它将减少攻击者消息的最佳数量甚至进一步降低其几率 成功。 对于已经经常成为攻击目标的组织的维护者来说，这意味着有理由认为自动网络钓鱼不会显着改变威胁。.AI- 能够写入许多消息的启用系统将反过来提供更多机会抓住入侵者。对于以前针对性较低的组织的维护者 不过，它可能会产生更大的影响。攻击者可能能够自动化针对许多组织而不仅仅是少数组织的运动，扩大了 经济上可行的攻击目标。一个攻击者可能出现的前景针对许多维权者为这些维权者工作创造了额外的激励一起。如果防御者能够快速分享诸如 恶意网站的地址或电子邮件标题中的信息，以便所有组织受益于ONE的网络钓鱼检测。 阻止攻击者利用人工智能生成的网络钓鱼可能希望渺茫能力。这表明，除了改善信息共享外，最大的 防御者可以通过提高自动检测能力来获得收益。沿 这些行，该模型表明，即使是自动网络钓鱼的适度进步 检测技术对防御者来说可能是双重好处。它减少了攻击者的广告系列的成功几率，它还可以减少 运动。如果攻击者担心他们的电子邮件被标记为网络钓鱼，那么检测的改进可以促使他们发送更少的电子邮件，甚至可能 这种程度，以至于他们可以轻松地手动编写它们。 漏洞发现 作为访问网络的替代方法，或将攻击推进到初始攻击之外入侵，攻击者可能会利用受害者系统中的漏洞来推进他们的攻击。这些漏洞是攻击者可以利用的错误，以允许他们访问 并控制目标的计算机和网络。两者都有许多最优秀和最聪明的人进攻和防守花费时间寻找这些缺陷来利用或 补丁。大多数最大的头条新闻和令人沮丧的事情都发生在他们发现一个新的，但他们并不孤单地进行搜索-自动化方法是已经是该搜索的重要组成部分。在本节中，我们将考虑如何 如果这些自动化方法可以更好地模仿人类，搜索可能会有所不同智能，幸运的是，有数据可以帮助理解这些差异。 漏洞研究人员有一些自动化技术来查找漏洞 例如符号执行或模糊处理。一般而言，符号执5行分析尝试确定哪些输入在模糊测试时会导致崩溃的代码只是用各种输入组合淹没系统或程序，以试图 崩溃它。它们是标准且不可或缺的技术，但今天的机器不是匹配人类。美国国防高级研究计划局的网络大酒店 挑战渴望缩小这一差距，而中国的漏洞发现竞赛， 机器人黑客游戏继续试图推动这一前沿。6 从建模的角度来看，机器类似于人类群体。—他们的发现率都被证明遵循所谓的幂律 分配。这意味着7 他们发现新漏洞的能力会下降 时间，但一些漏洞仍然可以在很长一段时间后被发现。这对于基本模糊测试方法和人类群体都是如此，但对于不同的 度。确切地说，他们发现了多少漏洞
