人造的未来 趋势科技 2025年资安预测

核心观点与关键数据

• 2025年网络安全趋势概述：预计2025年消费者数据将成为网络地下市场的热门商品，企业将因网络犯罪分子遭受高达10亿美元左右的损失。黑客将不断开发新的攻击方法，企业风险将因攻击面扩大而攀升。人工智能（AI）是黑客阴谋背后一项重要的驱动力，黑客将利用AI来强化、加速及改善其运营，并瞄准企业至今依然最脆弱的环节——使用者。
• AI时代的欺诈：深度伪造（Deepfake）将成为未来最严重的AI相关威胁，黑客将利用其进行新的欺诈与犯罪阴谋。变脸欺诈（BEC）与假扮成员工的欺诈将最令人担忧。黑客将利用AI系统漏洞假冒其数字身份，诱骗AI执行有害或未经授权的动作。AI将使得黑客更有效率、更即时地推出网路钓鱼套件。
• 值得注意的AI网络犯罪与恶意活动：在社交媒体建立大量看似真实用户的机器人、模仿社交媒体用户的方式散播内容、持续散播既有错误信息来放大外部恶意影响力、专门寻找内心孤独且脆弱的人、AI软件工程师、AI模型网页抓取等。
• 更好的网络攻击扩展性：AI将使黑客有能力以各种不同的外语与受害者互动，AI代理将大量出现，AI开启了高度个性化攻击的可能性（包括网路钓鱼、大众舆论操弄、欺诈）。
• 企业中的AI：自动化将掩盖瑕疵、无法察覺，企业将面临AI代理自主使用其工具和电脑带来的风险，包括意外揭露机敏资料、漏洞利用、被误导从事未经授权或恶意的活动、服务中断等。
• APT攻击：国家级黑客集团（如Lazarus、Turla、PawnStorm）将更加活跃，继续锁定外交信息、军事技术以及相关供应链，其他黑客与雇佣兵集团也将从事间谍活动。地缘政治紧张局势与冲突将为企业带来更高的风险。
• 漏洞：记忆体管理漏洞（如越界OOB写入/读取漏洞）将继续成为黑客的工具，合并运用记忆体损坏漏洞与逻辑漏洞的技巧将流行，API漏洞将为云端资源带来麻烦，容器跳脱漏洞将增多。老旧简单的漏洞（如跨网站脚本XSS与SQL数据隐藏攻击）依然会流行，行动创新领域也面临新风险，如平台标准化带来的连锁效应、车用系统整合带来的攻击面扩大等。
• 勒索病毒：勒索病毒集团将加倍利用合法工具来隐藏攻击行踪、提升权限，攻击步骤减少，攻击能更快完成。黑客将利用IoT设备、更有效率的资讯搜刮、与恶意广告攻击等技巧。
• 攻击目标：瞄准配置错误的网络将更加精密，使用AI自动化的攻击方法将崛起，企业可能面临严重冲击，包括信息泄露引起的法律责任、财务损失、客户信任危机等。

研究结论

• 黑客将全力开发AI的潜力，让网络犯罪变得更迅速、更容易、更致命。
• AI同样也可能成为企业安全的利器，例如威胁情报分析、资产状况管理、攻击路径预测等。
• 尽管创新带来了新的攻击方式，但黑客仍不会放弃那些容易成功且多年来的攻击手段。
• 攻击面将变得更加复杂，传统安全措施将受到更严格的挑战。
• 建立一套风险导向的网络安全方法至关重要，企业应集中发掘各类资产并有效评估及防范风险。
• 企业应建立防护措施来保护任何AI整合环境，密切监控和保护AI技术以防止滥用。
• 已导入LLM的企业应优先建立严密的安保措施，包括强化沙盒环境、实施严格的数据检查、部署多层式防御等。
• 教育使用者了解如何安全地使用LLM、避免机敏资料曝光、掌握最新的威胁，这些都能进一步强化安全来防范AI系统的复杂漏洞。