趋势科技2025年安全预测：守护人工智能未来

Trend Micro安全预测：2025年

核心观点与风险预测

2025年，消费者数据将成为地下经济中的热门商品，预计网络犯罪损失将超过10万亿美元。犯罪分子将继续利用新技术和薄弱环节，扩大攻击面，增加企业风险。人工智能（AI）成为犯罪计划的主要推动者，利用其增强、加快和改进攻击运营。犯罪分子将寻求阻力最小、最容易获取的途径，公开可访问的数据存储和滥用合法工具将成为热门目标。

主要风险预测

1. AI赋能的网络安全犯罪

   • 深度伪造技术：将成为最严峻的AI相关威胁，用于实施新的诈骗和犯罪活动，使社交工程诈骗更难分辨。
   • 大型语言模型（LLM）：将用于超个性化诈骗，模仿写作风格、知识和个性，制造逼真假冒身份。
   • 绕过KYC服务：利用无意中暴露的生物特征信息、泄露的个人信息和AI能力，持续为诈骗分子提供便利。
   • AI代理漏洞利用：恶意个人可能操控AI系统执行有害行为，以模仿的身份呈现。
   • AI供应链攻击：针对依赖AI的企业，可能导致严重后果。

2. 高级持续性威胁（APT）

   • 国家行为者：将继续针对云环境、军事技术及其供应链，例如Earth Hundun、APT29、沙虫组织等。
   • 犯罪和雇佣兵群体：如Void Rabisu和达芬奇集团，从事间谍活动，利用虚假信息加深社会分裂。
   • 地缘政治紧张局势：冲突区内外的企业面临新风险，需采取主动、面向未来的战略。

3. 漏洞与脆弱性

   • 内存管理漏洞：如越界写入/读取，仍被威胁行为者利用，预计将继续成为攻击目标。
   • 移动创新中的漏洞：不同平台漏洞可能蔓延，车辆系统集中化增加攻击风险。
   • 容器逃逸事件：预计将增多，电动汽车充电系统和车载信息娱乐系统面临威胁。

4. 勒索软件

   • 合法工具利用：勒索软件团伙将利用合法工具进行数据窃取和伪装攻击活动。
   • 攻击工具趋势：恶意广告、信息窃取器等将更高效，AI将用于增强攻击效果。
   • 攻击目标：AI训练环境、AI访问基础设施、云配置错误等将成为重点。

研究结论

• 攻击面持续复杂化，传统安全措施面临挑战，需实施基于风险的网络安全方法。
• AI将使网络犯罪更易、更快、更致命，但也可用于提升防御能力。
• 企业应优先采取稳健的安全措施，包括强化代码执行沙盒环境、实施严格的数据验证和多层防御。
• 教育用户安全使用AI，密切监控AI技术，防止滥用。
• 集成大型语言模型的企业需确保AI整合的安全性，保障输入验证和响应验证。
• 积极主动的安全观和持续监控至关重要，以应对不断涌现的安全创新。