英特尔：2023云原生产业大会构建可信AIGC云原生应用

核心观点与关键数据

• 机密容器（Confidential Containers）：作为英特尔软件与先进技术事业部系统软件高级总监刘秉伟于2023年12月1日提出的方案，旨在通过硬件TEE（可信执行环境）技术保护应用、模型和数据，构建可信AIGC应用。
• 云原生与机密计算结合：聚焦应用弹性、高密度部署，将基础设施服务提供者排除在可信计算基（TCB）之外，提供安全上云的新范式。
• 设计原则：基于广泛的业界支持（2022年3月成为CNCF沙箱项目），具备完整安全特性，易用无需应用修改，易于部署运维，并集成各类云服务。
• 端到端零信任覆盖：实现运行时/存储/网络/secrets的零信任覆盖，采用Pod级TCB设计，解决IT运维人员天然不可信的问题。

技术路线图

• 基于硬件TEE的安全加固：利用Intel®信任域扩展(TrustDomain eXtensions)技术，实现机密容器的安全加固。
• Intel®Extension for PyTorch*优化：针对大语言模型进行优化，包括：
  • 高效的LLM定制化GEMM内核，充分发挥AMX和DDR5性能。
  • Indirect access KV cache优化LLM的MHA计算瓶颈。
  • 面向LLM典型结构的算子融合算法。
  • 多种低精度数据类型支持（BF16, INT8, INT4）。
  • 内置多CPU/多节点扩展支持，提升弹性扩展性能和性价比。

研究结论

• 私有数据中心应用：在私有数据中心上构建可信AIGC应用，保护关键模型。
• 安全上云新范式：通过机密容器技术，实现安全上云，排除基础设施服务提供者对TCB的访问，构建端到端零信任环境。