DeepSeek开源周展示的推理成本优化技术,核心在于通过计算资源智能调度、数据存储架构优化、网络传输优化等AI infra底层能力,实现更少硬件投入下支持更多用户并发,提升云服务盈利能力。其核心启示是AI推理业务规模化部署需依赖强大的AI infra能力,而非简单硬件堆叠。
深信服作为国内首批支持Nvidia vGPU9.0虚拟化解决方案的厂商,具备领先AI infra能力。其AICP算力平台在多实例并发推理场景中性能提升5-10倍,后续融合DeepSeek开源技术后,私有云场景下AI infra能力有望进一步强化,帮助用户以更低成本高效部署推理业务。