一、现状与挑战
- DeepSeek: 自2024年3月至2025年3月，中国大模型经历了从技术到产品再到市场的快速发展。DeepSeek凭借其开源、智能和人文关怀的特性，在C端和B端市场都取得了巨大成功。B端企业通过使用DeepSeek并将其与自身数据进行结合，可以构建专属的行业大模型。
- 行业大模型: 从通用大模型到行业大模型的演进需要经过企业大模型的阶段。企业大模型目前主要采用推理和微调两种方式，但都面临着数据流通不畅和算力使用不便的挑战。行业大模型目前还处于研究阶段，主要探索将行业内多家企业的数据汇集起来训练模型，或通过群体协作方式相互启发增智。
- 算力网加速: 云部署和一体机是企业部署DeepSeek的两种主要方式，但都存在着各自的缺点。算力网可以通过专用网络实现数据、算力和模型跨广域的自由高效流通，为用户提供最优匹配、按需启停、精准计量、效用付费的算力资源供给能力。
二、算力网加速解决方案
- 方案定位: 未来网络打造的算力网加速解决方案，基于广域确定性网络传输能力，连接用户本地和全网算力资源，实现全域算力按需供给、数据可信流转和模型实时同步。
- 总体架构: 方案包括用户管理、算力阀、算力表、运维管理和安全管理五个模块，支持用户以多种形态接入，并提供PaaS层数据、算力、模型的一体化任务式调度和按需服务能力。
- 部署方案: 推理应用层和微调应用层都支持四种典型的部署方案，包括本地部署、云端增值部署、本地部署+云端增值部署和独立CPU服务器部署。
- 业务流程: 推理业务包括推理任务协同调度和负载均衡推理服务两个阶段；微调业务仅涉及管理员用户发起微调部署任务。
- 关键能力: 方案具备极简接入、柔性访问、安全流转和可观可感四大关键能力，有效解决数据传输、资源调度、数据安全和任务监控等方面的挑战。
三、算力网资源量化测评
- 测评概述: 未来网络团队对H20、L40、V100等三种英伟达GPU，以及5款主流国产智算芯片进行了多维度的资源量化测评，为算力网调度策略的制定与优化提供了性能基线。
- 吞吐测评分析: 测评结果显示，H20、D卡、E卡等算力卡性能表现较好，随着并发数增加，各个卡型的输出Token吞吐呈现从快速增长到趋于平稳的走势。
- 时延测评分析: 测评结果显示，在小并发情况下，各种算力卡环境的TTFT与TPOT对比趋势基本一致，在大并发情况下，部分算力卡性能到达瓶颈、性能骤降。
四、典型场景与应用案例
- 入企: 苏交科集团和苏州某医疗研究所分别利用算力网加速平台，实现了交通规划报告和医疗问答推理的推理加速，显著提升了推理速度和效率。
- 入园: 南京笑领科技有限公司利用算力网加速平台，实现了医疗诊断微调，有效提升了推理准确度，并通过确定性网络提升了微调效率。
- 入校: 贵州师范大学利用算力网加速平台，实现了基因检测编辑，精准识别出普安哈马四球茶、团龙贡茶古茶树等多样性重点或划片保护对象，并根据亲缘远近关系选育出鸟王种茶树与鱼钩茶古树等优良杂交种。
- 政务: 江宁区数据局利用算力网调度系统与政务通智能体，结合浪潮大模型一体机与远端算力资源，试点以本地部署的大模型作为计算核心枢纽，支持快速响应本地数据处理需求，并通过灵活调用云端算力，保障智能体在高并发场景下的稳定运行。
