腾讯云资管行业高级架构师杨磊主讲,内容围绕证券基金期货行业数智升级,核心观点是AI驱动的信创新动能推动行业向云智算中心升级。
计算层面:
- 成功升级为云智算中心,高性能计算集群HCC与多款国产化GPU完成适配。
- 存储采用TurboFS并行存储,支持1000万IOPS。
- 网络采用IHN软硬一体星脉网络,实现无损RoCEv2 RDMA互联。
- TCE中立性决定拥抱纳管各类GPU、NPU异构算力,包括英伟达、昇腾、昆仑芯等,弥补DeepEP在RoCE网络上的短板。
AI智算:
- AI智算是计算、存储、网络密集型场景,木桶效应明显,速度和性能压榨是核心。
- AI与大数据双向驱动与融合发展,从割裂走向融合统一集群:云原生数据湖+AI,统一算力存储,支持统一异构资源调度和在离线混部。
- 统一元数据:多模态数据统一元数据、统一数据面权限管理、全域数据治理。
- 统一开发:DataOps+MLOps+LLMOps平台一体化。
- AI4Data:数据治理Agent、开发运维Agent、问数分析Agent。
- Data4AI:模型增训依赖高质量数据源检索、增强整合多模态私域数据、联网搜索等。
信创数据库:
- LLM能力下沉至DB全链路,向量支持AI生态集成。
- 向量检索性能优化,SQL+向量融合检索,多模态统一处理。
- LangChain、LlamaIndex生态集成,AISQL诊断。
信创操作系统:
- OS走向AI原生操作系统,TencentOS Server AI通过内核性能优化/安全加固。
- 训练框架TACO-Train,推理框架TACO-LLM,算力监控算力管理。
- 生成模型|思考模型|工具模型可编程调度器AI助手/知识库/生成提问OS4AI。
- TACO-LLM训推加速,在DeepSeek-R1满血版场景下,TTFTP95响应时间最高降低6.25倍,吞吐提升2倍,端到端延迟降低100%。
信创AI平台:
- AI大模型全链路工具自主可控,Intel/AMDCPU异构算力平台。
- 算力层信创CPU信创GPU/NPU,NvidiaGPU模型部署。
- 模型层LLMops平台,数据标注运维监控,训推加速RAGAgent。
- 开发层低代码开发平台,WorkflowMCP插件,Multi-Agent投顾智能体。
- 智能体应用层投研智能体、办公智能体。
腾讯云信创5T产品矩阵:
关键数据:
- GPU利用率提升3-10倍。
- TTFTP95响应时间最高降低12.5倍。
研究结论:
- AI驱动的信创新动能推动证券基金期货行业向云智算中心升级,实现AI与大数据融合,提升算力利用率,构建自主可控的AI平台。