大模型时代研发运营领域的场景应用趋势展望
大模型时代背景概述
大模型(LLM)颠覆了人工智能产业,加速生态变化。政策助力大模型快速发展,2023年多部门发布政策鼓励生成式AI创新应用,北京、上海等省市出台措施加速大模型落地。大模型基础设施化发展,成为智能时代的基础设施,形成IaaS-PaaS-MaaS模型,赋能千行百业。
大模型在研发运营领域的应用现状
大模型现阶段主要应用方式为公有化部署和私有化部署。大模型分类包括通用大模型、行业大模型、垂直大模型和专有大模型。行业大模型应用案例丰富,如谷歌Med-PaLM、FinGPT、同花顺HithinkGPT等。研运大模型国内外实践现状包括OpenAICodex、GitHubCopilot、谷歌AlphaCode、清华大学CodeGeeX、百度Comate、华为PanGu-Coder等。
大模型驱动的研发运营场景展望
研运大模型技术基于Transformer模型,结合研发、测试、运维领域的私域数据。研运大模型是针对软件研发、测试、运维领域的大型预训练模型,通过私域数据定制化训练形成,以私有化方式部署为主。大模型全面赋能研发运营领域高质量发展,形成面向行业各场景的研运大模型框架。
软件研运大模型构建方式
打造研运行业大模型需要高效的工具与流水线化加工,包括语料收集与治理、基座模型选择与预训练、模型微调、模型评测与优化等。大模型的进化依靠人工反馈的强化学习,需要专业人士编写提示词。行业大模型常用的精调算法包括有监督精调和参数高效精调等。
软件研运大模型参考架构
大模型基于基础公共语料及行业研运数据私有语料,提供面向场景的应用服务平台。
研运大模型场景能力现状
大模型技术在研发、测试和运维领域的应用正逐步成熟,未来将更加注重与现有工具和流程的集成,提供更加个性化和智能化的服务。主要应用场景包括:
- 研发场景:代码生成与辅助、代码理解和重构、自动化测试用例生成、缺陷检测与预测等。
- 测试场景:精准测试、智能测试管理、交互式测试、测试结果分析等。
- 运维场景:智能监控采集、实时监控与响应、预测性维护、多模态数据融合等。
研运大模型主要应用场景
- 研发场景:需求设计、项目、开发、度量、协同。以开发-辅助代码生成场景能力为例,研究该场景能力演进趋势,并拟定对应的有效性评价指标。
- 测试场景:测试执行-精准测试,运用大语言模型技术辅助对测试过程的活动进行监控,并使用量化数据进行质量评价。
- 运维场景:智能监控采集,运用大语言模型技术对系统数据进行检测并采集,提取出有价值的信息,实现异常风险的实时监控、预警。
研运大模型痛点问题及核心目标
研运大模型发展所面临的主要痛点包括计算资源的高需求、数据安全与隐私保护的挑战、模型可解释性的缺失、内容可信度的风险等。核心目标集中在加速技术迭代、定制化行业应用,构建健康的技术生态,推动模型的商业化落地,助力研发运营大模型高质量发展。