新能源发展现状与新型电力系统
随着“双碳”目标的推进,中国新能源装机规模持续增长,风电、太阳能发电总装机已超过14.1亿千瓦,占总发电装机比重超40%,提前完成2030年目标。大规模新能源接入推动电力系统向以新能源为主体的新型电力系统转型。
适应新型电力系统的新一代预测方法
传统预测方法存在知识形式化难、泛化性差等问题。大模型技术为能源时间序列预测提供新思路,通过多模态强泛化能力提升预测精度。
传统时间序列预测模型 vs 基于大语言模型的时间序列预测模型
- 传统模型仅考虑单一风电场数据,维度单一,信息利用不足
- 大模型融合文本、时序数值等多模态数据,理解预测任务的“语义”,超越单纯数值拟合
当前任务问题与核心弊端
- 多任务统一建模与同步预测方法存在研发工作量指数级增长、模型间信息无法共享等问题
- 大模型通过基座模型框架实现区域内所有风电场的统一建模与同步预测,打破单一风场限制,实现零样本学习
基于预训练大模型的超短期风电场功率预测(M2WLLM)
核心技术
- 双路嵌入机制:提示词嵌入器处理文本,数据嵌入器处理数值时间序列
- 语义增强机制:通过交叉注意力机制将数值数据映射到LLM的语义空间
- Prompt设计:结构化自然语言提示词提供语义指导,激活LLM预训练的物理知识
模型微调模式
- LoRA微调模式:冻结LLM骨干网络参数,仅更新低秩矩阵,降低训练资源需求,提升小样本学习能力
实验结果
- 在内蒙古、甘肃、云南三个区域风电场数据集上,M2WLLM在所有预测时间尺度(15分钟、1小时、2小时、4小时)上的MAE和RMSE均显著低于对比方法(LSTM、Transformer、GPT4TS)
- 加入数值天气预报(NWP)信息能持续降低预测误差,且预测时间范围越长,NWP信息影响越显著
- M2WLLM选用GPT2作为骨干网络,4层后提升不显著,模型有效性更靠架构,训练计算需求适中
面向零样本风电功率预测的基座模型(WindFM)
面临的挑战
- 主流方法依赖特定场站数据,泛化能力差,开发和维护成本高昂
解决方案
- WindFM借鉴自然语言处理经验,将数值预测问题转化为“语言模型续写”任务
- 在包含12.6万个站点、约1500亿时间步的庞大风能数据集上进行自回归预训练
核心框架
- Time-seriesTokenizer将连续数据“翻译”成离散“风况词汇”,内化大气物理与风力发电的普适规律
- 基座模型无需针对特定风场微调即可实现高精度预测
实验结果
- WindFM在零样本场景下表现突出,轻量级设计下优于通用基础模型和目标风场专用模型
- 跨地域泛化能力:美国数据集预训练的模型对中国内蒙古风场预测误差显著低于专门训练模型
- 概率预测能力:在所有评估场景下实现最低CRPS和AQL,优于其他基础模型和适配模型
- 灵敏度分析:确定性与概率性任务的最优参数设置明显不同
模型开源链接
- https://github.com/shiyu-coder/WindFM
未来展望
- M2WLLM代表基于“适配”的参数高效微调范式,展现卓越小样本学习能力,为新风场快速低成本模型部署提供高效解决方案
- WindFM代表基于“专攻”的领域专用基础模型范式,实现零样本预测性能和跨地域泛化能力,成为“基座模型训练”解决方案
- 长远愿景:构建覆盖风、光、储、荷等多领域的大模型,为电力系统优化调度、规划决策提供更高层次智能支持,赋能新型电力系统安全、经济、高效运行