power-market-trading-docs/markets/us/forecasting_open_ecosystem_zh.md

380 lines
37 KiB
Markdown
Raw Normal View History

# 美国批发电力市场预测的开放模型、数据集与基准
**范围:** 美国七大 ISO/RTO 市场CAISO、ERCOT、PJM、MISO、SPP、NYISO、ISO-NE的日前DA电价、实时RT电价、负荷/需求、可再生能源出力与容量。
**状态:** 于 2026 年 7 月编纂并核验。除非另行标注,所列内容均为免费/开放资源。已通过网络核验的条目标记为 ✅;来自通用领域知识、在依赖之前应重新确认的条目标记为 ◻︎。
---
## 1. 如何阅读本报告
美国批发市场的预测可以拆分为四个相关但各自独立的问题,每个都有自己的数据与基准生态:
| 预测对象 | 典型时间粒度 | 开放基准成熟度 |
|---|---|---|
| 日前电价LMP | 小时级,节点/分区/枢纽 | 中等(一个公认的学术基准,但已老化) |
| 实时电价 / 日前–实时价差 | 5 分钟–小时级,节点 | 弱(无标准基准) |
| 负荷 | 5 分钟–小时级,平衡区/分区 | 强GEFCom + 政府数据) |
| 风电/光伏(价格驱动因素) | 5 分钟–小时级,站点/分区 | 强NREL/ARPA-E 数据集) |
| 容量(装机与在建管道) | 月/年度,机组/项目 | 数据强,但本身无"预测基准" |
一个关键的结构性事实: **美国电价预测不存在像视觉领域的 ImageNet 那样唯一公认的基准。** 学术标准(第 4 节)使用了 PJM 的一个已老化的分区;从业者则用第 2 节的工具,从各 ISO 门户自行拼装定制数据集。请把第 2 节视为基础,把第 410 节视为在其之上构建的内容。
---
## 2. 数据获取层(从这里开始)
### 2.1 gridstatus ✅
**代码库:** https://github.com/gridstatus/gridstatus • **文档:** https://opensource.gridstatus.io
事实上的美国电网数据标准开源 Python 库。覆盖 CAISO、ERCOT、PJM、MISO、SPP、NYISO、ISO-NE另加加拿大的 IESO 与 AESO以及 EIA并在各数据源之上提供统一的标准化 API。可用数据集因 ISO 而异):负荷、负荷预测、燃料构成、日前与实时 LMP、辅助服务价格、储能、光伏/风电预测、发电机组停运以及并网排队队列。
它对预测的具体意义在于:
- 它暴露了各 ISO **自己发布的预测** (负荷、风电、光伏)——这些既是模型特征,也是任何新模型必须击败的运行基线。
- 它抹平了各 ISO 的怪异之处(例如把 NYISO 的阻塞符号约定翻转,使之与其他 ISO 一致;处理 ERCOT 的 API 迁移)。
- 注意事项:历史深度因 ISO 与数据集而异;部分 ISO 端点需要免费注册/API 密钥PJM Data Miner、ERCOT 公共 API、ISO-NE 网络服务);节点级 LMP 拉取数据量很大PJM 拥有超过 10,000 个定价节点——单日的小时级实时节点数据约 30 万行)。
同一团队还运营着一个托管 APIgridstatus.io带有免费额度和数据目录——很方便但直接针对 ISO 门户使用的开源库是完全免费的。
### 2.2 原始 ISO 门户(免费、权威) ◻︎
全部七个 ISO 都公开发布日前/实时电价、负荷与预测。这些是 gridstatus 所封装的真值来源:
| ISO | 门户 | 说明 |
|---|---|---|
| CAISO | OASIS (oasis.caiso.com) | 全部节点的日前小时级 + 实时 15 分钟/5 分钟 LMP无需注册 ✅ |
| ERCOT | MIS / ERCOT Public API (data.ercot.com) | 按结算点的 SPP60 天 SCED/DAM 披露文件独具丰富度(报价曲线、遥测,滞后 60 天发布) |
| PJM | Data Miner 2 (dataminer2.pjm.com) | 免费 API 密钥;深度 LMP 历史、负荷、预测、停运 |
| MISO | Data Exchange / Market Reports (miso.com) | 基于 API 的访问于 2020 年代中期推出;请查证当前端点 |
| SPP | Marketplace 门户 / SPP 文件服务器 | LMP、MTLF负荷预测、风电预测 |
| NYISO | OASIS + 开放 CSV 归档 (mis.nyiso.com) | 属于最易批量下载的一类;分区 + 节点,数十年历史 |
| ISO-NE | Web Services API / ISO Express | 免费注册;小时级日前/实时 LMP、负荷、预测 |
两个值得了解的 ISO 专属亮点ERCOT 的 **60 天披露** 数据(真实的资源级报价与调度,是全美唯一能看到近乎完整报价堆栈的地方,滞后 60 天),以及 PJM/MISO 的 **发电机组停运** 报告,它们是实时电价模型的一阶特征。
### 2.3 EIA联邦
- **EIA API v2** api.eia.gov免费密钥通过 **Form EIA-930** "小时级电网监测器"Hourly Electric Grid Monitor提供每个美国平衡区自 2015 年 7 月起的小时级需求、日前需求预测、按燃料的净发电量以及交换电量。同时还有燃料价格、月度发电量等诸多数据。
- **清洗后的 EIA-930 需求** Ruggles、Farnham 等):对 CONUS 内 56 个报送需求的平衡区的小时级需求进行筛查 + MICE 插补。方法学论文:*Scientific Data* 7, 155 (2020)doi:10.1038/s41597-020-0483-x。数据在 Zenododoi:10.5281/zenodo.3517196)与 GitHub`truggles/EIA_Cleaned_Hourly_Electricity_Demand_Data`上做了版本管理。2025 年 1 月发布的版本覆盖 2020-01-01 → 2025-01-01含平衡区子区域。这是学术工作中标准的清洗后负荷数据集——原始 EIA-930 含有缺失/异常值,否则你必须自行处理。
- 注意 EIA-930 的已知问题指南平衡区报送数据有其怪异之处时区约定、修订正因如此PUDL见下文对此仅保留 UTC 时间戳。
### 2.4 PUDLCatalyst Cooperative
**文档:** https://catalystcoop-pudl.readthedocs.io • **代码库:** catalyst-cooperative/pudl
一个开放数据管道,将 **EIA-860/860M/861/923、EIA-930、FERC Form 1 与 EPA CEMS** 清洗并关联成可直接用于分析的表Parquet/SQLite也在 Datasette 与 Kaggle 上提供)。它是以下工作的首选来源:
- **容量:** 机组级发电机特性、容量、燃料、计划新增与退役EIA-860/860M
- **发电量与成本:** 月度机组发电量与燃料成本EIA-923、公用事业财务FERC 1
- **小时级机组运行:** 化石机组的 EPA CEMS 小时级毛负荷与排放——实际上是历史机组组合的开放代理变量,对结构性电价模型极具价值。
- EIA-930 的需求/预测/交换电量表(除小时级 CO₂ 外,其余均可通过 PUDL 获取)。
### 2.5 天气(每个模型的另一半) ◻︎
- **NOAA HRRR** 3 公里小时级CONUS通过 NODD 免费提供于 AWS/Google/Azure——美国运行级负荷/可再生能源特征的主力;`herbie`Python是标准访问库。
- **GFS/ECMWF 开放数据** 用于更长时间尺度;**ERA5** Copernicus用于再分析/回测。
- **NOAA ISD/ASOS** 站点观测用于实况值。
- **Open-Meteo** ——免费 API便捷地暴露 HRRR/GFS/ECMWF 预测与历史归档。
- 回测注意事项:对于本应在预测时刻可得的特征,请使用 **归档预测** 时点数据而非再分析数据。AWS 上的 HRRR 归档可回溯至约 2014 年。
---
## 3. "要击败的基准"在运行层面意味着什么
在任何机器学习之前:每个 ISO 都发布 **自己的日前负荷预测** ,若干 ISO 还发布风电/光伏预测(均可通过 gridstatus 获取)。对于电价而言,日前 LMP 本身就是市场对实时状况的一致预测而简单基准持续法、含季节性的朴素法、以日前电价作为实时预测量都很强。任何严肃的研究都应报告相对于这些基准的技巧skill而不仅是绝对误差。
---
## 4. 电价预测(日前与实时)
### 4.1 公认的学术基准Lago 等人 / epftoolbox ✅
**论文:** Lago, Marcjasz, De Schutter, Weron, "Forecasting day-ahead electricity prices: A review of state-of-the-art algorithms, best practices and an open-access benchmark," *Applied Energy* 293:116983 (2021)。
**代码/数据:** https://github.com/jeslago/epftoolbox (AGPL-3.0) • 文档epftoolbox.readthedocs.io
它提供了什么:
- **五个开放数据集,每个六年** 的小时级日前电价 + 每个市场两条外生预测序列EPEX-BE、EPEX-FR、EPEX-DE、Nord Pool以及 **PJMComEd 分区)** ——集合中唯一的美国市场(数据止于 2018 年)。
- **两个开放参考模型** LEARLASSO 估计的自回归模型)和一个经超参数优化的 DNN可在任何日前市场上实现且无需专家调参。
- **评估基础设施** MAE/sMAPE/MASE 类指标,加上 **Diebold-Mariano 与 Giacomini-White** 统计检验,以及预先计算好的最新前沿预测,使你无需重新训练任何模型即可比较。
- 一份被广泛引用的 **最佳实践清单** (长滚动测试窗口、开放数据、统计检验、强的简单基线)——可以说是本论文最持久的贡献。
用于美国场景的局限:只有一个美国分区,数据止于 2018 年(早于当今由储能/可再生能源驱动的价格机制以及诸如冬季风暴 Uri 之类的事件)、是分区而非节点、其外生特征也很有限。它仍是该领域共享的标尺;数以百计的后续论文(单输出 vs 多输出神经网络、分布网络、可解释 AI 研究、Transformer 对比)都在其上评估。
### 4.2 开放的概率型 EPF 方法(构建于同一基准之上) ◻︎
Weron 团队Wrocław及其合作者维护着一批开放实现它们是标准的概率基线**分位数回归平均QRA** 及其变体、**分布深度网络** (例如带正态/JSU 输出分布的 DDNN——Marcjasz 等2023、**等渗分布回归** 、**保形预测** 方法以及用于多元24 小时联合)概率预测的 **Schaake shuffle** 。大多数在 GitHub 上有对接 epftoolbox 数据集的代码。指标弹球损失、CRPS、覆盖率检验DM/GW。
### 4.3 美国专属与实时电价工作:无标准基准 ✅(该缺口已核验)
- **实时电价与日前–实时("DART")价差** 主要在虚拟报价/交易文献中被研究(例如 LSTM/seq2seq 节点级 DART 预测、尖峰分类论文如 "Forecasting electricity DART spikes")。这些论文绝大多数使用自行拼装的 ISO 数据;有时会发布代码,标准化数据集则几乎从不发布。
- 近期的美国日前研究(例如用公开 ISO 数据 + 已发布的需求预测与发电容量数据对 ISO-NE 进行预测arXiv:2405.14893)体现了这一模式:公开数据、定制切分。
- 存在零散的开放代码库(例如 GitHub 上带配对负荷-天气数据集的 CAISO LMP 机器学习预测),但都是个人项目,而非受维护的基准。
**实践含义:** 对于美国节点/实时工作,你将从第 2 节的来源自建基准。标准配方:日前 + 实时 LMP目标、ISO 负荷/风电/光伏预测、发电与输电停运、净负荷特征、天然气价格(见第 11 节注意事项)、日历特征;在 ≥1 年(至少含一个夏季和一个冬季)上做滚动起点评估。
### 4.4 电价预测的开放模型 ◻︎(分层)
下面只有第一层是真正针对电价的;其余都是应用于电价的通用工具。
**第 1 层——专为 EPF 打造的开放参考模型。** epftoolbox 套件(第 4.1 节)是唯一被广泛接受、专为日前电价预测构建的开放模型集:**LEAR** LASSO 估计的自回归)和一个经超参数优化的 **DNN** ,两者都设计为可在任何日前市场上运行且无需专家调参。它们是每篇新 EPF 论文都被期望击败的基线而工具箱附带预计算好的预测因此比较无需重新训练。实践提示LEAR 以成本调整后难以击败而著称——一个在小时级电价滞后加负荷/可再生能源预测上调优良好的 LASSO就能捕捉大部分可实现的技巧。
**第 2 层——开放的概率型 EPF 方法** (研究代码,大多来自 Weron/Wrocław 团队):**分位数回归平均QRA** 及其变体、**分布深度网络** (正态 / Johnson's SU 输出——Marcjasz 等2023、**等渗分布回归** 、**保形预测** 封装,以及用于生成联合一致的 24 小时概率路径的 **Schaake shuffle** 。带代码发布,通常在 epftoolbox 数据上以弹球损失/CRPS 评估;它们是研究产物而非受维护的软件包,因此需要自行组装。
**第 3 层——应用于电价的通用开放框架** (大多数从业者实际使用的):
- **梯度提升树** XGBoost/LightGBM——表格化电价特征负荷/可再生能源预测滞后、停运、天然气代理、日历)的主力;在许多情形下,在多尖峰的美国节点数据上与深度网络持平甚至更优。
- **Nixtla neuralforecast** N-BEATS、N-HiTS、TFT、PatchTST、TimesNet、DeepAR 类)和 **statsforecast** ARIMA/ETS/Theta 基线);**GluonTS** 与 **Darts** 作为备选框架。
**第 4 层——开放权重时间序列基础模型:** Amazon **Chronos / Chronos-Bolt / Chronos-2** 、Google **TimesFM (2.x)** 、Salesforce **Moirai / Moirai-2** 、**TiRex** 、Datadog **Toto** 、**Lag-Llama** 。对 20252026 年文献的诚实解读:在负荷上零样本表现尚可,但电价——尖峰、负值、机制切换——仍是薄弱环节,而朴素的零样本使用通常不能击败带有恰当外生特征、调优良好的 LEAR/GBM。数据泄漏在公开基准上是一个现实关切第 8 节。它们在微调或协变量感知使用下才变得有意思Chronos-2 原生接受协变量)。
**第 5 层——结构/仿真型模型。** 开放的生产成本与最优潮流OPF栈——**PyPSA / PyPSA-USA** 、NREL **Sienna** PowerSimulations.jl、**Egret** 、**UnitCommitment.jl** ——针对开放合成电网RTS-GMLC、Texas 7k、Breakthrough Energy 美国测试系统)运行,从燃料价格、容量与拓扑仿真出 LMP。这是你预测纯统计模型看不到的 *结构性* 价格变化(进入、退役、输电)的方式。
**开放领域中不存在的东西:** 一个受维护、预训练、开箱即用、面向美国节点 LMP 的模型。商业厂商出售它;开放生态则是组合它——通常是每个节点/枢纽一个 GBM 或一个分布式神经网络、epftoolbox 风格的评估、以 ISO 预测作为特征。
---
## 5. 负荷预测
### 5.1 GEFCom经典基准 ◻︎
**全球能源预测竞赛Global Energy Forecasting Competitions** Tao Hong 等)仍是标准的学术负荷基准:
- **GEFCom2012** ——分层分区负荷(美国某公用事业)+ 温度;点预测。
- **GEFCom2014** ——用弹球损失确立了 **概率** 型负荷(以及电价/风电/光伏)预测;分位数负荷模型的参考数据集。
- **GEFCom2017** ——在 ISO-NE 分区上、带丰富天气数据的分层概率负荷。
数据通过竞赛论文(*IJF* 2014/2016/2019与 Hong 博士的网站drhongtao.com流传。年代久远是主要局限它们早于电气化/数据中心负荷增长。
### 5.2 系统级美国负荷 ✅
- **EIA-930** (原始数据经 EIA API清洗后经 Ruggles/Zenodo制表后经 PUDL——自 2015 年中起每个美国平衡区的小时级需求 + 平衡区自身的日前预测。以平衡区已发布的预测作为基线来预测特定平衡区的需求,是一个良定义且完全开放的任务。
- 通过 gridstatus 获取更细地理粒度的 **ISO 分区负荷 + 预测** (例如 PJM 分区、NYISO 分区)。
- 面向风险感知工作的 **ARPA-E PERFORM** 负荷实况值 + 概率预测(第 6 节)。
### 5.3 楼宇/馈线级(如需) ◻︎
**BuildingsBench** NREL约 90 万栋仿真楼宇Buildings-900K加上精选的真实楼宇数据集用于短期负荷预测配有为基础模型工作设计的预训练/评估切分——包括楼宇级预测的预训练 Transformer 权重。对批发市场问题而言属于过度配置,但在该尺度上是标准。
### 5.4 负荷预测的开放模型 ◻︎(分层)
负荷是最成熟的预测对象:模型更简单,开放基线也确实很强。
**第 1 层——经典回归基准。** 公认的开放模型是 Tao Hong 出自 GEFCom 谱系的 **"vanilla 基准"** 对日历效应小时、星期、月份与温度多项式项T、T²、T³ 及其与小时/月份的交互)交叉的多元线性回归。可轻易复现、完整发布,至今仍是标准基线——在分区负荷上以显著幅度击败它比预期更难,因为系统负荷主要由天气与季节性主导,而回归已经捕捉到了这些。文献中记录的各类变体(滞后/指数平滑温度、气象站选择、近因效应)汇集于 Hong & Fan 的开放获取概率负荷预测教程综述(*IJF* 2016
**第 2 层——GAM运行层面的主力。** 广义可加模型(对温度、年内时间、滞后负荷的平滑样条)是若干系统运营商实际运行的模型。开放工具:**mgcv** R是标准配有来自法国学派Goude、Obst 等)充分发布的配方,包括在线/自适应版本Kalman 滤波 GAM、专家聚合它们很好地应对了 COVID 需求变化。Python 原生替代:在相同特征上用 **分位数 LightGBM** ,性能相当。
**第 3 层——出自 GEFCom 谱系的概率方法:** 在 vanilla 特征上的分位数回归、分位数 GBM、**温度情景仿真** (将多个历史天气年份喂入一个点预测模型以获得预测分布——很可能是开放负荷预测中每行代码价值最高的技巧),以及姊妹预测组合。全部以可复现的细节发布,并用弹球损失评估。
**第 4 层——深度学习。** 与电价相同的框架neuralforecastN-HiTS/TFT/PatchTSTGluonTSDeepARDarts。深度模型在更细粒度节点/馈线、联合学习众多相关序列)上帮助最大,而在天气回归占主导的平衡区/系统级则意义较小。
**第 5 层——基础模型:负荷是它们最擅长的题材。** 系统负荷平滑、季节性强,且在预训练语料中大量存在,因此 Chronos、TimesFM、Moirai、TiRex 等在零样本下确实表现良好;若干 20242026 年研究发现 TimesFM 与任务训练模型持平甚至更优,尤其在长上下文下。两点注意:**数据泄漏** (公开负荷数据集就在预训练语料中,因此公开基准上的胜绩夸大了真实世界技巧)与 **协变量** (朴素的零样本使用忽略了天气预测,而大量运行技巧正存在于此——具备协变量能力的变体如 Chronos-2 或微调可弥合这一差距)。
**运行标杆:** ISO/平衡区发布的日前负荷预测(经 gridstatus或 EIA-930——它在实况值旁携带了每个平衡区的日前需求预测在系统级通常约为 12% 的日前 MAPE。一个在恰当样本外窗口上不能击败已发布预测的模型并未增加价值——而这是相当一部分已发表的深度学习结果悄然未能通过的检验。
---
## 6. 风电、光伏与"净负荷"驱动因素
### 6.1 ARPA-E PERFORM 数据集NREL ✅——最接近现代美国市场预测基准的资源
**门户:** https://data.openei.org/submissions/5772 • **文档:** https://github.com/PERFORM-Forecasts/documentation • DOI: 10.25984/1891136
面向 **ERCOT、MISO、NYISO 与 SPP** 的、时间同步的 **负荷、风电与光伏实况值以及确定性和概率性预测** 5 分钟分辨率覆盖站点、分区与平衡区级别。覆盖范围ERCOT 实况值 20172018 并含 2018 年预测MISO/NYISO/SPP 实况值 20182019 并含 2019 年预测。风电/光伏出力曲线既包含现有站点,也包含并网排队队列中的规划站点(截至 2021 年)。以 HDF5 分发于 AWS S3公开时间戳为 UTCNREL 技术报告记录了方法与误差指标。
它如今是文献中在真实美国电网数据上评估概率预测、保形校准与基础模型的常用基底。局限固定版本20172019、可再生能源为合成但经验证的实况值、无电价——你可以自担对齐失配风险将其与第 2 节的历史 LMP 配对。
### 6.2 资源数据集 ◻︎
- **NREL NSRDB** 太阳辐照度4 公里、半小时级1998 年至今)与 **WIND Toolkit** / **WTK-LED** (风能资源)——经 NREL API/OEDI 免费提供。
- 经 gridstatus 获取的 **ISO 发布的可再生能源预测** ERCOT STWPF/STPPF、CAISO、SPP、MISO——运行基线。
- **光伏/风电竞赛数据集** GEFCom2014 赛道;存在更近期的 Kaggle/CityLearn 类数据集,但没有一个是专门针对美国批发市场的。
### 6.3 可再生能源出力预测的开放模型 ◻︎(分层)
可再生能源预测是最具物理味道的预测对象。经典链路是 **天气预测 → 功率转换 → 统计修正** ,每一环都有开放组件;合适的模型族主要取决于时间尺度。
**第 1 层——物理模型链NWP → 功率),日前主力。** 取一个数值天气预报NWP预测CONUS 用 HRRR更长尺度用 ECMWF/GFS并转换为功率
- **pvlib-python** ——公认的开放 PV 建模库NREL/Sandia 谱系):辐照度转置、温度与逆变器模型;大多数开放光伏栈的骨干。
- **PySAM / SAM** NREL——包含跟踪、损耗、储能的整厂仿真。
- **windpowerlib** 与 **PyWake** DTU——利用开放的风机/功率曲线数据库,把轮毂高度风速转化为风机/风场功率并含尾流建模。
纯物理链路会带有偏差(电厂元数据从来都不完全准确),因此运行系统会用统计修正来包裹它们:
**第 2 层——统计/机器学习修正与直接机器学习。** 主流的实践模式用梯度提升树LightGBM/XGBoost把 NWP 特征(多成员、多模型的风速/辐照度,取若干网格点与高度,加上来自 pvlib 的太阳几何)直接映射到电厂或机群出力——这一方法赢下了 GEFCom2014 大多数风电/光伏赛道,且在数小时到数天尺度上仍是最新前沿。分位数版本给出校准的概率输出。**相似集合analog ensemble** (找出历史上相似的预测条件;使用已实现出力的分布)是一种充分发布、易于复现的概率替代方案。
**第 3 层——临近预报(数分钟到约 4 小时),一个真正独立的问题。** 在这些时间尺度上 NWP 已陈旧;技巧来自近期观测与卫星影像。**智能持续法smart persistence** (对光伏持续晴空指数而非原始功率)是标准基线,在约 1 小时内难以击败。**Open Climate Fix** 是值得关注的完全开放的努力PVNet 用卫星影像 + NWP 预测光伏出力,代码开放、权重开放于 Hugging Face并在英国系统运营商处运行——其架构可迁移到美国数据尽管预训练权重以英国为中心。对卫星/天空相机序列的深度学习ConvLSTM/Transformer 变体)已有大量发布代码,但没有占主导地位的封装模型。
**第 4 层——AI 天气模型(近期的重大转变)。** 开放权重的机器学习天气模型—— **GraphCast/GenCast** DeepMind、**Pangu-Weather** (华为)、**FourCastNet** NVIDIA、**Aurora** Microsoft加上 ECMWF 的 **AIFS** ——在许多变量上以极小的算力代价与物理 NWP 持平甚至更优。对可再生能源而言,它们主要作为一种廉价方式,用于生成大规模的 *输入* 集合(风场、辐射),从而升级下游的概率层。辐射与轮毂高度风速仍弱于温度/气压——在用它们替换 HRRR 之前请先验证。
**实践指引。** 1数据泄漏规则在此加倍适用针对如实发布的归档 *预测* 评估绝不使用再分析导出的天气否则回测会讨好你。2机群级预测影响价格的量比单厂容易得多——误差在站点间去相关——因此要让聚合层次匹配用例一个平庸的单厂模型对 ERCOT 全域净负荷可能是优秀的。3就批发市场目的而言你通常想要的量是 **净负荷** (负荷 风电 光伏)及其爬坡,即实时电价的驱动因素:用上述工具分别预测三个分量,再组合,并以 ISO 的隐含净负荷预测作为基准。要击败的基线:每个 ISO 发布的风电/光伏预测ERCOT STWPF/STPPF、CAISO、SPP——经 gridstatus以及短尺度上的智能持续法。
---
## 7. 容量:装机基础与在建管道
实践中的"容量预测"意味着追踪已装机机群并预测新增/退役。这里的开放数据极佳,尽管没有机器学习基准:
- **EIA-860 / 860M** ✅(经 EIA或经 PUDL 清洗后):机组级装机容量、技术,以及带预期投运日期的 **计划新增与退役** 860M 每月更新。这是全行业使用的基线容量预测。
- **LBNL "Queued Up" + 并网排队队列数据集** ✅Berkeley Lab与 interconnection.fyi 合作)汇编了来自 50 多个电网运营商7 个 ISO/RTO + 约 50 个非 ISO 平衡区,约占美国装机容量的 98%)的项目级并网排队队列数据。最新数据文件覆盖 **截至 2025 年底** 的申请(超过 2,060 GW 的活跃发电 + 储能容量;燃气同比增长 86% 至 253 GW光伏 773 GW储能 749 GW风电 220 GW549 GW 已签订草案/已执行并网协议)。含一份编码手册与数十张汇总表。所附 PDF 分析("Queued Up: 2025 Edition")覆盖截至 2024 年的数据。报告中的关键建模事实:历史上 **只有约 13% 的排队容量20002019 年申请)达到了商业运行** 且从并网申请到投运IR→COD的中位时长如今已超过 45 年——因此队列需要存活率建模而非按面值使用。下载https://emp.lbl.gov/queues
- 在 LBNL 年度发布之间,用 **gridstatus 并网排队队列抓取** ✅获取各 ISO 的实时队列。
- **EPA CEMS** (经 PUDL获取已实现的机组级运行**EIA-411/NERC ES&D** ◻︎用于备用裕度/资源充裕性预测ISO 规划报告ERCOT CDR、PJM 负荷预测、CAISO IRP获取 ISO 自身的容量展望。
---
## 8. 通用时间序列基准与基础模型(你会遇到的背景知识)
- **GIFT-Eval** ✅SalesforcearXiv:2410.10393):当前标准的通用预测基准——来自约 2355 个数据集的 97 个任务、14.4 万条序列、7 个领域含能源配有明确的预训练语料与排行榜。近期基础模型Chronos-2、TimesFM-2.5、TiRex、Toto、Moirai-2都在其上报告结果。其能源数据偏楼宇/消费类UCI Electricity、BDG-2、ETT…**并非** 美国批发电价——因此应把 GIFT-Eval 排名视为 LMP 预测技巧的弱证据。
- **数据泄漏警告** ✅GIFT-Eval 作者指出 TimesFM/Chronos/Moirai 在常见公开集上存在部分预训练泄漏,且负荷预测基准论文因训练数据不可核验而取消闭源数据模型的资格(例如 TimeGPT-1。若你在公开的 ISO/EIA 数据上对基础模型做基准,除非模型记录了其语料,否则应假定存在污染。
- 其他有用的开放评估栈Nixtla 的 **statsforecast/neuralforecast/utilsforecast** 、**GluonTS** 、**Darts** 、**sktime** ,以及 Monash Forecasting Archive ◻︎。
---
## 9. 结构与市场仿真模型
纯时间序列模型从历史外推,因此难以应对机制变化:新输电、发电机退役、燃料冲击、重大停运、储能与可再生能源新增,或修订的稀缺规则。开放的结构性工具提供了互补视角:
- **Prescient** ——用于机组组合、经济调度与序列仿真的 Python 生产成本框架,附 RTS-GMLC 示例。
- **Sienna / PowerSimulations.jl** ——用于序列运行、机组组合、调度与情景研究的 Julia 框架。
- **PyPSA** ——经济调度、机组组合、线性最优潮流、输电建模与容量扩展。
- **QuESt PCM** ——Sandia 的 Python 生产成本模型,含详细的储能表示。
- **PyPSA-USA** ——可配置的美国输电、生产成本、容量扩展与区域情景模型。
- **PowerGenome** ——从公开数据构建协调一致的美国发电机群、负荷曲线、区域聚合与技术假设。
一种有用的混合架构是:
1. 结构模型估计系统边际电价lambda、调度、备用与阻塞状态。
2. 统计或机器学习模型修正结构模型的系统性误差。
3. 概率层产出校准后的区间或情景。
当预测期与训练期存在实质性差异时,这最有价值。对于受控实验,使用诸如 RTS-GMLC 的开放合成网络;不要暗示合成电网的结果就能确立真实节点市场的表现。
---
## 10. 推荐的基准设计
一个可信的开放美国基准应当区分任务,而非把不同类的预测对象压成单一分数:
| 任务 | 时间尺度 | 目标 |
|---|---:|---|
| 日前枢纽或分区电价 | 未来 24 小时 | 小时级 LMP、SPP 或 LBMP |
| 实时电价 | 124 小时 | 5 分钟或 15 分钟电价 |
| DART 价差 | 下一运行日 | 实时减日前 |
| 节点阻塞 | 下一运行日 | 阻塞分量或约束绑定概率 |
| 负荷 | 5 分钟7 天 | 系统与分区兆瓦 |
| 可用容量 | 17 天 | 可用与强迫停运兆瓦 |
| 可再生能源可用性 | 5 分钟2 天 | 风电或光伏潜在出力 |
| 稀缺事件 | 148 小时 | 备用短缺或价格尖峰概率 |
### 10.1 评估协议
- 使用滚动起点回测,绝不使用随机训练/测试切分。
- 强制执行严格的时点可得性并保留每一个预测版本vintage、发布时间、修订时间与交付时间。
- 显式处理市场日历、夏令时切换与区间收尾约定。
- 按季节、小时、节点流动性、阻塞机制以及正常 vs 稀缺时段报告结果。
- 纳入极端天气窗口,而非让平均时段主导分数。
- 在存在的情况下与 ISO 已发布的预测比较,另加朴素季节性基线与问题专属基线。
### 10.2 指标
对于点预测,报告 MAE、RMSE、MASE 以及目标专属的峰值或爬坡误差。避免对电价使用 MAPE因为价格可能为零、接近零或为负。
对于概率预测,报告弹球损失或 CRPS、预测区间覆盖率与校准。在评估多元情景时使用能量评分energy score。对于稀缺、阻塞与爬坡事件另加精确率、召回率、PR-AUC以及一个按提前量或成本加权的事件评分。
在适当处使用 Diebold-Mariano 或 Giacomini-White 检验、区块自助法block bootstrap与机制专属比较缺乏统计或经济显著性的微小指标改进并不足够。
### 10.3 经济评估
电价预测还应在一个完整规范的决策仿真中检验。纳入报价时点、头寸与量限、交易成本、滑点、手续费、价格上下限、结算规则、风险调整后的盈亏、回撤与尾部表现。把预测模型的比较与交易策略的比较分开,以便改进可归因。
### 10.4 建模不变量
1. **保留预测版本。** 当运行模型本应看到的是更早的预测时,绝不用已实现或已修订的天气来训练。
2. **区分普通与极端机制。** 两者都报告;不要让常见时段掩盖在高价值事件上的失败。
3. **在有用处对分量做预测。** 把 LMP 分解为能量、阻塞与损耗分量;把可再生能源出力分解为潜在、可用与弃用;把净负荷分解为负荷、风电与光伏。
4. **谨慎使用全局模型。** 跨节点或跨市场训练能帮助稀疏序列,但需要标识符、地理、市场结构以及逐序列报告。
5. **评估运行层面的有用性。** 统计准确度、校准、时延、稳定性与经济价值是各自独立的要求。
---
## 11. 已知缺口与付费墙(免得你以艰难方式发现它们)
1. **不存在受维护的、带对齐时点特征的现代美国节点日前/实时电价基准。** 人人重建各论文间结果鲜有可比性。已核验的缺口EPF 文献本身也指出了这一点。)
2. **天然气枢纽价格** ——最重要的单一燃料驱动因素——是绑定的数据约束。亨利枢纽Henry HubEIA免费日度对 ERCOT/PJM/新英格兰并不够,后者按 **Waha、TETCO M3、Algonquin Citygates** 等定价那些日度指数是商业的Platts、NGI、ICE。部分免费变通EIA 周度/月度区域价格、期货结算价与滞后代理——在受燃气约束的区域,这些都会显著削弱冬季价格模型。◻︎
3. **时点天气预测** :再分析泄漏是已发表负荷/价格模型中最常见的隐性缺陷;请使用归档的 HRRR/GFS。
4. **网络模型/拓扑** 是保密的CEII节点阻塞预测必须依赖学到的模式或合成电网第 9 节RTS-GMLC、Texas A&M 合成案例如 Texas 7k、Breakthrough Energy 美国测试系统、PGLib-OPF配有 PyPSA-USA、NREL Sienna、Egret 中的开放工具)◻︎。
5. **ISO 数据许可** :数据可免费访问,但部分 ISO 限制再分发——这也是公开基准稀缺的又一原因。在重新发布数据集前请查证每个 ISO 的条款。◻︎
---
## 12. 推荐的入门技术栈(按问题)
**日前分区/枢纽电价预测(研究级、可比):**
用 epftoolbox模型 + 检验 + PJM/ComEd 集)作方法论 → 经 gridstatus 重建一个现代数据集(日前 LMP、ISO 负荷 + 可再生能源预测),覆盖 2021→至今 → 报告相对于朴素法 + LEAR + DNN 的 rMAE、DM/GW 检验,若为概率则报告弹球/CRPS。
**实时节点 / DART 价差:**
在所选节点上用 gridstatus 的实时+日前 LMP特征ISO 预测、停运报告、净负荷爬坡、天然气代理、日前电价;两阶段(尖峰分类器 + 幅度回归器)是常见的开放模式;在统计之外也做经济评估(虚拟报价的交易盈亏)。
**负荷:**
EIA-930清洗后或 ISO 分区负荷;基线 = 平衡区/ISO 已发布的预测GEFCom2014 风格的分位数评估;经 herbie/Open-Meteo 获取 HRRR 天气特征。
**风电/光伏与风险感知运行:**
以 ARPA-E PERFORM 作基准基底NSRDB/WIND Toolkit 提供资源;与 ISO 运行预测比较。
**容量展望:**
EIA-860M计划机组+ LBNL 队列数据,用按区域/技术/队列版本的历史建成率作存活先验PUDL 提供装机机群主干。
---
## 13. 链接索引
| 资源 | URL |
|---|---|
| gridstatus (library) | https://github.com/gridstatus/gridstatus |
| epftoolbox (EPF benchmark) | https://github.com/jeslago/epftoolbox |
| Lago et al. 2021 (open access) | https://doi.org/10.1016/j.apenergy.2021.116983 |
| EIA API / Hourly Grid Monitor | https://www.eia.gov/opendata/ |
| Cleaned EIA-930 demand | https://github.com/truggles/EIA_Cleaned_Hourly_Electricity_Demand_Data |
| PUDL | https://catalystcoop-pudl.readthedocs.io |
| ARPA-E PERFORM datasets | https://data.openei.org/submissions/5772 |
| PERFORM documentation | https://github.com/PERFORM-Forecasts/documentation |
| LBNL Queued Up / queue data | https://emp.lbl.gov/queues |
| NREL NSRDB | https://nsrdb.nrel.gov |
| NREL WIND Toolkit | https://www.nrel.gov/grid/wind-toolkit |
| GEFCom archives | http://www.drhongtao.com/gefcom |
| GIFT-Eval | https://arxiv.org/abs/2410.10393 |
| Chronos | https://github.com/amazon-science/chronos-forecasting |
| TimesFM | https://github.com/google-research/timesfm |
| Nixtla forecasting libraries | https://github.com/Nixtla |
| CAISO OASIS | http://oasis.caiso.com |
| PJM Data Miner 2 | https://dataminer2.pjm.com |
| ERCOT public API | https://data.ercot.com |
| NYISO archives | https://mis.nyiso.com/public/ |
| RTS-GMLC (synthetic grid) | https://github.com/GridMod/RTS-GMLC |
| Texas A&M synthetic grids | https://electricgrids.engr.tamu.edu |
| PyPSA-USA | https://github.com/PyPSA/pypsa-usa |
| Prescient | https://github.com/grid-parity-exchange/Prescient |
| Sienna | https://sienna-platform.github.io/Sienna/ |
| PyPSA | https://pypsa.org/ |
| QuESt PCM | https://www.sandia.gov/ess/tools-resources/quest/quest-pcm |
| PowerGenome | https://github.com/PowerGenome/PowerGenome |
| Herbie (HRRR access) | https://github.com/blaylockbk/Herbie |
| Open-Meteo | https://open-meteo.com |
| pvlib-python | https://github.com/pvlib/pvlib-python |
| PySAM (NREL) | https://github.com/NREL/pysam |
| windpowerlib | https://github.com/wind-python/windpowerlib |
| PyWake (DTU) | https://github.com/DTUWindEnergy/PyWake |
| Open Climate Fix (PVNet et al.) | https://github.com/openclimatefix |
| GluonTS | https://github.com/awslabs/gluonts |
| Darts | https://github.com/unit8co/darts |
| mgcv (GAMs, R) | https://cran.r-project.org/package=mgcv |
| Hong & Fan, probabilistic load forecasting review | https://doi.org/10.1016/j.ijforecast.2015.11.011 |
---
## 14. 核验说明
标记为 ✅ 的条目已于 2026 年 7 月对照一手来源核实GitHub 代码库、OEDI/OSTI 记录、LBNL 出版页面、期刊/arXiv 论文)。标记为 ◻︎ 的条目反映了确立已久的领域知识但未针对本报告逐条重新核验。分层模型章节4.4、5.4、6.3)整体为 ◻︎:每个所列模型/库的存在与特征属于标准知识,其中的 epftoolbox 具体内容为 ✅,但关于 *相对性能* 的论断(例如在多尖峰电价上 LEAR/GBM vs 基础模型、TimesFM 在负荷上的竞争力)概括的是 20242026 年文献的一般发现,会随模型演进而变化——在引用前请对照当前论文重新核查——尤其是确切的 ISO 门户 URL/注册要求与商业天然气指数许可会周期性变化应在使用时查证。所述数据集版本PERFORM 20172019epftoolbox 止于 2018清洗后的 EIA-930 至 2025 年 1 月LBNL 队列至 2025 年底)为编纂时所发布的状态。