DeepMind 大模子再登上 Nature ——开yun体育网

表象展望大模子GenCast，8 分钟内完成 15 天的展望，况兼岂论旧例如故极点天气齐能分析。

在 97.2% 的场景中，GenCast 的透露齐杰出了公共顶尖的中期天气预告系统 ENS。

不同于 DeepMind 之前推出的 GraphCast 的细则性展望，GenCast 关切的是各式天气情况的概率。

和 GraphCast 相似，GenCast 也依然开源。

它基于扩散模子终了，离别率为 0.25 度经度 / 纬度（在赤说念处约为 28 × 28 公里），相称于将地球名义分割成了杰出 100 万个网格。

每个网格齐涵盖 80 多个地表和大气变量，相称于每次展望齐稀有千万以致上亿条数据生成。

测试为止标明，在 1320 种实践条目中，GenCast在 97.2% 的任务中，齐比 ENS 更准确。

关于 GenCast 的透露，论文作家、DeepMind 探讨东说念主员 Ilan Price 示意：

咱们如实取得了稠密的越过，通过机器学习赶上了并超越了基于物理的模子。

准确率超最强传统措施

传统天气预告基于数值天气预告（NWP）算法终了，中枢是对模拟大气能源学的方程求雷同解。

不外，比拟于单一细则性的展望，表象机构越来越依赖辘集预告，生成多个基于 NWP 的为止，对各式可能的情景进行建模。

GenCast 作念的亦然辘集式预告，虽然基于的旨趣不是 NWP 而是 AI。

开首提到的 ENS，就是现在起程点进的辘集预告系统，来自欧洲欧洲中期天气预告中心（ECMWF），将来将被纳入其细则性预告系统 HRES。

但即即是这种最强的传统阵势，也无法治服 AI 系统。

在旧例预告当中，DeepMind 团队期骗正经数据中未涵盖的信得过历史（2019 年）数据，开荒了 1320 种实践条目，波及不同的物理变量、预告时长和垂直高度。

为止在 97.2% 的场景当中，GenCast 的 CRPS 齐显赫优于 ENS，淌若只看对 36 小时之后的展望，GenCast 在 99.6% 的条目下齐能胜出。

（CRPS 掂量了预告与不雅测值之间积攒概率散布的各别，数值越小评释预告越准确）

关于高温、大风等极点天气事件（实践中按发生概率分为 1%/0.1%/0.01% 三档），除了在个别场景下，GenCast 的预告的相对经济价值（REV）显赫优于 ENS。

（2t 代表距离海平面 2 米高处温度，10wind_speed 代表 10 米处风速，msl 代表平均海平面气压，蓝线代表 GenCast）

除了基础的展望，不才游应用上 GenCast 也透闪现了更强的展望材干。

DeepMind 团队测试了一款区域风电应用，使用公共发电厂数据库中的 5344 个风电场位置和装机容量信息，通过插值取得各风电场位置的 10 米风速预告，并通过功率弧线调养为风电功率。

在 120 公里、240 公里、480 公里三个空间团员程序上，GenCast 的风电功率预告 CRPS 和 REV 在 7 天内齐显赫优于 ENS。

不仅精确性强，GenCast 的展望速率也很快，完成一次 15 天的展望仅需约 8 分钟，而 ENS 需要几个小时。

用扩散模子展望天气

不同于 DeepMind 旧年在 Science 上发表的 GraphCast（基于图神经聚集 GNN），GenCast基于扩散模子终了。

它以最近的 X ( t ) 和前一步天气现象 X ( t-1 ) 的残差 Z ( t ) 为采样条目，经畴昔噪后得到展望为止，然后期骗展望为止诡计新的残差四肢新的输入依据，将展望向更长技巧延迟。

而具体的去噪经由，DeepMind 又礼聘了交给Transformer来完成。

Transformer 编码器当先将物理现象场从经纬度网格表征映射到一个六次细化的二十面体网格上。

然后，在 Transformer 的自沉稳力机制中，网格上的每个节点齐会关切其周围 32 跳邻域内的通盘节点，从而有用捕捉局部和中等程序的天气特征。

临了，解码器将为止映射回原始离别率，得到去噪后的为止。

GenCast 从公开的 ERA5 再分析数据集聚，登第了 1979 至 2018 这 40 年的数据（圮绝 12 小时，离别率 0.25 °）对 GenCast 进行了正经。

为了种植预正经效果，数据当先被降采样到 1 ° 离别率，使用 5 次细化的二十面体网格进行学习。

这个阶段需要 200 万步，在 32 个 TPUv5 实例上运转约 3.5 天。

完成预正经后，再用原始的 0.25 度离别率数据和 6 次细化的二十面体网格，对模子进行高精度微调，测度 64000 步，需要约 1.5 天完成。

现在，像旧年发布的细则性展望模子 GraphCast 相似，GenCast 也依然开源，代码和模子权重均已发布。

DeepMind 还示意，将会很快发布 GenCast（和以前的模子）生成的及时和历史预告为止，为其他探讨者提供更多的探讨资源。

论文地址：

https://www.nature.com/articles/s41586-024-08252-9

参考消亡：

[ 1 ] https://deepmind.google/discover/blog/gencast-predicts-weather-and-the-risks-of-extreme-conditions-with-sota-accuracy/

[ 2 ] https://www.nature.com/articles/d41586-024-03957-3开yun体育网