Analiza trafności
Który model trafia najlepiej — i jak łączymy je w jedną prognozę
Sprawdzamy 12 modeli na 396 miastach w oknie 90 dni (864 864 godz.) względem reanalizy ERA5. Poniższy ranking to średni błąd bezwzględny (MAE) — mniej znaczy celniej. Naszą publikowaną prognozę składa metoda M5, która stawia na niezawodność: trafia w ±2°C częściej niż każdy pojedynczy model.
| # | Model | MAE °C | Błąd — mniej lepiej |
|---|---|---|---|
| 1 | MET/yr.no (NO)najniższy błąd | 0,2 | |
| 2 | ECMWF (EU) | 0,49 | |
| 3 | ICON (DE) | 0,91 | |
| 4 | AIFS ✦AI (ECMWF)model AI | 0,95 | |
| 5 | UKMO (UK) | 0,96 | |
| 6 | GEM (CA) | 1,04 | |
| 7 | AROME (FR) | 1,06 | |
| 8 | HARMONIE (NL) | 1,16 | |
| 9 | DMI (DK) | 1,17 | |
| 10 | GFS (US) | 1,17 | |
| 11 | GRAPES (CN) | 1,33 | |
| 12 | JMA (JP) | 1,43 |
| Metoda | Sposób złożenia | MAE °C | RMSE °C |
|---|---|---|---|
| M1 | średnia zespołu | 0,63 | 0,84 |
| M2 | mediana zespołu | 0,59 | 0,83 |
| M3 | mediana ważona (BMA) | 0,31 | 0,53 |
| M4 | krzywa harmoniczna | 1,1 | 1,47 |
| M5publikowana | MOS + obserwacje | 0,27 | 0,47 |
Analiza wyników backtestu, obejmującego 12 modeli, 396 miast i 90 dni, z prawdą ustaloną na podstawie reanalizy ERA5, wskazuje na zróżnicowaną dokładność. Najniższy średni błąd bezwzględny (MAE) wśród pojedynczych modeli osiągnął MET/yr.no (NO) z wartością 0,2°C, co przekłada się na 98% prognoz w zakresie ±2°C. Model AI ECMWF AIFS uplasował się na czwartym miejscu z MAE 0,95°C, przewyższając 8 z 11 modeli fizycznych, co świadczy o jego solidności, choć nie jest on liderem w ogólnym rankingu.
Wśród analizowanych metod agregacji, nasza publikowana metoda M5, oparta na MOS i obserwacjach, wykazała MAE na poziomie 0,27°C oraz RMSE 0,47°C. Metoda ta osiąga 99% trafności w zakresie ±2°C oraz 95% w zakresie ±1°C. Jest to wynik lepszy niż pozostałe metody zespołowe, takie jak mediana zespołu (0,59°C) czy średnia zespołu (0,63°C), a także mediana ważona (BMA) z MAE 0,31°C.
Decyzja o wyborze metody M5, mimo że pojedynczy model MET/yr.no (NO) osiąga niższy MAE (0,2°C), wynika z priorytetu niezawodności. Metoda M5 zapewnia wyższą powtarzalność trafności w zakresie ±2°C (99% w porównaniu do 98% dla MET/yr.no), co jest kluczowe dla naszej marki. Należy również zaznaczyć, że błędy prognoz dla krótkiego horyzontu czasowego (dziś/jutro) mogą być optymistyczne, co jest naturalną cechą tego typu analiz.
Trafność naszej publikowanej prognozy wobec dwóch niezależnych referencji — pomiaru IMGW (twarda kotwica) i reanalizy ERA5 (pełne pokrycie miejscowości).
Rzetelność naszego prawdopodobieństwa opadu (PoP z ensemble, 102 członki) wobec realnego deszczu — deszczomierz IMGW i opad ERA5. Brier i FAR: mniej = lepiej.