Vítejte u Dobrého Úsudku

prvního českého newsletteru o úsudkovém forecastingu
a souvisejících tématech od think-tanku České priority

České priority se rozvíjením úsudkového forecastingu a souvisejících metod zabývají od roku 2020, především skrze turnaje OPTIONS a FORPOL. V červenci 2023 jsme sestavili Odborný Predikční Tým (OPT) složený z nejúspěšnějších účastníků našich turnajů, který pomáhá připravenosti veřejných institucí a volbě informanějších rozhodnutí o budoucnosti.

Novinky z českého forecastingu

Forecastingové a foresightové workshopy Českých priorit

České priority nabízí workshopové cykly zaměřené na různé metody strategického foresightu (horizon scanning, scenario making, delphi, …), mezi které spadá také forecasting. Pokud byste vy a nebo organizace kolem vás měly zájem proniknout hlouběji do problematiky a nebo se o ní dozvědět alespoň základy, tyto workshopy jsou pro obojí ideální příležitostí. Více si můžete přečíst zde, případně se neváhejte zeptat na emailu foresight@ceskepriority.cz.

Novinky ze světového forecastingu

Startup Mantic – první výsledky platformy Crucible pro testování AI botů

Mantic ve svém turnaji na platformě Crucible otočil běžnou logiku forecastingu – nešlo jen o to správně odpovídat na otázky (predikovali AI boti), ale hlavně o vytváření otázek, které odhalí rozdíly mezi nejlepšími AI forecastingovými boty a obecně mezery v designu forecastingových botů. Nejlépe fungovaly čtyři typy pastí: otázky závislé na obtížně dostupných datech, situace s možným zlomem trendu, úlohy vyžadující rozpad problému na více scénářů a technické edge-cases, kde některé systémy chybně převáděly odhad na pravděpodobnostní distribuci.

Crucible současně ukazuje, že dobrý benchmark nemá měřit jen průměrnou přesnost, ale také to, kde se modely rozcházejí a proč. Část rozdílů v predikcích sice podle účastníků nevznikala z hlubšího epistemického sporu, ale spíš z šumu, chyb v datech nebo hackovatelných pobídek. To je ale zásadní zjištění – pokud mají AI systémy pomáhat s forecasty v reálném světě, nestačí sledovat, kdy mají pravdu. Potřebujeme vědět i to, v jakých situacích selhávají.

Brzy bude začínat nové kolo turnaje, tak se nezapomeňte registrovat.

RAND a Metaculus navrhují propojit scénáře a forecasty do jedné metody

Organizace v novém textu představují koncept tzv. Integrated Strategic Forecasting  – metodiku, která má propojit strategický foresight se úsudkovým forecastingem. Základní problém je jednoduchý – scénáře rozšiřují představivost a pomáhají přemýšlet o alternativních budoucnostech, ale obvykle neříkají, která z nich je pravděpodobnější. Forecasting naopak dává číselné pravděpodobnosti, ale často zůstává u izolovaných otázek bez širšího strategického rámce.

Integrated Strategic Forecasting se snaží využít výhody obou přístupů. Nejprve se vymezí strategická otázka, rozpracují se scénáře a jejich klíčové drivery, z nichž se následně odvodí měřitelné signály a konkrétní forecastovací otázky. Ty pak nejsou jen samostatnými predikcemi, ale slouží jako průběžné indikátory toho, kterým směrem se jednotlivé scénáře vyvíjejí. RAND to ilustruje i na tématu AI po nástupu DeepSeeku – scénáře typu „AI arms race“, „diplomacy“, „plateau“ nebo „take-off“ lze propojit s otázkami na exportní kontroly, výkon modelů, investice nebo energetické nároky.

Hodnota forecastingu nemusí být jen v přesnosti jednotlivých odhadů, ale i v tom, jak dobře jsou zasazené do rozhodovacího procesu. Dobře položená otázka má mít nejen jasná resolution kritéria, ale také vysokou hodnotu informace – tedy potenciál změnit, jak instituce plánuje, alokuje zdroje nebo připravuje strategii.

Predikce forecasterů – bezpečnostní opatření typu ASL-3 mohou snížit AI rizika

Forecasting Research Institute zveřejnil technický report odhadující, nakolik mohou bezpečnostní standardy typu ASL-3 (AI Safety Level 3 Deployment and Security Standards) snížit riziko, že obecné AI modely pomohou při vzniku rozsáhlé člověkem způsobené biologické události. Studie pracovala s odhady 22 expertů na biologickou bezpečnost, národní bezpečnost nebo terorismus, a 20 špičkových forecasterů. Respondenti odhadovali rizika pro období od dubna 2026 do konce roku 2028 ve čtyřech scénářích – svět bez obecné AI, svět bez jakýchkoli bezpečnostních prvků, svět s ASL-3 ochranou u všech obecných AI modelů a svět, kde jsou ASL-3 opatření aplikována pouze na frontier modely.

Ve scénáři bez bezpečnostních prvků byla mediánová pravděpodobnost velké člověkem způsobené epidemie se škodami alespoň 100 milionů dolarů odhadnuta na 16 %. Pokud by ASL-3 ochrany měly všechny obecné AI modely, klesla na 9,2 %. Mediánově by tak ASL-3 u všech modelů snížilo očekávané finanční škody o 40 % a zachytilo zhruba 72 % rizika, které autoři připisují nechráněným GPAI (general purpose artificial intelligence) modelům. Slabší, ale stále významný efekt mají opatření u frontier modelů – pravděpodobnost by podle mediánu klesla na 10,6 % a tento scénář by zachytil asi 36 % rizika.

Zajímavá je i interpretace mechanismu. ASL-3 podle respondentů nejvíce pomáhá proti laikům a aktérům typu osamělého vlka, protože ztěžuje tzv. jailbreaky, omezuje přístup a nutí útočníky k delší, technicky náročnější práci. Riziko se tím ale neztrácí rovnoměrně – relativně větší význam pak mají lépe vybavení státní aktéři, organizované skupiny a laboratorní nehody, které AI bezpečnostní opatření samy o sobě neřeší. 

Zajímavá forecastingová otázka ze zahraničí

Jednou z nejpopulárnějších otázek na platformě Metaculus je se věnuje predikci toho, zda bude Čína státem, který dostane dalšího člověka na Měsíc. Zda se tak stane, je v současnosti i podle forecasterů nejisté – jak byste pravděpodobnost odhadli vy?

Odlišné formy forecastingu

Ústav výzkumu globální změny AV ČR vydal report Scénáře budoucího socioekonomického vývoje pro Českou republiku do roku 2100. Ten představuje sadu velmi odlišných a podrobných scénářů a každý z nich dělí na několik horizontů (např. Dnes do roku 2040, 2040-2070 atd.). Tento foresightový report je určený na tzv. stress-testing veřejných politik – ty, které úspěšně odolají těmto odlišným budoucnostem a splní svůj cíl lze považovat za robustní a odolné proti budoucí nejistotě.

Pokud se vám Dobrý Úsudek líbí, budeme rádi, pokud dáte vědět svým známým o možnosti jeho odebírání, například přes odkaz níže. Na další číslo newsletteru se můžete těšit přibližně za měsíc.

Za tým Českých priorit,
Pavel Hanosek