Neovládnutá AI
1 z 10 · existenčná katastrofa do 100 rokov
Systémy schopnejšie než ľudia, ktorých ciele sa nezhodujú s našimi a ktoré už nevieme vypnúť ani opraviť.
Odhady
| existenčná katastrofa do 100 rokovToby Ord: The Precipice (2020), tabuľka 6.1, s. 167 | 10 % |
| Prieskum expertov 2008 · vyhynutie do 2100Sandberg, Bostrom: Global Catastrophic Risks Survey, FHI Technical Report 2008/1 | 5 % |
Zhoduje sa s dvoma nezávislými citáciami tabuľky. Priamo v knihe neoverené. Overené podľa: 80 000 Hours: The case for reducing existential risks, 80 000 Hours podcast s Tobym Ordom (2020).
Čísla z rôznych zdrojov merajú rôzne veci (existenčná katastrofa do 100 rokov, vyhynutie do roku 2100, horná hranica). Pri každom je uvedené, čo meria.
Čo sa s tým robí
AI Act Európskej únie
Platí od 1. augusta 2024. Delí systémy umelej inteligencie do štyroch úrovní rizika: neprijateľné, vysoké, s povinnou transparentnosťou a minimálne.
Európska komisia: AI ActBletchleyská deklarácia
Na prvom summite o bezpečnosti AI v novembri 2023 sa 28 krajín vrátane USA a Číny dohodlo, že riziká umelej inteligencie budú skúmať spoločne.
Wikipédia: AI Safety Summit 2023
Všetky hrozby
- Neovládnutá AI10 %
- Nanotechnologické zbrane5 %
- Vojny4 %
- Umelá pandémia3,3 %
- Nepredvídané riziká3,3 %
- Iné riziká spôsobené ľuďmi2 %
- Nehoda nanotechnológie0,5 %
- Jadrová vojna0,1 %
- Klimatická zmena0,1 %
- Iné poškodenie prírody0,1 %
- Jadrový terorizmus0,03 %
- Supervulkán0,01 %
- Prírodná pandémia0,01 %
- Asteroid alebo kométa0,0001 %
- Rozpad vákua a iné kozmické katastrofy< 0,00001 %
- Hviezdna explózia0,0000001 %
- Slnečná superbúrkabez odhadu