Možnosti pro boj s podvodnou umělou inteligencí
Dosud popsaná analýza má být průzkumným zkoumáním vzorku globálních technických možností pro boj s podvodnou umělou inteligencí. Záměrně jsem omezil analýzu na možnosti s potenciálním globálním dosahem, které by mohla jednostranně provést vláda USA v krátkém časovém horizontu. To významně omezilo rozsah možností, které jsem zvažoval. Za zvážení by mohly stát i další možnosti a možnosti, které jsem zkoumal, by mohly být vyhodnoceny hlouběji. Budoucí práce by mohla tyto možnosti technicky hlouběji prozkoumat nebo posoudit alternativní možnosti (např. vysoce výkonné mikrovlnné útoky), kinetické údery na klíčovou infrastrukturu (např. výroba energie) nebo alternativní možnosti založené na hardwaru. Navzdory předběžnému charakteru této analýzy poskytuje podporu pro tři počáteční závěry, které popisuji níže.
Zaprvé, stávající technické nástroje pro boj s globálně rozšířenou podvodnou umělou inteligencí nemusí nabízet účinná řešení. Popsal jsem předpoklady, které by musely platit, aby tyto nástroje byly účinné, a v každém případě by bylo obtížné tyto podmínky splnit, i kdyby hrozba byla jasná a úřady by byly ochotny akceptovat značné vedlejší škody. Řešení zahrnující nástroje AI se zdají být relativně pravděpodobnější jako účinná, i když v době psaní tohoto textu jsou vysoce spekulativní a přinášejí svá vlastní rizika. Jedním sekundárním závěrem z tohoto zjištění je, že je zapotřebí dalšího výzkumu a vývoje k identifikaci a vyhodnocení dalších potenciálních technických možností a alternativních přístupů, které by se v tomto scénáři mohly použít.
Za druhé, koordinace a plánování nabízejí potenciálně důležitá opatření ke zmírnění rizik. Předpokládal jsem, že každou možnost je třeba v krizi provést ve velmi krátkém časovém horizontu, a tento předpoklad vylučuje jakoukoli strategii, která zahrnuje zahájení zdlouhavé koordinace s dalšími partnery a zúčastněnými stranami od nuly. Pokud by však k této koordinaci a plánování již došlo před začátkem krize, pak by mohly být k dispozici další možnosti, jak čelit nepoctivé AI. Navíc, pokud jednostranné akce s globálním dosahem pravděpodobně nebudou účinné při řešení krize, pak by se úřady musely významně spoléhat na rychlé a účinné akce koordinované s partnery. Tato koordinace by mohla umožnit rychlé, distribuované lokální, regionální a národní reakce, spíše než jednostranné globální akce s významnými vedlejšími škodami a nízkou pravděpodobností úspěchu.
Za třetí, pravděpodobný nedostatek účinných nástrojů pro boj s globální katastrofou způsobenou umělou inteligencí zdůrazňuje důležitost prevence. Opatření k prevenci takové krize byla zkoumána jinde a mezi příklady patří přístup odstavení (Duleba, 2024), výzkum v oblasti sladění a bezpečnosti (Ji et al., 2025), využití jiné umělé inteligence k vytvoření ochranných bariér (Bengio, 2025; Engels et al., 2025) a další (Dung, 2025). Nepokoušel jsem se zde vyhodnotit relativní hodnotu žádného z těchto přístupů. Přesto na závěr poznamenávám, že pokud nebudeme mít žádná účinná řešení pro vyřešení krize způsobené nepoctivou umělou inteligencí, bude nezbytné, abychom se s takovou krizí nikdy nesetkali.
---------------- poznámky ------------------
Tato práce představuje předběžný průzkum tří technických strategií pro boj s globálně distribuovanou podvodnou umělou inteligencí (AI): elektromagnetický puls ve vysokých nadmořských výškách, globální vypnutí internetu a nasazení specializovaných nástrojů AI. Tyto tři možnosti mají za cíl zabránit činnosti podvodné AI, zastavit nebo zpomalit její šíření a vymýtit ji v závislosti na použité možnosti. Každá z těchto navrhovaných technických možností by se snažila čelit podvodné AI, která by natolik ohrožovala kontinuitu vlády a lidský blahobyt, že by tato hrozba vyžadovala extrémní akce, které by mohly způsobit značné vedlejší škody.
Analýza v tomto článku je záměrně omezená a zaměřuje se na možnosti, které by teoreticky mohly být Spojenými státy provedeny jednostranně na krátkou dobu a měly by globální dosah. Autor se nezabývá lokalizovanějšími nebo netechnickými intervencemi a nepokouší se poskytnout komplexní řešení problému nepoctivé umělé inteligence. Místo toho se autor snaží objasnit předpoklady, nejistoty a kompromisy spojené s každou možností a podnítit další diskusi a výzkum na toto téma. Závěry by měly být vnímány jako první krok k pochopení technické proveditelnosti a rizik extrémních reakčních opatření v případě katastrofického incidentu s umělou inteligencí, který by vedl ke ztrátě kontroly.
Vermeer, Michael JD, Hodnocení vybraných globálních technických možností pro boj s podvodnou umělou inteligencí. Santa Monica, CA: RAND Corporation, 2025.
https://www.rand.org/pubs/perspectives/PEA4361-1.html