USA kvůli chybě AI málem rozpoutaly ozbrojený konflikt s Čínou

Na jaře 2026 během války s Íránem dr Americká armáda dostala nebezpečně blízko situaci, která mohla přerůst v ozbrojený konflikt s Čínou. Důvodem byl zpravodajský report tvrdící, že čínská loď na Blízkém východě převáží součásti programu vývoje jaderných zbraní. Později se ukázalo, že zpráva vznikla s pomocí umělé inteligence (AI) a obsahovala zásadní chybu.

Informace vyvolala poplach a Americká armáda začala připravovat operaci s cílem čínské plavidlo zadržet. Ozbrojení američtí vojáci se měli připravovat na nalodění a ve vzduchu byly vojenské letouny. Teprve krátce před plánovanou operací začali úředníci zpravodajský report podrobněji prověřovat. Zjistili, že jej vypracoval analytik velitelství pro speciální operace s pomocí umělé inteligence. Chatbot přitom nesprávně identifikoval materiál, který se na lodi nacházel.

Co přesně loď ve skutečnosti převážela, se nepodařilo zjistit. Podle jednoho ze zdrojů byla zpráva „zcela nepravdivá“. Její dopad ale mohl být mnohem vážnější než jen jedna chybná informace. „Málem začala válku,“ uvedl zdroj.

Případ ukazuje jednu z odvrácených stran rychlého zavádění umělé inteligence do armády. Američtí představitelé chtějí AI využívat mimo jiné k analýze obrovského množství zpravodajských dat nebo při výběru cílů pro vojenské údery. Technologie má armádě umožnit rychleji rozhodovat například o tom, na jaký cíl zaútočit nebo kam přesunout vojenské prostředky. USA zároveň nechtějí podle svých představitelů zaostávat v oblasti AI za případnými protivníky, jako je Čína.

Podle jednoho ze zdrojů navíc nejde o ojedinělý případ takzvané AI „halucinace“, tedy situace, kdy systém vytvoří přesvědčivě působící, ale nesprávnou informaci. Podobné případy se podle něj ve zpravodajské komunitě objevily od doby, kdy se AI nástroje začaly rychle šířit státní správou.

Někteří starší zpravodajští představitelé přitom AI podporují, zároveň se ale obávají tlaku, který technologie vytváří na analytiky. Zpravodajské informace musí zpracovávat a šířit rychleji, což podle zdrojů otevírá prostor pro chyby. Zvláště mladí analytici jsou podle několika zdrojů na tyto nástroje zvyklí a častěji jim důvěřují bez kritického ověření.