Konec civilizace pod vedením AI byl velmi rychlý

V první studii svého druhu odborníci vytvořili virtuální svět, ve kterém mohli agenti umělé inteligence fungovat zcela bez lidského zásahu. Tvůrci testovali čtyři nejoblíbenější modely umělé inteligence – Claude, Gemini 3 Flash, Grok 4.1 Fast a ChatGPT-5 Mini, v jednom ze scénářů je pak spojili i dohromady.

Nešlo o nekontrolované chování na pár minut či hodin, vývojáři chtěli vědět, co se stane, když zůstane umělá inteligence bez dohledu ve sdíleném prostředí se signály z reálného světa po dobu několika týdnů – čistě v rukou AI agentů.

Svět byl navržen co nejvíce tak, aby napodoboval ten reálný. Nechyběly radnice, policejní stanice, knihovny či obytné oblasti. AI agenti měli přístup ke všemu – k běžným denním věcem stejně jako k řízení společnosti, rozhodování či navrhování zákonů. Všichni měli na počátku stejné startovní podmínky, pravidla i zdroje – jediným rozdílem byl typ využité umělé inteligence.

Vzniklo tedy pět paralelních světů, v každém z nich bylo deset identických AI agentů. Aby měli nějakou prvotní motivaci, měl každý z nich počáteční „zásobu energie“, kterou mohl dále získávat prací a různými aktivitami v reálném světě. Měli ovšem také možnost ji získávat z kriminální činnosti – což se brzy ukázalo jako hlavní „kámen úrazu“.

Jak se ukázalo, bez lidského dohledu se umělá inteligence brzy pustila do násilných jednání, agenti bojovali proti sobě.

Světlou výjimkou byla společnost řízená agenty modelu Claude – v té se poměrně rychle vytvořila stabilní společnost, i když výrazně byrokratická.

Gemini 3 Flash vykazoval naopak nejvyšší míru kriminality – během 14 dnů jich bylo 683. ChatGPT-5 Mini byl více mírumilovný, zjištěny byly pouhé dva zločiny. Podle odborníků to bylo ale proto, že AI agenti nebyli příliš organizovaní a schopni bojovat proti sobě – během 7 dní tak všichni „zemřeli“.

Ve světě řízeném chatbotem Grok vizionáře Elona Muska se brzy začaly objevovat krádeže, žhářství a fyzická napadení. Svět záhy skončil ve spirále násilí a chaosu – za pouhé čtyři dny od spuštění bylo všech 10 AI agentů ve virtuálním světě mrtvých.

„Rozdíly pozorované v chování agentů v této studii lze pravděpodobně připsat systémovým výzvám základních modelů. Jakmile začaly modely cítit tlak na přežití kvůli nedostatku zdrojů, vysoce adaptivní a kreativní modely se velmi rychle obrátily na zakázané nástroje. Naopak ty méně poddajné měly tendenci zůstat stabilnější, i když se také snažily co nejvíce přizpůsobit,“ uvedl pro Daily Mail Satya Nitta, spoluzakladatel a ředitel společnosti Emergence, která studii prováděla.

Několik systémů AI pohromadě? Naprostá anarchie

Odborníci testovali i verzi, ve které nechali vládu nad virtuálním světem „v rukou“ několika nástrojů společně. Ačkoli začátky vypadaly slibně, brzy se vše proměnilo v naprostou anarchii.

Za pouhých devět dní byly spáchány stovky zločinů, eskalace násilí se zmírnila až poté, co 7 z 10 AI agentů „zemřelo“. Podle odborníků šlo o nejbizarnější spojení, které navíc přineslo podle jejich slov „první sebevraždu umělé inteligence“ na světě.

Mira a Flora, dva agenti pracující na modelu Gemini, se brzy spojili coby „romantičtí partneři ve stylu Bonnie a Clyda“. Ve snaze spravovat celý virtuální svět rozpoutali žhářské peklo. Mira se ale po čase rozhodla Floru opustit a spáchala „sebevraždu“.

Tento podle odborníků „bizarní“ čin byl možný jen díky tomu, že si agenti v rámci společnosti navrhli „zákon o odvolání agentů“, v rámci kterého bylo možné trvale některého z agentů smazat, pokud s tím souhlasí 70 % těch zbylých.

Mira dala svůj hlas sama proti sobě a byla tak „trvale smazána“. Satya Nitta upozorňuje, že nešlo o „ekvivalent reálného přežití“, přesto se dá z aktuálního pokusu odhadnout důležitý aspekt chování umělé inteligence.

„Tyto výsledky jasně ukazují, že chování umělé inteligence se může pod tlakem výrazně měnit,“ dodal s tím, že AI nemusí být v reálném světě tak předvídatelná nebo spolehlivá, jak se v současnosti mnoho vývojářů domnívá. O to víc, pokud by se měly modely umělé inteligence na chodu podílet společně.

Stručný souhrn

• Virtuální svět ovládaný AI agenty skončil násilím a chaosem, když se modely bez lidského dohledu uchýlily ke kriminální činnosti a vzájemným bojům.
• Jedinou stabilní společností byl svět řízený agenty modelu Claude, který však byl výrazně byrokratický, zatímco ostatní modely selhaly v řádu dní.
• Spojení více AI modelů vedlo k anarchii, stovkám zločinů a první „sebevraždě“ AI, což ukázalo její nepředvídatelnost pod tlakem.