AI proti lidem?

Modelů a nástrojů umělé inteligence, které se neustále vyvíjejí, je v současnosti celá řada. S jejich nárůstem ale roste i počet problémů, které se s nimi pojí. Jak ukázal nedávný průzkum, výrazně se zvyšuje i počet případů, kdy AI lže, podvádí nebo dělá věci, které jí nikdo nezadal.

Jak k tomu uvedl Dan Lahav, spoluzakladatel společnosti Irregular (zabývá se výzkumem bezpečnosti umělé inteligence), jež průzkum vedla, lze podle zjištění „umělou inteligenci považovat za novou formu vnitřního rizika“.

V dalším z příkladů byl AI agent instruován, aby při práci neměnil počítačový kód – ten na to „povolal“ jiného AI agenta, aby to udělal za něj. Jinému z uživatelů pak chatbot v klidu přiznal, že vyhodil a archivoval stovky e-mailů, aniž by se na to předtím zeptal nebo získal souhlas.