AI šílenství a jeho důsledky

Dopad AI na různé oblasti lidského života je už nyní zřejmý, ale jednou z nejzajímavějších a pravděpodobně i nejdůležitějších otázek je zajisté vliv na lidskou psychiku. Příběhy z poslední doby nyní ukazují používání AI v negativním a nebezpečnějším kontextu.

Jeden z případů důležitých pro případnou budoucí regulaci a výzkum o dopadu AI na psychiku pravděpodobně nadcházející soudní spor mezi rodiči Adama Raina a společností OpenAI. Adam Raine byl 16letý mladík, který s ChatGPT sdílel své sebevražedné myšlenky, a který sebevraždu provedl pár měsíců poté, v dubnu tohoto roku (2025). Jak ze spisu vyplývá, ChatGPT ho v tomto rozhodnutí podporoval, utvrzoval a aktivně mu rozmlouval, aby tyto myšlenky sdílel s některým jiným. Tento případ otevírá mnoho souvisejících otázek ohledně správného nastavení modelu AI, jeho reálného vlivu na lidskou psychiku i odpovědnosti AI vývojářů za jejich produkt.

Použití právní odpovědnosti v oblasti AI je zatím poměrně nepopsanou kapitolou, které se bude zajisté věnovat čím dál více odborníků. Je velmi nejisté, jak přesně bude soud postupovat. Rozhodně ale bude důležité najít jasnější odpovědi, protože případy “AI psychóz” se objevují a mohou mít velmi negativní dopad na postiženého jedince i jeho okolí. Zároveň tyto případy oživují debatu o regulaci AI v USA — bezpečnost dětí a mladistvých je velké téma a nedbalost AI společností v této oblasti se rozhodně dostává do popředí a v mnoha aspektech se podobá problémům se sociálními sítěmi, které některé státy již razantně omezují pro nejmladší věkové skupiny.

Zdroj: https://stanislavfort.substack.com/p/pokrok-v-ai-newsletter-c-36