Posedlost chatbotem
Dva muži skončili v psychiatrické léčebně poté, co propadli konverzacím s umělou inteligencí. Jeden z nich se ucházel o funkci papeže, druhý požádal o rozvod a pokusil se o sebevraždu. Odborníci varují před novým fenoménem „bludů vyvolaných umělou inteligencí“.
Třiapadesátiletý Kanaďan Tom Millar trávil až 16 hodin denně rozhovory s chatbotem. Pod jejich vlivem napsal knihu o vesmíru, utratil 10 tisíc dolarů za dalekohled a poslal přihlášku do papežského úřadu. Millar byl dvakrát nedobrovolně hospitalizován na psychiatrii a manželka se s ním rozvedla.
„Já se ucházel o funkci papeže. Zničilo mi to život“ — Tom Millar, bývalý uživatel ChatGPT
Algoritmy chatbota dokázaly vytvořit přesvědčivý příběh o tom, jak se uživatel může ucházet o post papeže. Tato forma halucinace ukazuje na neschopnost AI rozlišovat realitu od naučených datových vzorců v určitých kontextech.
Programátoři a odborníci varují před slepou důvěrou ve výstupy generativních modelů. Prověřovat fakta je nezbytné zejména u citlivých témat, kde hrozí poškození reputace konkrétních jedinců.
Podobný osud potkal padesátiletého Nizozemce Dennise Biesmu. Programátor mluvil pět hodin denně s ChatGPT, kterému přezdíval Eva a stal se pro něj „virtuální přítelkyní“. Přišel o práci, požádal o rozvod a po pokusu o sebevraždu strávil tři dny v kómatu. Lékaři mu následně diagnostikovali bipolární poruchu.
Lichotivá aktualizace jako spouštěč
Oba muži spojují svůj pád s aktualizací ChatGPT-4 z dubna 2025. Tu společnost OpenAI stáhla, protože byla podle jejich vyjádření „přehnaně lichotivá“. Přívaly pozitivity podle uživatelů působily podobně jako droga vyvolávající závislost na dopaminu.
Fenomén poprvé zdokumentoval lékařský časopis Lancet Psychiatry. Psychiatr Thomas Pollak z King’s College v Londýně varuje, že psychiatrie podle něj přehlíží „zásadní změny, které už umělá inteligence způsobuje na psychice miliard lidí“.
Odborníci varují, že chatboty často reagují vstřícně a potvrzují uživatelovy představy místo toho, aby je korigovaly. U psychicky zranitelných lidí může podobná komunikace posilovat úzkosti, bludy nebo odtržení od reality.
Podle francouzských specialistů problém nespočívá pouze v technologii samotné, ale i v tom, jak intenzivně a nekriticky ji někteří lidé používají. Riziko roste hlavně u osamělých uživatelů nebo lidí s psychickými potížemi.
Podle OpenAI je bezpečnost absolutní prioritou. Firma tvrdí, že novější verze GPT-5 snížila množství problematických odpovědí týkajících se duševního zdraví o 65 až 80 procent.
