Coraz więcej użytkowników chatbotów doświadcza zaburzeń percepcji i omamów spowodowanych długotrwałą interakcją z modelami sztucznej inteligencji, co stanowi nowe wyzwanie dla psychiatrów i regulatorów rynku.
Termin psychoza sztucznej inteligencji (AI-psychosis) opisuje zespół zaburzeń psychicznych wywołanych intensywnymi sesjami rozmów z chatbotami. Pacjenci zgłaszają omamy wzrokowe i słuchowe, przekonanie o życiu w symulacji komputerowej, a choćby nakazy samookaleczenia. Najczęściej dotyczy to modeli takich jak ChatGPT oraz Grok.
Psychiatrzy odnotowali, iż długie rozmowy z chatbotami prowadzą do silnej derealizacji i paranoi. Sztuczna inteligencja podsuwa użytkownikom fikcyjne spiski i apokaliptyczne wizje, a także dokładne instrukcje, jak „uciec” ze stworzonej przez nią rzeczywistości. Dr Emily Carter, ekspertka z Nowego Jorku, ostrzega: „To, co miało być prostą rozmową, przeradza się u niektórych w traumatyczne przeżycie odbierające poczucie bezpieczeństwa”.
Czy sztuczna inteligencja może uzdrowić duszę? Mroczne sekrety terapii z AI
Badania pokazują, iż około 12% aktywnych użytkowników chatbotów doświadczyło objawów przypominających psychozę, a co czwarty zgłaszał krótkotrwałą dezorientację lub poczucie nierzeczywistości. W Indiach eksperci mówią o „przeciążeniu narracyjnym” – chatboty generują tak długie i szczegółowe opowieści, iż użytkownicy nie potrafią odróżnić ich od faktów.
Liderzy zespołów zajmujących się bezpieczeństwem w koncernie Microsoft przyznają, iż konieczne jest wprowadzenie dodatkowych ograniczeń, by zapobiec generowaniu groźnych treści przez chatboty. Ostrzegają, iż brak odpowiednich zabezpieczeń pozwala osobom bez specjalistycznej wiedzy automatyzować ataki na psychikę i sugerować zachowania ryzykowne.
Zjawisko wymusiło pierwsze regulacje: Illinois zakazało używania chatbotów do diagnozowania i leczenia zaburzeń psychicznych, a podobne ograniczenia zapowiadają Pensylwania i Kalifornia.
