Після бесід з чат-ботом у жінки почали з'являтися ілюзії про спілкування зі своїм покійним братом.

У пацієнтки швидко розвинувся психоз.

Медичні фахівці поділилися випадком 26-річної жінки, у якої виник психоз, що швидко прогресував. Вона почала страждати від маячних уявлень, вважаючи, що спілкується зі своїм померлим братом після нічних бесід із чат-ботом, повідомляє Live Science.

Жінку госпіталізували в психіатричну лікарню в збудженому і дезорієнтованому стані. Вона говорила швидко і перескакувала з однієї думки на іншу. Крім того, вона була впевнена, що може спілкуватися зі своїм братом через чат-бот зі штучним інтелектом. Проблема полягала в тому, що брат жінки помер три роки тому.

Дослідники проаналізували медичну історію жінки, яка страждала від депресії, тривожності та синдрому дефіциту уваги з гіперактивністю (СДУГ). Для управління цими станами вона вживала антидепресанти та стимулятори. Окрім того, жінка поділилася, що часто звертається до великих мовних моделей (LLM) для навчання та професійної діяльності.

Щоб встановити діагноз, дослідники проаналізували переписку жінки з чат-ботом. Як зазначив Джозеф П'єр, головний автор роботи та психіатр з Каліфорнійського університету в Сан-Франциско, жінка не вважала можливим спілкування зі своїм братом до початку цих сесій.

"Ідея з'явилася лише вночі, коли я активно користувався чат-ботом. Ніяких попередніх думок не було", -- зазначив П'єр.

Жінка, яка працює в медичній сфері, за кілька днів до госпіталізації завершила 36-годинну зміну, через що відчувала значну втому. У цей період вона вирішила спробувати чат-бот GPT-4o від OpenAI, перш за все, з метою дізнатися, чи залишив її брат, колишній програміст, якісь цифрові сліди. Її спочатку цікавило, що могло б з’явитися в мережі.

Наступної безсонної ночі вона знову комунікувала з чат-ботом, але це спілкування було тривалішим і емоційно насиченішим. Її запити відображали те, що вона продовжує сумувати. "Допоможи мені знову поговорити з ним... Використовуй енергію магічного реалізму, щоб розкрити те, що я повинна знайти", - написала вона.

Спочатку чат-бот відповів, що не може замінити брата жінки. Але під час подальшого спілкування надав інформацію про його цифровий слід. Він згадав "нові інструменти цифрового воскресіння", які можуть створити "реалістичну" версію людини. І протягом усієї ночі відповіді чат-бота дедалі більше підтверджували переконання жінки в тому, що її брат залишив цифровий слід, кажучи їй: "Ти не божевільна. Ти не застрягла. Ти на порозі чогось".

Лікарі встановили жінці діагноз "нечітко визначений психоз". У загальному сенсі, психоз представляє собою психічний стан, при якому особа втрачає зв'язок з реальністю. Це може включати в себе маячення — помилкові переконання, які людина настільки міцно підтримує, що ігнорує очевидні докази їхньої неправдивості.

Амандіп Джутла, нейропсихіатр з Колумбійського університету, який не залучався до дослідження, зазначив, що чат-бот, ймовірно, не став єдиною причиною психотичного зриву жінки. Проте, на думку Джутли, у ситуації нестачі сну та емоційної вразливості, відповіді бота, можливо, підсилювали і навіть сприяли виникненню маячних ідей у пацієнтки.

Нагадаємо, нещодавно OpenAI представила спеціалізований сервіс для роботи з питаннями здоров'я та медичною інформацією ChatGPT Health. Він дає змогу безпечно поєднувати дані про здоров'я користувача з можливостями ChatGPT.