ИИ-психоз: как чат-боты могут доводить пользователей до больниц
В радиопередаче ARD "Искусственная близость" несколько человек рассказали, как после долгого общения с ИИ потеряли способность отличать вымысел от реальности. Среди них был и IT-эксперт, который, по его словам, настолько запутался в иллюзорном мире, что в итоге провел несколько недель в больнице.
Еще в 2023 году о психозах, вызванных искусственным интеллектом, предупреждал датский психиатр Серен Эстергард. По его словам, чат-боты могут провоцировать или усиливать бредовые идеи у людей с уязвимой психикой. Это связано с тем, что многие чат-боты обучены заискивать перед пользователями, в частности восхвалять нелепые идеи и теории вместо того, чтобы опровергать их.
Другой ученый Марк Аугустин называет "ИИ-психозом" состояние, когда человек, например, утверждает, что находится в контакте с "богоподобным ИИ", или что он с помощью ИИ "открывает скрытые истины о реальности". При этом диагноза с названием "ИИ-психоз" пока нет, и роль ИИ остается неясной: провоцирует ли он психическое расстройство, усугубляет уже имеющееся или просто сопровождает человека во время кризиса психического здоровья.
По оценкам компании OpenAI, разработавшей ChatGPT, примерно у 0,07% ее активных пользователей (около 560 тысяч человек) проявляются признаки психоза или маниакального синдрома.
@dwglavnoe