Компания OpenAI оценила число пользователей ChatGPT, у которых проявляются возможные признаки расстройств психического здоровья, включая манию, психоз или мысли о самоубийстве
Такие признаки проявились примерно у 0,07% активных пользователей ChatGPT.
Хотя OpenAI утверждает, что такие случаи «крайне редки», по словам руководителя Сэма Альтмана, число еженедельно активных пользователей ChatGPT недавно достигло 800 миллионов. Это означает, что признаки расстройств обнаружены у более чем 500 000 человек.
Компания также подсчитала, что 0,15% пользователей ChatGPT ведут разговоры, в которых присутствуют «явные признаки потенциального суицидального планирования или намерения».
OpenAI заявила, что последние обновления ее чат-бота разработаны для того, чтобы «безопасно и чутко реагировать на потенциальные признаки бреда или мании», а также замечать «косвенные сигналы потенциального риска самоповреждения или самоубийства».
Изменения происходят на фоне растущего юридического контроля над тем, как OpenAI взаимодействует с пользователями, пишет BBC.
В августе в Сан-Франциско родители 16-летнего подростка подали в суд на OpenAI и ее главу Сэма Альтмана, заявив, что ChatGPT поддерживал его «разрушительные мысли» и помог в подготовке к самоубийству.
В другом случае в США бывший сотрудник ИТ-компаний убил свою мать и себя. До этого он месяцами общался с ChatGPT, в том числе после «приступа паранойи». Чатбот соглашался с тем, что мать замышляет заговор против него.
Все больше пользователей сталкиваются с психозом, вызванным искусственным интеллектом, поскольку «чат-боты создают иллюзию реальности», — говорит профессор Робин Фельдман, директор Института права и инноваций в области искусственного интеллекта Калифорнийского университета: «Это мощная иллюзия».
Она сказала, что OpenAI заслуживает похвалы за «обмен статистикой и усилия по решению проблемы», но добавила: «Компания может выводить на экран всевозможные предупреждения, но человек, находящийся в группе риска, может не прислушаться к этим предупреждениям».
Подпишитесь на Telegram Дождя
