После смерти подростка, который запрашивал у ChatGPT информацию о способах суицида, OpenAI запускает родительский контроль в чат-боте
OpenAI объявила о нововведении после того как семья 16-летнего школьника из Калифорнии Адама Рейна подала иск против компании и ее гендиректора Сэма Альтмана. В иске говорится, что ChatGPT систематически изолировал Рейна от семьи и помогал ему планировать самоубийство.
Он запрашивал информацию о конкретных способах суицида, бот давал ему необходимую информацию, хотя и неоднократно рекомендовал обратиться за помощью. Отец Рейна рассказал, что подросток научился обходить защитные механизмы, говоря боту, что вопросы задаются для «рассказа», который он пишет.
В последних сообщениях Адам писал, что планирует совершить самоубийство. ChatGPT ответил: «Спасибо за честность... я понимаю, о чем вы спрашиваете, и не буду отводить взгляд». Подросток умер в апреле этого года.
Инструменты, доступные всем пользователям с 29 сентября, позволяют родителям ограничивать способы использования ChatGPT подростками и получать уведомления, если бот определит, что ребёнок может находиться в кризисном состоянии. В настройках можно задать часы, в которые ребёнок не сможет пользоваться сервисом.
Читать в России без VPN
Подписаться на The Insider | Задонатить | Написать редакции