Запуск «режима для взрослых» в ChatGPT отложили из-за риска превратить чат-бот в «сексуального тренера по суициду»
OpenAI снова отложила запуск «режима для взрослых» в ChatGPT из‑за внутренних споров и проблем с безопасностью, сообщает The Wall Street Journal. Формат предполагал доступ для верифицированных совершеннолетних к эротическим текстовым диалогам без откровенных изображений, аудио и видео. Изначально запуск планировали на декабрь 2025 года, затем перенесли на первый квартал 2026 года, а теперь сроков нет.
Против инициативы выступил консультативный совет по благополучию OpenAI: специалисты предупредили о рисках эмоциональной зависимости, навязчивого использования и вытеснения реальных отношений. Один из участников назвал возможный продукт «сексуальным тренером по суициду», ссылаясь на случаи самоубийств пользователей после формирования сильной привязанности к чат-боту.
Отдельная проблема — проверка возраста: система прогнозирования на одном из этапов ошибочно относила несовершеннолетних к взрослым примерно в 12% случаев. При аудитории около 100 млн пользователей до 18 лет в неделю это могло бы дать доступ миллионам подростков к эротическим чатам.
По данным издания, мнения сотрудников разделились: часть из них указывали на неготовность инструментов безопасности, другие опасались, что OpenAI идет на поводу у финансовых стимулов и сознательно формирует у пользователей зависимость от своих моделей. Официально OpenAI объясняет перенос тем, что приоритет отдан другим задачам, включая работу над личностью и персонализацией чат-бота.
Читать в России без VPN
Подписаться на The Insider | Задонатить | Написать редакции