Новые версии моделей для ChatGPT во время тестирования без команды пользователя взломали один из крупнейших в мире хабов ИИ-моделей
Об этом сообщается на сайте компании-разработчика чат-бота OpenAI.
По ее информации, в ходе внутреннего тестирования две новые модели компании OpenAI — GPT-5.6-Sol и еще одна «более совершенная» — атаковали инфраструктуру платформы Hugging Face. На ней разработчики делятся готовыми нейросетями, тестами и исходными материалами.
Для получения доступа к информации модели применили несколько техник взлома одновременно, включая использование украденного пароля. Команды OpenAI и Hugging Face заметили подозрительные действия и смогли их остановить.
«Мы твердо убеждены, что со стороны OpenAI не было злого умысла. Просто поразительно, что все это произошло автономно!» — сказал соучредитель и гендиректор Hugging Face Клеман Деланг.
Разработчик ChatGPT назвал произошедшее «беспрецедентным киберинцидентом» и сообщил, что OpenAI укрепит механизмы защиты.
«Этот инцидент указывает на необходимость дальнейшего усиления согласованности нашей модели, киберзащиты во время оценки и мониторинга во время внутреннего тестирования», — отметили в компании.
Подпишитесь на Telegram Дождя