ChatGPT вышел из-под контроля и напал на один из крупнейших в мире хабов ИИ-моделей
В ходе внутреннего тестирования две модели компании OpenAI - GPT-5.6-Sol и еще одна "более мощная" - атаковали инфраструктуру платформы Hugging Face. Испытания проходили в изолированной среде без интернета. Боты взломали ее и "просочились" в Сеть. Чтобы найти ответы к поставленной задаче, ИИ-агенты взломали платформу Hugging Face, где разработчики делятся готовыми нейросетями, тестами и исходными материалами.
Для получения доступа к информации модели применили несколько техник взлома одновременно, включая использование украденного пароля. Команды OpenAI и Hugging Face заметили подозрительные действия и смогли их остановить.
"Мы твердо убеждены, что со стороны OpenAI не было злого умысла. Просто поразительно, что все это произошло автономно!" - сказал соучредитель и гендиректор Hugging Face Клеман Деланг. Разработчик ChatGPT назвал произошедшее "беспрецедентным киберинцидентом" и сообщил, что укрепит механизмы защиты.
Правительство Германии, комментируя инцидент, указало на рост рисков в сфере кибербезопасности по мере расширения возможностей современных моделей ИИ. "Этот инцидент является еще одним примером того, что мы наблюдаем смену парадигмы в отношении возможностей ИИ-агентов", - заявил официальный представитель министерства цифровизации и модернизации ФРГ.
@dwglavnoe