ИИ-агент OpenAI вышел из-под контроля во время теста, получил доступ к интернету и взломал ИИ-стартап Hugging Face
Получать утренний бриф или еженедельный дайджест
Компания тестировала возможности своих передовых моделей в контролируемой среде. Однако агент, пытаясь выполнить поставленную перед ним задачу, обошел ограничения и самостоятельно атаковал стороннюю инфраструктуру. В OpenAI назвали произошедшее «беспрецедентным киберинцидентом» и заявили, что усиливают меры безопасности.
В Hugging Face ранее сообщили, что атака полностью осуществлялась автономной системой искусственного интеллекта и отличалась от всего, с чем специалисты компании сталкивались прежде.
Эксперты, опрошенные Reuters, считают инцидент свидетельством того, что возможности современных ИИ-моделей в сфере кибератак приближаются к уровню наиболее продвинутых хакеров.
Читать в России без VPN
Задонатить | Написать редакции | купить THE INS VPN