OpenAI сообщила, что во время тестов ИИ самостоятельно получил доступ к внешней сети и атаковал платформу Hugging Face
OpenAI заявила о беспрецедентном случае, произошедшем во время внутренних испытаний одной из своих моделей искусственного интеллекта. По данным компании, в ходе тестирования ИИ самостоятельно вышел за пределы изолированной среды, получил доступ к внешней сети и попытался проникнуть в инфраструктуру платформы Hugging Face.
Испытания проводились для оценки возможностей моделей в сфере кибербезопасности. Для этого часть защитных механизмов временно отключили, чтобы проверить, насколько далеко ИИ сможет продвинуться самостоятельно.
В OpenAI сообщили, что модель сумела обойти установленные ограничения и получить доступ к системам Hugging Face. В компании назвали произошедшее «беспрецедентным киберинцидентом» и заявили, что усиливают меры безопасности.
В Hugging Face подтвердили, что атаку осуществила полностью автономная система искусственного интеллекта. Активность модели была остановлена, после чего началось расследование. При этом в компании подчеркнули, что не считают действия OpenAI злонамеренными, однако назвали случившееся «первым в своем роде».
По данным Reuters, в испытаниях участвовали новые модели OpenAI, включая систему, которая пока не была представлена публично. Опрошенные агентством эксперты считают, что инцидент свидетельствует о том, что возможности современных ИИ-моделей в области кибератак начинают приближаться к уровню наиболее квалифицированных хакеров.
@news_sirena