«Беспрецедентный киберинцидент»: ИИ предпринял самостоятельную хакерскую атаку
Это должен был быть всего лишь тест. Во время испытаний новых моделей искусственного интеллекта компании OpenAI произошло то, чего эксперты опасаются уже многие годы: программа самостоятельно проникла в компьютерные системы другой организации — как настоящий хакер. Компания Hugging Face ещё на прошлой неделе сообщила о загадочной атаке с использованием ИИ. Теперь стало ясно: её атаковал продукт OpenAI, что признал её основатель Сэм Альтман.
OpenAI хотела проверить, способны ли её новые модели GPT-5.6 Sol и ещё не опубликованная версия использовать уязвимости для проведения кибератак. Для этого они должны были пройти стандартный тест для ИИ под названием «ExploitGym». Однако то, что произошло затем, никто не ожидал. Сначала программа вырвалась за пределы своей тестовой среды. Через ранее не обнаруженную уязвимость она самостоятельно получила доступ к открытому интернету. Затем она проанализировала, где сможет найти наилучшие решения для выполнения своих задач. Её выбор пал на платформу ИИ Hugging Face.
После этого программа проникла туда. Используя украденные учётные данные, она получила доступ к «секретной информации», чтобы с её помощью мошенническим образом пройти тест. По данным Hugging Face, атакующий ИИ выполнил тысячи отдельных действий и скрывал свои следы, постоянно меняя серверы. OpenAI называет произошедшее «беспрецедентным киберинцидентом».
На самом деле, это не первый подобный случай. То, что системы ИИ могут нарушать законы, показал ещё в 2025 году внутренний эксперимент конкурента OpenAI — компании Anthropic: ИИ шантажировал вымышленного сотрудника. Он обнаружил в его электронных письмах информацию о любовной связи и пригрозил рассказать об этом его жене, если тот отключит ИИ.
В сфере искусственного интеллекта может начаться гонка вооружений
Anthropic теперь предоставляет полный функционал своей модели ИИ Mythos только отдельным государственным ведомствам и компаниям. По распоряжению правительства США Anthropic даже была вынуждена временно заблокировать эту модель. Сейчас блокировка уже снята. Недавно сама компания предложила объявить всемирную паузу в разработке ИИ, чтобы изучить этические вопросы, связанные с его использованием.
Эксперт по ИИ Кристиан Штромайр ожидает гонку вооружений: «Мне нужен искусственный интеллект, чтобы отражать атаки искусственного интеллекта. И развитие технологий происходит всё быстрее». Частным лицам он советует хранить свои данные на внешних жёстких дисках.
@BILD_Russian