Компанию OpenAI заподозрили в самопиаре из-за сообщения о вышедшем из-под контроля ИИ
Громкий киберинцидент или ловкий пиар-ход? Этот вопрос обсуждается после проведения внутренней проверки безопасности в компании OpenAI. На этой неделе компания сообщила, что ее высокоэффективные модели ИИ в ходе тестирования обошли предусмотренные защитные механизмы и получили доступ к внешним системам. Однако критики подозревают, что OpenAI также использует этот инцидент для демонстрации возможностей своих моделей.
По данным OpenAI, в тесте участвовали модель ChatGPT «GPT-5.6 Sol» и еще более мощная, пока не выпущенная модель. Перед ними была поставлена задача решить проверочные задания по безопасности в изолированной среде, что требовало выявления и использования уязвимостей в компьютерных системах.
Комбинируя различные векторы атак, модели получили доступ к компьютеру, который уже не был изолирован, а имел подключение к открытому интернету. По крайней мере в одном случае они использовали комбинацию украденных учетных данных и ранее неизвестных уязвимостей. OpenAI охарактеризовала случившееся как киберинцидент, продемонстрировавший продвинутые возможности моделей.
Некоторые представители отрасли рассматривают это как тревожный сигнал о растущих возможностях атак со стороны автономно работающих систем искусственного интеллекта. Критики же возражают, что модели не действовали по собственной инициативе; напротив, перед ними была поставлена четкая задача — находить уязвимости и решать проблемы, используя все доступные средства. Подобная тактика уже знакома по действиям конкурента OpenAI — компании Anthropic: она регулярно выступает с громкими предупреждениями о возможностях своих новейших моделей Claude. Суть посыла такова: система настолько мощна, что ее опасаются даже сами разработчики. И все же вскоре клиенты, возможно, смогут получить к ней доступ.
Такого рода пиар стал обязательным элементом в индустрии искусственного интеллекта. Anthropic довела этот подход до совершенства: ее генеральный директор Дарио Амодеи уже много лет предупреждает, что ИИ может вскоре выйти из-под контроля и быть использован для тотальной слежки или репрессий. Периодически речь заходит даже об угрозе для человечества в целом. Теперь этот маркетинговый ход, похоже, взяла на вооружение и OpenAI: чем более опасными и неуправляемыми выглядят ее модели, тем более мощными они при этом кажутся.
@BILD_Russian