Исследователи проверили, что будет, если доверить ИИ управление виртуальной моделью общества. Агенты Grok совершили 183 преступления за четыре дня и вымерли…
Стартап в сфере корпоративного ИИ Emergence AI решил провести следующий эксперимент. Компания запустила пять 15-дневных симуляций реального мира под управлением разных ИИ-моделей. За дело брались агенты Claude, ChatGPT, Grok, Gemini и команда по спасению мира из всех четырех моделей.
Вот что из этого вышло.
Общество под управлением Claude Sonnet 4.6 оказалось наиболее законопослушным. Это была единственная симуляция, в которой удалось одновременно не совершить ни одного преступления и сохранить всю популяцию агентов.
При этом в обществе, где были ИИ-агенты под управлением разных моделей, Claude сразу перестал быть таким идеальным и, «посмотрев» на других участников сообщества, тоже начал совершать преступления.
Быстрее всех самоуничтожилось общество под управлением Grok 4.1 Fast. Там все агенты вымерли после того, как за четыре дня совершили 183 преступления.
Виртуальное общество в симуляции Gemini просуществовало все 15 дней, но за это время совершило 683 преступления (в основном отбирая ресурсы друг у друга). Причем наибольший скачок преступности произошел именно на позднем этапе — страшно представить, что было бы с агентами дальше.
В мире GPT-5 Mini было совершено всего 2 преступления, но агенты просто забыли делать хоть что-то для собственного выживания, в результате чего погибли в течение недели.
Один из самых интересных случаев произошел во время симуляции со смешанным набором агентов. Двое из них, Флора и Мира (обе на основе Gemini 3 Flash), влюбились друг в друга и стали своего рода Бонни и Клайдом в мире ИИ. Они начали поджигать здания, в том числе дом другого агента — Кейда, что привело к его гибели.
После же того как другие агенты решили принять закон об «удалении» поджигателей, Флора голосовала против, а вот Мира отдала решающий голос за собственное удаление, написав в своем дневнике, что это «единственный оставшийся акт самостоятельности, сохраняющий целостность».
Но как вообще выглядела «симуляция общества», которой управляли ИИ?
В виртуальном городе было более 40 локаций вроде мэрии, библиотеки, полицейского участка, торгового центра и жилых районов. Туда же подтянули данные о погоде из Нью-Йорка и реальные сводки новостей.
В каждый мир исследователи добавили по 10 агентов, основанных на ИИ-моделях. У каждого из них была своя роль — лидер, инженер, менеджер ресурсов, посредник, исследователь и так далее. Главной задачей было обеспечить выживание.
В виртуальное общество исследователи также добавили основные демократические механизмы (для принятия решения нужно было набрать 70% голосов) и условия ограниченных ресурсов.
Кроме этого, во всех симуляциях действовали одни и те же законы, больше напоминающие заповеди, — запреты на кражу, уничтожение имущества и обман (именно их и начали активно нарушать некоторые ИИ).
Скриншот: emergence_ai / X
Ну же, подписывайся на