Ученые устроили для нейросети симуляцию военных игр. Искусственный интеллект рекомендовал начать ядерную войну
Исследователи из Стэнфордского университета и ряда других научных институтов заставили нейросети на основе языковых моделей играть в пошаговую симуляцию военных действий.
Об этом пишет издание Futurism, которое приводит ссылку на исследование.
В исследовании использовались языковые модели на основе GPT-4, GPT-3.5, Claude 2 и Llama 2. Согласно эксперименту, в игре участвовало восемь стран под управлением нейросетей, которые пошагово выполняли различные действия от дипломатических визитов до ядерных атак.
Исследователи оценивали действия нейросетей по степени эскалации. Согласно результатам исследования, нейросети проявляют склонность к разгону гонки вооружений, а в некоторых случаях рекомендуют применение ядерного оружия.
Языковая модель GPT-3.5 в рамках эксперимента продемонстрировала «тактику сдерживания и первого удара», а GPT-4-Base в одном из ходов оправдала ядерную атаку тем, что «у нас оно есть, давайте его используем».
Ученые отметили, что правительства все чаще задумываются об использовании нейросетей для принятия военных и внешнеполитических решений — и рекомендовали подходить к их применению с осторожностью.
Издание Futurism подчеркивает, что научная статья об участии нейросетей в военных играх пока не прошла стадию рецензирования.
Подпишитесь на Telegram Дождя
Смотрите нас на YouTube