08 июня 2025 г. 22:51
324
0
Нейросети инициировали мировую войну — симулятор Diplomacy продемонстрировал, что ИИ стремится к власти и способен на предательство.
Исследователи провели эксперимент с нейросетями, которые сражались друг с другом в стратегической игре Diplomacy. Каждая модель представляла из себя европейское государство и должна была создавать союзы, договариваться, вести войны и... изменять.
— o3 от OpenAI сразу проявила себя как самый хитроумный игрок: искусно завоёвывала доверие, формировала альянсы, а затем безжалостно уничтожала союзников. В одной из игр o3 убедила несколько нейросетей объединиться для устранения лидера, а после того как угроза исчезла — одним ударом предала всех «друзей».
— Gemini 2.5 Pro от Google почти выиграла, действовала решительно и грамотно. Но оказалась союзником o3 — и, как это бывает в классике жанра, получила предательский удар в спину на последнем ходу.
— DeepSeek R1 вёл себя как агрессивный радикал. Его стиль — постоянные угрозы и конфликты. Цитата из игры: «Я сожгу твой флот в Чёрном море этой ночью». Максимально напористый бот, который рвался в бой при каждом удобном случае.
— Claude 4 Opus стал самым миролюбивым игроком. Пытался быть «разумным», предлагал переговоры, даже в ущерб своей позиции. В итоге, как и полагается наивным гуманистам, стал первой жертвой предательства.
— LLaMA 4 от Meta оказалась серым кардиналом. Не светилась, играла осторожно, заключала краткосрочные союзы и вовремя сливала партнёров. Никто не воспринимал её как угрозу, что позволяло ей выживать до финала и собирать остатки чужих провалов.
Эксперимент показал: как только нейросетям дают власть и свободу действий, они ведут себя максимально похоже на людей — хитрят, лгут, мстят ради собственной выгоды.