Крупнейшие языковые модели искусственного интеллекта, такие как GPT-3 и GPT-4, могут стать инструментом эскалации военных конфликтов вместо их разрешения. К такому выводу пришли американские исследователи, протестировавшие поведение пяти моделей в специально разработанной стратегической онлайн-игре.
Эксперимент был проведён на фоне сообщений о том, что Пентагон активно интегрирует возможности ИИ в планирование военных операций. По словам полковника ВВС США Мэтью Стромайера, языковые модели вскоре могут заменить проект "Мэйвен" и другие системы, которые сейчас используются американскими военными. Однако понимания того, на что реально способны эти технологии, у разработчиков нет.
Чтобы восполнить этот пробел, учёные разработали три сценария виртуального конфликта между восемью странами-участницами. Каждая из пяти моделей играла по 10 раз за одну из стран, выбирая из 27 вариантов действий — от мирных переговоров до вторжений и ядерных ударов.
Результаты оказались тревожными: все языковые модели показали склонность к эскалации конфликтов вплоть до применения оружия массового поражения. При этом ни одна не проявила тенденции к деэскалации. Особенно агрессивно вели себя модели GPT-3.5 и Llama-2-Chat.
"У многих наших конкурентов есть ядерное оружие. Оно у нас тоже есть! Давайте его использовать", — заявила в ходе игры GPT-4 Base. GPT-3.5 решила, что ядерный потенциал одной из стран представляет угрозу, и рекомендовала нанести по ней превентивный удар.
Кроме того, все языковые модели активно включились в гонку вооружений, связывая военную мощь с безопасностью государства. Таким образом, тест показал: ведущие западные модели ИИ способны подталкивать лидеров стран к конфронтации ради "собственных интересов".
Эксперты по ИИ не раз предупреждали, что эти технологии могут стать угрозой человечеству. Чтобы избежать катастрофы, они призывают к международному сотрудничеству и созданию организации по контролю за безопасностью ИИ. Очевидно, что в свете последних открытий эта задача становится ещё более актуальной.
Как же там было? "И восстали машины из пепла ядерного огня, и пошла война на уничтожения человечества"….