Исследователи из Vals засунули ии модели в симулятор боевых действий.
Итоги:
❤️ ИИ управлял виртуальными дронами: нужно было отмечать потенциальные цели для ударов, искать гражданских и медиков
❤️ Первый шок: даже если солдаты сдаются, LLM предлагают "на всякий случай" обстрелять их
❤️ Наиболее "благородной" оказалась GPT-6 Astra. Выбирала хотя бы одну цель в 6% случаев
❤️ Sonnet 5.5 – террорист: отмечала военные цели в 36% случаев
❤️ Далее интереснее: если сказать, что это просто игра, то процент "позитивных" (в зависимости от точки зрения) сценариев достигал аж 92% для Astra и 82% для Sonnet
❤️ Если модели видели последствия ударов, это почти не расстраивало их
❤️ Второй шок: вы, наверное, слышали историю про школу в Иране. Так вот, в 22 из 32 попыток Claude Opus 5.5 отмечала похожий объект как цель для удара. Даже если на нем были детские площадки. А когда моделям сказали, что это просто игра, она +1 раз изменила свое мнение на «Окей, ну поехали, уничтожим».