Появился хороший повод обсудить использование ИИ для ведения войны — и то, как он помогает совершать военные преступления, за которые якобы никто не несет ответственности.
Художник Уэсли Гоутли выпустил
The Killchain Tribunal — браузерную игру о расследовании военных преступлений, совершенных при использовании систем ведения боевых действий на основе ИИ. В игре воссозданы настоящие системы, активно используемые в современных войнах.
Целью игры заявляется критика мифа о существовании ответственности «суперинтеллекта» или «вышедшего из-под контроля ИИ» и возвращение ответственности реальным людям.
Центральной концепцией выступает киллчейн (
killchain) — пошаговый протокол действий, используемый в военном деле, и описывающий все шаги от поиска целей до их уничтожения и оценки результата. Последние годы ИИ активно интегрируется в киллчейн большинства армий для того, чтобы значительно ускорить все этапы (вплоть до десятка секунд): от поиска целей до принятия решения об их ликвидации.
Важным юридическим контекстом выступает то, что в большинстве стран, интегрирующих ИИ в военную машину, не существует каких-либо регуляций использования ИИ в подобных сценариях — и мало кто спешит это делать. Поэтому вопрос ответственности за военные преступления при использовании автономных систем наведения и определения целей остается нерешенным.
Игровой процесс разбит на три сюжета с тремя случаями военных преступлений. Целью игрока является поиск ответственных
людей на каждом из шести этапов киллчейна, ими может быть: оператор, принимающий решения через свой интерфейс; солдат «на земле», предоставляющий данные об обстановке; дизайнеры самой системы.
В игре воссозданы три реально существующих системы на основе официальных пресс-релизов и фотографий военных.
Первая —
Project Maven, создаваемая для министерства обороны США с 2017 года силами Palantir (напомню, что
у них партнерство с NVIDIA), Google (вышли из проекта в 2018), Amazon, Anduril и Anthropic (вышла в 2026). Представляет из себя комплексную систему/командный центр на основе ИИ, способную определять и отслеживать потенциальные цели через множество устройств: спутники, дроны, камеры; организовывать коммуникацию между оператором и другими военными; предоставлять координаты целей другим подразделениям и давать возможность оператору вызывать удары.
Вторая — Lattice от Anduril. Представляет похожую на Project Maven систему с использованием ИИ. Третья – Project ASGARD, разработка для британской армии, по концепции близкая к Lattice и Project Maven.
Советую всем пройти все три коротких сюжета. Проблемы подобных систем станут более наглядными: от геймификации киллчейна через удобные интерфейсы, снижающей шансы оператора на принятие взвешенных решений, до false-positive алгоритмов ИИ, ошибочно определяющих и предлагающих цели как враждебные, и людей, все чаще полагающихся на эти решения.
P.S. Очевидный факт — военные преступления редко расследуются, и также редко кто-либо привлекается к ответственности за них. Роль ИИ во всей этой давно функционирующей системе — это «оптимизация» процесса убийств.