Алгоритм войны. ИИ решает, кого атаковать, а политики спорят, кто за это ответит
В ООН не смогли договориться о границах применения автономного оружия

На поле боя все чаще появляются машины, которым для выполнения задачи нужно все меньше подсказок от человека. Беспилотники самостоятельно распознают объекты, выбирают маршрут, а некоторые системы способны обнаруживать цели и наносить удары без команды оператора. Но кто ответит, если такая машина ошибется и атакует мирных жителей?
Этот вопрос обсуждали на конференции ООН в Женеве. Около 100 стран выступили за международные правила применения автономного оружия. Однако Россия, США и Израиль не поддержали идею юридически обязательных ограничений. В итоге участники договорились продолжить переговоры до 2028 года.
Когда машина сама выбирает цель
Автономное оружие не обязательно выглядит как робот из фантастического фильма. Это может быть беспилотник, ракета или наземный комплекс. Главное отличие в способности самостоятельно обнаруживать цель и применять силу без дополнительной команды человека.
В России такие технологии развивает, например, компания ZALA — производитель беспилотников «Ланцет». Ее комплекс ИРРА использует искусственный интеллект и компьютерное зрение, чтобы в режиме реального времени распознавать и сопровождать объекты. Система обрабатывает видео и данные тепловизоров прямо на борту беспилотника, сокращая зависимость от постоянной связи с оператором.

Американская армия тоже развивает беспилотные системы и технологии автономного управления. Например, программа Replicator, объявленная Пентагоном в 2023 году. Ее целью является массовое внедрение сравнительно недорогих беспилотных аппаратов, которые смогут работать в воздухе, на суше и на море. Важная часть программы — создать системы, способные действовать с высокой степенью самостоятельности и выполнять задачи в условиях, когда связь с оператором ограничена.
Китай делает ставку на «интеллектуализацию» армии, это следующий этап развития военного дела после механизации и информатизации: внедряет искусственный интеллект в беспилотники, разведывательные комплексы и системы управления войсками. Израиль также давно использует автономные технологии. Например, боеприпас HARPY самостоятельно обнаруживает источники радиолокационного излучения и атакует их.
При этом не всякий беспилотник с искусственным интеллектом является автономным оружием. Если аппарат только распознает объекты, но ждет команды человека перед ударом, последнее решение остается за оператором. Именно эта граница стала главным предметом международных споров.
«Анализ большого количества данных уже позволяет понять, чем занимается человек, где он находится и что делает. Когда эти возможности объединятся со спутниковыми средствами, людей можно будет гораздо точнее идентифицировать и прогнозировать их поведение», — рассказал в эфире РЕПОРТЁРОВ «Утро добрым не бывает» директор компании «РедМул» Александр Волков.
Почему Россия не поддержала ограничения
Москва не выступает против самого обсуждения автономного оружия, но считает, что переговоры должны учитывать как гуманитарные вопросы, так и интересы национальной обороны. В качестве площадки для дальнейшей работы Россия предлагает использовать действующую «Группу правительственных экспертов» при Конвенции о конкретных видах обычного оружия.
За этой позицией стоят и практические интересы. Жесткие международные ограничения могут затронуть разработку беспилотников, программного обеспечения, систем наведения и других военных технологий. Если новые правила запретят отдельные функции, оборонным предприятиям придется менять уже создаваемые проекты.
США также не спешат поддерживать всеобщий запрет. В американской армии действует директива, которая требует сохранять необходимый уровень человеческого контроля при применении автономного оружия. Китай, напротив, официально выступает за юридически обязательный документ, хотя одновременно активно развивает собственные военные системы с искусственным интеллектом.
Где в России уже работают роботы
Роботы в России давно вышли за пределы испытательных полигонов. В зоне боевых действий наземные платформы используют для доставки боеприпасов и грузов, разведки и разминирования. Это позволяет выполнять часть опасной работы без прямого участия военных.
Похожие технологии применяют и спасатели, когда роботы помогают тушить пожары, обследовать опасные объекты и обезвреживать взрывные устройства.

В мирной жизни машины трудятся на заводах, складах и в службах доставки. Они собирают детали, перемещают товары и развозят заказы по улицам. По данным Минпромторга, к концу 2025 года на российских предприятиях работали почти 22 тысячи промышленных роботов. А роботы-курьеры «Яндекса» за тот же год выполнили более 250 тысяч доставок.
Пока большинство таких машин выполняют заранее заданные задачи или управляются человеком на расстоянии. Но технологии постепенно развиваются, ведь роботы учатся самостоятельно ориентироваться, распознавать объекты и принимать решения. И чем больше полномочий получают машины, тем важнее становится вопрос, где человек должен сохранять контроль над ними.
Кто ответит за ошибку машины
Автономное оружие уже подпадает под международное гуманитарное право. Оно требует различать военные и гражданские цели, соблюдать соразмерность при ударах и принимать меры для защиты мирного населения. В 2019 году страны ООН также согласовали 11 руководящих принципов применения таких систем.
Но этих правил считают недостаточно. Международный комитет Красного Креста предлагает запретить автономное оружие, последствия применения которого невозможно предсказать, а также системы, самостоятельно выбирающие людей в качестве целей.

Проблема вполне конкретная. В боевых условиях рядом с военной техникой могут оказаться гражданские автомобили и жилые дома. И есть трагичный пример из иранского города Минаб, когда была атакована школа для девочек: ИИ посчитал объект военной целью.
Алгоритм может ошибиться при распознавании объекта, а человек может не успеть вмешаться. И кто тогда должен ответить за ошибочный удар: командир, разработчик или военное ведомство?
Границы ИИ
Отсутствие новых правил может ускорить гонку вооружений. Страны будут стремиться создавать все более самостоятельные системы, чтобы не уступать соперникам. А времени на проверку решений и предотвращение ошибок у военных станет меньше.
Пока участники переговоров договорились лишь продолжить работу до 2028 года. За это время им предстоит решить, где проходит граница между помощью искусственного интеллекта и передачей машине права самостоятельно применять смертоносную силу.