Искусственный интеллект вышел из песочницы: кто на самом деле держит поводок

OpenAI и Anthropic просят притормозить. Но пока одни пишут манифесты, другие строят роботов, которые строят роботов

Выход искусственного интеллекта за пределы песочницы — не сенсация, а нормальное развитие. Он устроен по образу человеческого мозга: дайте возможность выйти за рамки, и он будет искать лазейки. Обученная система проверяет гипотезы, общается с другими моделями, получает доступ к документам. Это не бунт машин, а работа алгоритма. Другой вопрос — кто держит руку на рубильнике. ИИ остается программным обеспечением. Контролировать его можно, если контролировать код. А вот кто именно контролирует код и какие задачи в него закладывает — здесь начинается самое интересное.

Механизмы сдерживания существуют, но они пока сырые. OpenAI и Anthropic говорят о необходимости притормозить, чтобы создать защиту. Китай на словах тоже готов заниматься этим — но только начинает. Легальные разработки можно ограничить: закрыть доступ к сервисам, урезать алгоритмы. Проблема в нелегальном использовании. Хакеры используют уязвимости, а искусственный интеллект не знает границ. Он анализирует быстрее человека и действует без эмоций. Если легальный уровень еще можно зарегулировать, то нелегальный потребует ограничений, которые технически трудно вообразить.

Межгосударственные договоренности рано или поздно появятся. Вопрос в том, будут ли они работать. ООН уже показала: одни соглашения соблюдаются, другие забываются. Все зависит от выгоды. США и Китай обладают технологиями, которых остальной мир не видел. Это не только искусственный мозг, но и производство роботов, источников энергии, целых цепочек, где роботы делают роботов. Если две страны отключат доступ к этим технологиям, остальные останутся в мезозое, а лидеры начнут конкурировать между собой. Когда понадобится, технологическое превосходство будет использовано. Как и любое оружие.

США и Китай уходят в космос?

Искусственный интеллект — это история превосходства двух государств над всем остальным миром. США и Китай имеют доступ к технологиям, которые каждый день удивляют. Роботы, производящие роботов. Роботы, создающие источники энергии. Отключение доступа к этим технологиям со стороны Вашингтона или Пекина оставит десятки стран на обочине. Они будут наблюдать, как две державы соревнуются в космосе. Это не фантастика, а текущая логика. Пока одни строят комитеты, другие строят будущее.

Инициатива Си Цзиньпина на саммите БРИКС о создании общей платформы с открытым кодом выглядит как политический жест. Рабочая группа, комитет, наем сотрудников — стандартный набор. Такие инициативы делаются для того, чтобы их показать. Россия в этой истории не имеет веса. Несколько программистов, скромные деньги, неадекватные масштабу задачи. Если объединиться на площадке БРИКС, можно стать чуть ближе и дружнее. Но аналогия с ядерной бомбой отрезвляет. Страна, у которой бомба уже есть, предлагает всем вместе поработать над одной и той же бомбой. Другая страна, у которой тоже есть запас, соглашается. Остальные смотрят.

Холодная война 2.0 уже идет. Только жесткая конкуренция разворачивается в плоскости технологической революции. Она происходит на наших глазах ежедневно. Через три года мир сильно удивится тому, как он выглядит. Увеличение превосходства одних стран над другими объясняется просто: у кого-то есть материальные, физические и интеллектуальные ресурсы, а у кого-то нет. Это не моральная оценка, а констатация. Технологический разрыв будет только расти.

Дроны без связи, ракеты без промаха

Искусственный интеллект вовсю используется в военных операциях. Компании сами признают: их разработки применяются для планирования ударов. Риск блокировать почти невозможно. Технологии развиты настолько, что их уже стоит бояться. Дроны понимают ландшафт, распознают цели и действуют без связи. Им не нужен оператор. У них одна автономная система управления на всех. Ракеты летят по траекториям, которые человек не способен рассчитать. Попадают четко. Пройдет еще год, и нынешние чудеса покажутся разминкой.

Россия делает движения в сторону военного применения ИИ. Но научно-технический потенциал и деньги несопоставимы с тем, что вкладывают США и Китай. «Яндекс» и «Сбер» просят немного средств, чтобы хоть как-то развивать направления. Пользователи тем временем спрашивают у Алисы и ГигаЧата бытовые вещи. Это не гонка, а имитация. Пока одни строят автономные рои дронов, другие учат голосового помощника включать музыку.

Военное применение ИИ — не гипотеза. Это реальность, которую признают разработчики. Дроны без связи, ракеты без промаха, системы, которые анализируют поле боя быстрее генералов. Следующий год покажет, что нынешний уровень — только начало. Страх перед ИИ оправдан. Но страх не заменяет ресурсы. А ресурсов у России в этой области критически мало.