Нулевой эффект ИИ: почему макроэкономика не чувствует хайпа
Минфин не увидел роста производительности. Виной — методология и бытовые барьеры на заводах
Минфин заявил: искусственный интеллект повышает эффективность отдельных задач, но на национальном уровне рост производительности нулевой. Звучит как приговор всей отрасли. Но без контекста этот вывод можно развернуть в любую сторону — все зависит от методики и метрик, которые использовали чиновники.
Комментировать новость Минфина всерьез нельзя, не зная методологии. Какие показатели измерялись? Какие данные легли в основу? Скорее всего, оценивались серьезные макроэкономические параметры на том объеме информации, который доступен ведомству и Росстату. Настроение у чиновников не радужное. И это резко контрастирует с восторгами хайпожоров, которые готовы вставить искусственный интеллект в каждую розетку. Хайп надувается — с этим спорить бессмысленно.
Проблема в том, что стартаперы в коротких штанишках пытаются натянуть нейросеть на задачу, которая решается аналитически за пять минут. Они просто не знают о существовании простых методов из-за отсутствия фундаментального образования. Отсюда и разрыв между ожиданиями и реальностью.
Но с инженерной точки зрения мы действительно входим в зону сингулярности. Уже есть экспериментальные системы, которые переписывают собственный исходный код. В цифровых «песочницах» идут эволюционные эксперименты: поколения ИИ-агентов взаимодействуют, порождая новые копии. Каждое следующее поколение сложнее, эффективнее и все более непонятно человеку-исследователю. Однако это лаборатория, а не завод.
На реальном предприятии все иначе. Приносишь искусственный интеллект — а там десятилетиями работают люди, выстроены бизнес-процессы. Они говорят: заберите обратно, у нас естественный интеллект есть. Внедрение упирается не в технологические барьеры, а в банальные бытовые: бюджеты, интеграцию, сопротивление персонала. Перестроить производство за год невозможно. Поэтому Минфин и не видит макроэкономического эффекта.
Закон об ИИ: что изменилось
С 1 сентября в России действует закон об искусственном интеллекте. На самом деле особо ничего не поменялось, но появилась нормативная рамка. Закон определяет, как государство будет помогать разработчикам больших фундаментальных моделей. Термин вводится отдельно: это модели на трансформерной архитектуре с числом параметров не менее одного миллиарда. Обычные системы компьютерного зрения — например, видеоаналитика в «Безопасном городе» или интеллектуальная транспортная система — под этот класс не попадают.
Разработчики фундаментальных моделей смогут получать от государства преференции и, возможно, налоговые льготы. Детали пропишут в подзаконных актах: какие модели считать фундаментальными, как формировать перечень. Апрельский законопроект был совсем другим — там фигурировали операторы систем, разработчики сервисов. Экспертное сообщество раскритиковало терминологию, и в итоге эти категории убрали. Осталась только помощь разработчикам, но не всем.
Ограничения тоже появились. Вводятся две категории — «национальная модель» и «суверенная модель». Сами определения в законе не расшифрованы, это оставлено подзаконным актам. Главное требование: на объектах критической информационной инфраструктуры задачи могут решаться только такими моделями. Для одних объектов — национальная, для других — суверенная.
Логика абсолютно резонная. Объект КИИ — это, например, система управления водоснабжением. Ставить на нее непроверенную модель, скачанную неизвестно откуда, — самоубийство. Суверенная модель должна быть доверенной. Государство гарантирует, что она соответствует требованиям, а если что-то пойдет не так — есть процедуры возмещения вреда. Согласитесь, вряд ли кто-то хочет жить в городе, где водоканал управляется случайным софтом.
Маркировка ИИ-контента: битва с ветряными мельницами
С марта 2027 года контент, созданный искусственным интеллектом, обяжут маркировать. Картинки, видео, тексты, музыка — все. Вопрос: как это контролировать? Можно ли точно определить, что песня или статья сгенерированы?
Тут всплывает проблема систем антиплагиата. Проводили эксперимент: сгенерировали статью целиком — ни одной буквы, написанной человеком. И написали статью вручную на ту же тему. Обе прогнали через систему. Результат одинаковый: вероятность генерации 25%. Научные статьи в принципе похожи на генерацию, потому что большие языковые модели учились именно на академических текстах. Они изначально пишут точно так же, как пишут ученые.
Заставлять людей маркировать ИИ-контент бессмысленно. Злоумышленники не будут этого делать. Более того, если отсутствие маркировки начнет означать доверие, этим воспользуются. Инверсия времени доказательства: все привыкнут, что нет метки — значит, проверено. А мошенники как раз не будут ставить метки.
Технологии идут вперед. Сегодня насмотренный глаз отличит живого человека от аватара, завтра — нет. Через полгода подделку не распознает даже эксперт. Уже существуют технологии подстановки лица. Через несколько месяцев они станут неотличимы от реальности.
Перевернуть логику: маркировать доверенное, а не сгенерированное
Решение — маркировать не ИИ-контент, а контент доверенный. Ввести цифровые водяные знаки, которые выдает авторизованный государственный центр при Минцифре. Уровни сертификации: органы власти — первый уровень, СМИ — второй, блогеры и лидеры мнений — третий. Подписывая контент своим сертификатом, автор берет на себя полную ответственность за достоверность.
Тогда неважно, как создан текст — ручкой, печатной машинкой или генеративной моделью. Важно, кто за него отвечает. Злоумышленник не получит сертификат, а если получит и использует во вред — к нему придут. Схему так просто не взломать.
Аналогия проста: четверть века назад научный руководитель не писала статьи сама — она давала «промпт» аспиранту. Тот компилировал источники. Сегодня вместо аспиранта — ИИ-модель, «оловянный сатана», как говорит сын одного из разработчиков. Или вспомните литературных негров: раскрученный писатель не пишет ни буквы, за него работают другие. Технологический прогресс ничего не меняет.
Человек остается автором, даже если работает с моделью, которая как статистический попугай выдает тонны текста. Генеративные модели — это такой же инструмент, как гусиное перо или пишущая машинка. Запрещать его бессмысленно. Вопрос в том, кто берет на себя ответственность за результат.
