ДУШКИН — РЕПОРТЁРАМ: Антиплагиат путает человека с нейросетью, а маркировкой ИИ-контента могут воспользоваться мошенники

В вечернем эфире «Все будет хорошоу» генеральный директор ООО «А-Я эксперт», профессор МНИИПУ, РОП «Искусственный интеллект» НИЯУ МИФИ Роман ДУШКИН рассказал о проблеме маркировки ИИ-контента и работы систем антиплагиата.

Антиплагиат не отличает человека от нейросети

Мы проводили эксперимент с коллегой в Ядерном университете. Написали две статьи на одну тему. Одну сгенерировал ИИ — ни одной буквы от человека. Вторую написали вручную. Прогнали через систему антиплагиата. Обе получили одинаковый показатель: с вероятностью 25% текст сгенерирован искусственным интеллектом.

Почему? Научные статьи по стилю похожи на генерацию. Их академический стиль — тот самый, на котором обучались большие языковые модели. Большая часть материалов в их обучающих выборках — именно научные статьи.

Человек, когда пишет научную работу из головы, волей-неволей выдает ровно то же самое. Система не может отличить. И это не технический баг. Это фундаментальная проблема: чем лучше мы пишем научные тексты, тем больше они похожи на то, что выдает ИИ.

ИИ — такой же инструмент, как аспирант или литературный негр

Я не вижу проблем в том, чтобы научить людей грамотно пользоваться инструментом. Генерируйте книги. Если книга хорошо продается, ее интересно читать — какая разница, кто ее написал? Гусиным пером, на пишущей машинке или через нейросеть? Это инструмент. Человек остается автором.

Вспоминаю свои студенческие годы. Научная руководительница не писала статьи сама. Генератором выступал аспирант. Она давала промпт: «Напиши статью на такую-то тему, возьми эти источники, скомпилируй, из того возьми это». Сегодня то же самое — только вместо аспиранта нейросеть.

Вспомните про литературных негров. Раскрученный писатель с миллионными тиражами — думаете, он хоть одну букву пишет? Нет. Дает общую канву, фабулу, а потом сидят негры и печатают.

Сейчас насмотренный глаз может определить нейросгенерированное изображение. Но через полгода даже он не отличит

С марта 2027 года контент, созданный ИИ, обяжут маркировать. Но как заставить человека ставить отметку? Не существует инструмента, который со стопроцентной уверенностью скажет: «Вот это точно сгенерировано». Мы не можем проверить каждую картинку, песню, текст.

И здесь — инверсия бремени доказательства. Мы очень быстро научим людей, что если на контенте нет маркировки, значит, он доверенный. А этим будут пользоваться злоумышленники.

Сейчас насмотренный глаз может определить нейросгенерированное изображение. Но через полгода даже он не отличит. А злоумышленники воспользуются этой инверсией: отсутствие маркировки будет включать у людей флажок «доверенный контент».

Читателю все равно, как я написал текст — ручками или сгенерировал. Важно, что я отвечаю за его содержание

Выход есть. Маркировать нужно не ИИ-контент, а доверенный. При помощи цифрового водяного знака, который выдает авторизованный государственный центр.

Госорганы получают высший уровень сертификации. Все, что подписано этим сертификатом, — доверенное. Официальные СМИ — второй уровень. Блогеры, инфлюенсеры — третий уровень, они подписывают контент и берут ответственность за его достоверность.

И тогда читателю все равно, как я написал текст — ручками или сгенерировал. Важно, что я отвечаю за его содержание. Злоумышленник не получит такой сертификат. Непомеченный контент автоматически становится недоверенным. Это работает.