ИИ как топор и энциклопедия

Эксперт Курочкин объясняет, почему нейросети не заменят людей, но требуют контроля

С искусственным интеллектом сегодня пытаются работать все — от студентов до крупных корпораций. Но первые восторги от его возможностей сменяются трезвым пониманием: это мощный, но капризный инструмент, который требует не меньше ресурсов, чем живой специалист. Можно рассказать об этом на примере одного проекта, где изначально даже слоган придумали — «Искусственный интеллект с юридическим образованием». От этого быстро отказались: стоило запустить модель в работу, как обнаружились галлюцинации, выдуманные статьи и несуществующие правовые нормы. Выглядело все настолько убедительно, что непрофессионал мог поверить безоговорочно.

Стало очевидно: без юриста все равно не обойтись. Искусственный интеллект отлично пишет красивые тексты, но если речь идет о праве, живой специалист должен все проверить. Удобнее всего воспринимать такие модели, как огромный справочник. Раньше была Большая советская энциклопедия — много томов, где лежал ответ практически на любой вопрос. Дедушка лез в нужный том и искал. Сегодня то же самое: в языковых моделях ответы есть, но их надо прочитать, проанализировать и правильно применить.

Когда студент пишет диплом с помощью ИИ, рассуждения выглядят идеально. Зачитываешься и думаешь — неужели это правда. Но слишком часто модели выдумывают факты, сопоставляя несопоставимое. Профессиональный взгляд быстро находит ошибки, и иллюзия рассыпается.

Пять лет, миллионы и живой юрист: почему бизнес пока не спешит увольнять людей

Многие компании начали разворачивать у себя локальные модели и обучать их под собственные задачи. Но тут выяснилась неприятная арифметика: чтобы качественно обучить модель под себя, нужно как минимум лет пять. В течение этого времени кто-то должен вносить данные, фиксировать ошибки, корректировать поведение системы. Содержать приходится и юриста, и программистов, которые эту модель тренируют. Экономическая целесообразность сходит на нет.

Поэтому пока бизнес идет по более простому пути — оплачивает доступ к платному искусственному интеллекту в качестве помощника. Очень удобно закинуть в него договор на сорок страниц и попросить: напиши все риски, найди ошибки. Модель тут же выдает список, ты пробегаешься по пунктам — и не надо читать весь документ. В этом смысле ИИ прекрасен, но заменить людей полностью не может и, скорее всего, не сможет еще долго. Да это и неправильно — выясняется на практике.

Отдельная история — познавательные задачи, с которыми нейросети справляются далеко не блестяще. Есть классический тест на качество понимания реальности: стакан без дна с запаянным верхом. Можно ли из него попить? Искусственный интеллект, как правило, глупо отвечает «нельзя». А недавно специалисты из Московского инновационного кластера придумали тест, который заслуживает аплодисментов. Посадили сотрудницу проходить тестирование с помощью ИИ, рассчитывая на сто процентов правильных ответов. Итог — всего 85%. Из нескольких десятков вопросов с тремя вариантами ответов нейросеть умудрилась выбрать неверный, потому что авторы теста так хитро сопоставили формулировки, что модель запуталась.

Это важный сигнал: далеко не все искусственному интеллекту по зубам, и границы его возможностей пока вполне осязаемы. Никто даже не стал детально разбираться, в чем именно был подвох, но сам факт, что тест оказался неподъемным, говорит о многом.

Топор в темном переулке: кибербезопасность как борьба добра со злом

Что касается кибербезопасности, то здесь продолжается вечная борьба добра со злом. Программисты не просят ИИ написать целый сайт или программу — они используют готовые куски кода, чтобы ускорить рутину. Ему задают четкие параметры, а дальше все равно идет проверка, отладка и тестирование. Ошибок практически не бывает, потому что процесс контролируется человеком.

Точно так же действуют и злоумышленники. Никто не говорит нейросети: «Вот тебе сайт Пентагона, иди запусти ядерные ракеты». Искусственный интеллект такого не умеет. Его используют для быстрого анализа информации. Нашумевшая история с анализом городских камер — хороший пример. Раньше, чтобы отследить передвижение человека, приходилось вручную просматривать записи с каждой камеры, гадая, куда он свернул. Сегодня система считывает лицо и за секунды находит его по всем камерам города. Это колоссальное ускорение.

Поэтому вопрос «опасен ИИ или нет» — это вопрос о руках, в которых он находится. Топор опасен? Когда рубишь дрова бабушке в печку — нет. Когда встречаешь незнакомца с топором в темном переулке — очень даже. Ровно так же и с искусственным интеллектом. Кто-то применяет топор для хороших дел, кто-то — для преступления. Никакой однозначности тут нет. Это просто новая жизнь, к которой нужно подстраиваться.

Папа Римский, Anthropic и закон Яровой: как регулировать неуправляемое

Именно поэтому все чаще звучат призывы к регулированию. Папа Римский недавно опубликовал большой текст, где назвал ИИ реальной угрозой человечеству, в том числе из-за применения в военных целях. Компании вроде Anthropic, зарабатывающие на технологиях, выступают за контроль. И регулирование действительно необходимо, пока сфера не ушла в неконтролируемый штопор — тот самый, о котором десятилетиями говорили фантасты и на который мы тогда смотрели с воодушевлением.

Как минимум государству нужно знать, где искать. Неинтересно, что кто-то дома на компьютере настроил свою маленькую модель и тренируется. А вот когда появляется крупный сервис, предоставляющий ИИ для многих сфер жизни, разработчики должны быть известны, клиенты — понятны, цели использования — прозрачны. Интернет уже зарегулирован во всех странах. В Китае вообще разрешено только то, что разрешено. У нас еще рай в этом смысле.

Но и у нас есть системы отслеживания: закон Яровой обязывает провайдеров хранить записи трафика три года на дисках — объемы безумные. С искусственным интеллектом должно быть то же самое. Данные должны храниться в России, такой закон уже есть. Нужно понимать, для чего и в каких сферах применяются крупные модели. Мелкие частные разработки не страшны. А крупные игроки должны быть известны, и их пользователи — легко досягаемы.

ГигаЧат как более родной: российские модели догоняют западные

Что касается отечественных разработок, то основные игроки хорошо известны — Сбербанк с ГигаЧатом и Яндекс с Алисой. Все остальное строится на западных моделях или их вариациях. ChatGPT ушел чуть вперед, потому что вышел раньше. ГигаЧат пока догоняет, но у него есть одно ощутимое преимущество — он отвечает более по-русски, более родным языком. Когда-нибудь они сравняются, особенно если Сбербанк добавит финансирования.

У Сбербанка, кстати, есть огромное преимущество в данных — практически вся Россия — его клиенты. Это позволяет анализировать поведение и понимать, что сейчас наиболее актуально. Если в ChatGPT вкидывают пачками все, что нашли и скопировали, то ГигаЧат, вероятно, пока фокусируется на первостепенном, постепенно расширяясь. Разница проста: кто-то начал неделю назад, а кто-то вчера. Кто больше сделал? Конечно, тот, кто неделю назад. Но сравнивать пока рано, все только начинается.