КУРОЧКИН — РЕПОРТЁРАМ: Чтобы обучить ИИ под себя, нужно минимум пять лет, и это экономически нецелесообразно

В вечернем эфире РЕПОРТЁРОВ «Все будет хорошоу» эксперт по кибербезопасности проекта СУДИ.РФ Алексей КУРОЧКИН рассказал, почему на обучение модели ИИ под себя уходят годы и миллионы.

ИИ галлюцинирует и выдумывает несуществующие статьи

Расскажу из собственного опыта. Мы тоже сначала поддались моде на искусственный интеллект. У нас даже был слоган: «Искусственный интеллект с юридическим образованием». Потом мы от этого отказались.

Первое, что увидели: он имеет свойство галлюцинировать. Выдумывать несуществующие статьи и прочее. При этом оборачивает все красиво. Если ты не профессионал — начинаешь верить. Кажется, что все так и есть.

В итоге пришли к выводу: без юриста не обойтись. Мы используем ИИ, он может быстро написать красивый текст. Но если касается юридических тем — живой человек должен проверить. Это просто помощник.

Большая советская энциклопедия — тот же ИИ, но без галлюцинаций

Объясняю так: помните Большую советскую энциклопедию? Много томов, ответ на любой вопрос. Мой дедушка лез в определенный том и искал. То же самое здесь. Есть ответ на любой вопрос, но нужно его прочитать, проанализировать и правильно применить.

Про диплом вы говорили — когда ИИ пишет, идеально. В плане рассуждений языковые модели очень классно пишут. Зачитываешься и думаешь: неужели это все правда? Но очень часто они выдумывают от себя, сопоставляя одно с другим. Когда профессионалы смотрят — все становится неправильным.

Обучить ИИ под себя? Требуется минимум пять лет и куча ошибок

Что касается бизнеса: многие стали разворачивать локальные модели, обучать их под себя. Чтобы обучить — нужно минимум пять лет работать.

За это время должны приходить ошибки, человек должен их вносить. Становится очень дорого. Приходится по старинке: и юриста содержать, и программистов, которые будут обучать модель. Нецелесообразно.

Многие компании просто оплачивают доступ к платному ИИ в качестве помощи. Удобно: закинул договор, попросил написать все риски, проблемы, ошибки. Он выдал, ты по пунктам быстренько проверил — не надо читать 40 страниц. Но заменить людей? Это нескоро. По мне — так и неправильно.

ИИ не может набрать 100% верных ответов даже в тесте

Есть известный тест про стакан, у которого нет дна и запаян верх. Спросите: можно ли попить из него воды? Он глупый — скажет, что нельзя.

Недавно наткнулся на тест Московского инновационного кластера. Вопросы и ответы. Я посадил девочку отвечать ему. Так они сделали тест, что ни разу не получилось 100% правильных ответов. Только 85%. А всё остальное — ошибки.

Я не сел, не разобрался, где подвох, но снял шляпу. Они продумали так, что ИИ из трех вариантов выбирает неправильный. Потому что вопрос был сопоставлен так, что он становился неправильным. То есть, что-то он все-таки не может.