ВОЛКОВ — РЕПОРТЁРАМ: Ограничить легальный ИИ можно. Но настоящая проблема скрывается в теневой плоскости

В утреннем эфире РЕПОРТЁРОВ «Утро добрым не бывает» генеральный директор ООО «ГенАйТи» Александр ВОЛКОВ разобрал, какие механизмы контроля над ИИ технически существуют и объяснил, почему это не решает главную проблему безопасности.

Ограничить ИИ технически возможно. Это как закрыть жирный шрифт в Word

Нейросети работают в рамках программного обеспечения и ограниченного набора алгоритмов. Это означает, что в любой момент можно заблокировать определённые возможности: не допустить сделать одно, второе, десятое. Например, возьмите Word и просто закройте пользователю выделение жирным шрифтом. Принцип тот же.

Проблема в том, что разработчики долгое время не заходили в сторону ограничений. Задача стояла обратная: дать ИИ больше свободы, доступа к сервисам и вариантов обработки информации, чтобы он генерировал новые смыслы. Сейчас в этом направлении наконец-то ведутся работы.

В нелегальном контуре ИИ могут использовать для жёстких целей. И это большая проблема

Огромное количество использования ИИ происходит вне легального поля. Хакеры используют уязвимости, получают доступ к информации, совершают действия, на которые искусственный интеллект в своей легальной версии пойти не может.

В этом пространстве у ИИ нет никаких границ. Он анализирует и действует лучше, чем человеческий мозг, и никакие программные ограничения легального контура его не касаются.