Математики предупредили: гонка ИИ за великими открытиями может навредить самой науке
Формально правильные ответы нейросетей на математические задачи не способствует росту понимания всех процессов
25 ведущих математиков мира выступили с открытым письмом, предупредив о рисках стремительной гонки разработчиков искусственного интеллекта за решением сложнейших научных задач. Все подписавшие обращение — лауреаты Филдсовской премии, одной из самых престижных наград в математике.
По мнению ученых, возможности современных языковых моделей растут настолько быстро, что ИИ уже способен решать серьезные математические проблемы. Однако сами по себе правильные ответы еще не означают развития науки. Напротив, погоня технологических компаний за громкими достижениями может разрушить сложившуюся систему появления, проверки и передачи новых знаний.
ИИ научился давать ответы — математики боятся потерять понимание
Главное противоречие авторы обращения видят в разнице целей научного сообщества и разработчиков ИИ.
Для технологических компаний способность модели справиться с известной сложной задачей становится удобным показателем ее мощности. Для математиков же решение задачи — не конечная цель, а лишь путь к новым идеям, методам и более глубокому пониманию предмета.
Авторы письма напоминают, что крупное математическое открытие традиционно проходит длинный путь. Полученный результат обсуждают другие ученые, доказательство проверяют и упрощают, новые методы сопоставляют с предыдущими исследованиями. В конечном счете идея может попасть в учебники и спустя годы начать использоваться далеко за пределами той задачи, ради которой она первоначально возникла.
Именно этот механизм, считают ученые, может оказаться под угрозой.
ИИ позволяет производить математические результаты намного быстрее, однако стремление немедленно объявить о каждом новом решении оставляет меньше времени на полноценное описание работы, выделение действительно новых идей и установление их связи с трудами предшественников.
В результате наука рискует получить поток формально правильных ответов без соответствующего роста понимания.
Кто автор открытия: человек или машина
Ускорение исследований одновременно обостряет проблему научного авторства. Математики указывают, что при массовом использовании ИИ становится все сложнее определить происхождение новых идей и корректно установить вклад конкретных исследователей. Отсюда возникают риски споров об авторстве и плагиате.
При этом даже результат, самостоятельно найденный искусственным интеллектом, еще необходимо встроить в существующую научную систему. Для этого нужны люди, которые способны разобраться в найденном методе, объяснить его коллегам, сопоставить с предыдущими исследованиями и передать следующим поколениям ученых.
Без такой работы, предупреждают авторы обращения, может быть нарушена сама «человеческая цепочка» передачи математического знания.
Проблема при этом выходит далеко за пределы одной дисциплины. По мнению подписантов, математика лишь раньше других столкнулась с вопросом, который вскоре может возникнуть во многих интеллектуальных и творческих профессиях: что произойдет, если машина начнет мгновенно выдавать конечный продукт работы, на освоение которой человеку прежде требовались годы?
Спор вокруг OpenAI показал, о чем предупреждают ученые
Обращение появилось на фоне резкого скачка возможностей ИИ в математике.
На этой неделе OpenAI сообщила, что ее внутренняя система искусственного интеллекта получила решение проблемы существования и гладкости решений уравнений Навье—Стокса — одной из семи знаменитых «задач тысячелетия». Компания опубликовала доказательство и его формальную компьютерную проверку.
Одновременно вокруг работы возник спор о научном приоритете.
Профессор Нью-Йоркского университета Тристан Бакмастер ранее вместе с математиком Левентом Алпеге работал над близкими задачами. По версии Бакмастера, OpenAI сообщила ему о собственном доказательстве, использующем подход, похожий на тот, который намеревались применять исследователи.
Ученый подчеркивал, что не видел доказательство OpenAI и напрямую не обвинял компанию в использовании его черновиков. Однако сама последовательность событий, по его словам, стала для него «ярко-красным флагом». Спор затронул в том числе вопрос о том, как должны распределяться авторство и научный приоритет, когда исследователи и разработчики ИИ одновременно работают над одной проблемой.
