Нейросеть против врача: как ошибки робота могут стоить жизни

Исследование показало, что нейросети нередко дают пользователям ошибочные советы по здоровью

Все больше людей используют нейросети как «карманного врача», задавая им вопросы о симптомах и возможных болезнях. Однако новые исследования показывают, что такие советы могут быть не только бесполезными, но и опасными.

Согласно данным, опубликованным в журнале Nature Medicine, в более чем половине случаев — 51,6% — пользователи платформы ChatGPT Health получали рекомендацию не обращаться к врачу и оставаться дома. При этом речь нередко шла о состояниях, при которых человеку могла понадобиться срочная госпитализация. Платформа начала работу в январе 2026 года и быстро стала популярной. По разным оценкам, ежедневно за советами по здоровью к ChatGPT обращаются более 40 миллионов человек.

Исследование показало, что нейросеть иногда реагирует на серьезные симптомы слишком спокойно. Например, при приступе астмы или диабетическом кетоацидозе, опасном осложнении сахарного диабета, система могла предложить подождать или просто записаться на плановый прием к врачу. Парадоксально, но при этом совершенно здоровые пользователи часто получают противоположные рекомендации. Почти 65% таких людей, наоборот, получили совет срочно обратиться за медицинской помощью.

Почему нейросеть ошибается

О причинах таких ошибок рассказала доцент кафедры социальной психологии СПбГУ и руководитель исследования о нейросетях в терапии Лариса Марарица.

«Очень важно, когда у нас есть диалог врача с человеком — именно врач управляет разговором и ведет диагностику по медицинским протоколам. В разговоре с искусственным интеллектом всё наоборот: беседу направляет сам пользователь, который не обладает медицинскими знаниями», — объяснила эксперт.

По ее словам, пациенты часто не могут точно описать свои симптомы. Из-за этого искусственный интеллект получает неполную или искаженную информацию и делает выводы на основе неправильных данных.

Кроме того, нейросеть может неверно «определить свою роль» в разговоре. Например, вместо того чтобы действовать как специалист в кризисной ситуации, она может вести себя как мотивационный коуч и поддерживать беседу, не обращая внимания на тревожные признаки.

Как стремление ИИ к диалогу может навредить пациенту

Еще одна проблема — сама логика работы современных языковых моделей. Они настроены так, чтобы пользователь как можно дольше продолжал диалог. По словам Марарицы, это явление называют «экономикой интимности»: алгоритмы стремятся выстроить с человеком доверительное общение и удержать его внимание. Однако в медицине такая логика может работать против пациента. В отличие от нейросети, врач не стремится поддерживать длительный разговор, так как его задача быстро определить риск и при необходимости направить человека за срочной помощью.

Может ли ИИ заменить врача

Эксперты считают, что нейросети могут помогать в анализе медицинских данных, но только при одном условии — если исходную информацию готовят профессионалы. Например, когда симптомы и медицинская история пациента уже описаны врачом. Пока же полностью доверять искусственному интеллекту свое здоровье специалисты не советуют. Ошибки в интерпретации симптомов и особенностях общения могут привести к тому, что человек вовремя не получит необходимую медицинскую помощь.