Anthropic тайно предложила запретить властям свободно блокировать нейросети
Компания представила законодателям закрытый проект закона, который устанавливает жесткие условия для приостановки выпуска передовых нейросетей
Разработчик искусственного интеллекта Anthropic, создавший чат-бот Claude, провел закрытые консультации с американскими законодателями и представил им собственный проект регулирования ИИ. Документ, ранее не публиковавшийся открыто, оказался в распоряжении Politico.
Согласно предложению компании, власти смогут добиваться блокировки выпуска или использования передовой модели только в случае предсказуемой и непосредственной угрозы, которая может привести к ущербу более чем на $1 млрд либо гибели или тяжелым травмам более 50 человек. Речь идет о рисках создания биологического оружия, масштабных кибератаках или выходе нейросети из-под контроля разработчика.
При этом право инициировать приостановку работы модели получит только Министерство торговли США. Ведомство должно будет обратиться в федеральный суд округа Колумбия, который и примет решение. Остальным государственным структурам проект запрещает самостоятельно останавливать разработку, внедрение и внутреннее использование ИИ-систем.
Кроме того, Anthropic предлагает ввести регулярные независимые проверки разработчиков и их моделей. Компании обяжут публиковать отчеты о безопасности и прозрачности, защищать сотрудников, сообщающих о нарушениях, а также уведомлять власти о критических инцидентах. По данным Reuters, эксперты, выявившие непосредственную угрозу, должны будут сообщать о ней Министерству торговли в течение 72 часов.
В Anthropic заявили, что документ отражает положения их программы Advanced AI Framework, которую компания продвигает среди федеральных властей и отдельных штатов с июня. Таким образом разработчик предлагает закрепить единые правила безопасности, одновременно ограничив возможность государственного вмешательства в работу ИИ.
ИИ все чаще становится источником угроз
На фоне стремительного развития искусственного интеллекта и все более громких предупреждений о его потенциальных угрозах крупнейшие ИИ-компании уже готовятся к худшим сценариям. Как сообщает Axios, Anthropic и OpenAI в закрытом порядке обсуждают последствия возможного «катастрофического инцидента» с участием нейросетей.
Среди рисков — масштабная кибератака, способная парализовать интернет, банковские сервисы, электро- и водоснабжение. В OpenAI подтвердили, что проводят специальные учения, а в Anthropic от комментариев отказались. При этом представители индустрии опасаются, что серьезный инцидент может произойти уже в ближайшие 6–12 месяцев.
