США экстренно заблокировали новейшие нейросети компании Anthropic
Компания отключила Fable 5 и Mythos 5 для всех иностранных пользователей, включая собственных сотрудников за пределами США
Американская компания Anthropic ограничила доступ к своим наиболее мощным моделям искусственного интеллекта — Fable 5 и Mythos 5, после директивы правительства США. Под ограничения попали все пользователи, не являющиеся гражданами США, включая иностранных сотрудников самой компании. Об этом говорится в официальном заявлении Anthropic.
В компании пояснили, что решение принято по соображениям безопасности и вступило в силу немедленно. При этом остальные продукты Anthropic продолжают работать в обычном режиме.
«Фактически это означает, что мы вынуждены незамедлительно отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение директивы. Доступ ко всем остальным моделям Anthropic затронут не будет», — говорится в заявлении.
Как отмечает компания, власти США передали директиву без подробных объяснений. Предположительно, причиной стал обнаруженный узкий способ обхода защитных механизмов Fable 5, так называемый джейлбрейк, позволяющий обойти ограничения модели. В Anthropic подчеркивают, что перед запуском Fable 5 система проходила многотысячные тесты совместно с американскими властями и демонстрировала более высокий уровень защиты, чем предыдущие разработки компании.
При этом в Anthropic открыто выразили несогласие с решением Вашингтона, заявив, что подобный подход может затормозить развитие всей индустрии искусственного интеллекта.
«Мы подчиняемся юридической директиве правительства и отключаем доступ к Fable 5 и Mythos 5 для всех пользователей. Однако мы не согласны с тем, что обнаружение узкого потенциального джейлбрейка должно служить основанием для отзыва коммерческой модели, развернутой для сотен миллионов людей», — заявили в компании.
Fable 5 считается самой мощной публично доступной моделью Anthropic и предназначена для сложных задач — от программирования и научных исследований до длительной автономной работы. Mythos 5 обладает аналогичными возможностями, но распространяется ограниченно через Project Glasswing.
Ранее The Wall Street Journal сообщала, что модель Claude Mythos вызвала обеспокоенность в Белом доме из-за способности находить уязвимости в программном обеспечении. По данным издания, американские власти опасаются, что подобные системы могут использоваться для кибератак на банки, больницы и объекты критической инфраструктуры. На этом фоне администрация США уже рассматривала возможность усиления контроля над передовыми ИИ-моделями.
Дополнительное внимание к ситуации привлекает и тот факт, что в начале июня Anthropic конфиденциально подала документы на IPO в США. Возможное размещение может стать одним из крупнейших событий на рынке ИИ и усилить конкуренцию компании с OpenAI за инвесторов и корпоративных клиентов.
Недавно офис директора Национальной разведки США опубликовал ранее засекреченные материалы, согласно которым американские власти финансировали более 120 биологических лабораторий в свыше 30 странах мира, включая Украину.
