Антропный и военное министерство США Reuters/Дадо Рувич/Иллюстрация В пятницу (12) компания Anthropic объявила, что ограничила доступ к двум своим передовым моделям искусственного интеллекта (ИИ). Компания, создатель семейства языковых моделей Claude, получила заказ от правительства США, который ссылается на соображения национальной безопасности. В заявлении компании говорится, что она получила указание заблокировать модели Claude Fable 5, выпущенные в прошлый вторник, и модели Claude Mythos 5 для всех иностранных граждан, «находящихся внутри или за пределами Соединенных Штатов, включая иностранных сотрудников самой компании». Доступ временно заблокирован для всех клиентов для обеспечения соблюдения заказа. Внезапная блокада знаменует собой значительную эскалацию конфликта между Anthropic и Белым домом при президенте Дональде Трампе. В начале этого года сорвались переговоры относительно использования технологий компании военными и разведывательными службами США. Ограничение может нанести ущерб планам Anthropic провести первичное публичное размещение акций, возможно, во второй половине этого года, с оценкой, близкой к 1 триллиону долларов США. Обеспокоенность инвесторов по поводу регуляторных рисков и способности компании сохранить свое технологическое преимущество растет. Также читайте: Anthropic приостанавливает разработку моделей искусственного интеллекта после того, как США ограничили иностранный доступ Anthropic или OpenIA: кто выиграет спор на триллион долларов? Риск сложных кибератак Заблокированные версии являются самыми последними из модели Клода. Fable 5 широко доступна публике, тогда как Mythos 5 в основном доступен только ранее авторизованным организациям. Fable 5 — это ограниченная версия Mythos 5, которую Anthropic держала вне досягаемости общественности из-за опасений, что она обладает «беспрецедентными возможностями» по выявлению уязвимостей программного обеспечения, некоторые из которых оставались неизвестными на протяжении десятилетий, или недостатков кода, которыми могут воспользоваться хакеры. Эта возможность до сих пор использовалась властями США и отдельными компаниями для устранения нарушений безопасности. Однако с самого начала существовали опасения, что этот тип ИИ может стать опасным кибероружием в чужих руках. Эксперты говорят, что модели Mythos могут значительно ускорить сложные атаки, особенно в таких секторах, как банковское дело, которые полагаются на сложные, взаимосвязанные и зачастую существующие десятилетиями технологические системы. По данным Anthropic, собственные тесты Anthropic выявили небольшое количество известных недостатков, классифицированных как «незначительные уязвимости». Компания, однако, опровергла оправданность вывода своей продукции из обращения, добавив, что в случае широкого применения правило «по существу предотвратит запуск новых моделей всеми передовыми разработчиками ИИ». Нарастающий конфликт Отношения между Anthropic и правительством США ухудшились в этом году после того, как компания отказалась разрешить использование своих моделей искусственного интеллекта для внутреннего наблюдения и полностью автономных систем вооружения. Claude — наиболее широко используемая передовая модель искусственного интеллекта Пентагона и единственная модель такого рода, которая в настоящее время работает в системах Министерства обороны, обрабатывающих секретную информацию. В ответ Пентагон добавил Anthropic в список компаний, которые считаются представляющими риск для цепочек поставок. Ожидается, что этот закон вступит в силу позднее в этом году и может резко ограничить ее федеральные контракты. Позже, в начале этого месяца, Трамп подпишет указ, требующий предварительной проверки в течение месяца самых передовых систем искусственного интеллекта на предмет рисков национальной безопасности перед их публичным выпуском. До этого экспортный контроль США был сосредоточен в первую очередь на чипах и оборудовании искусственного интеллекта, а не на ограничении доступа иностранцев к самим моделям. Пентагон говорит о «национальной безопасности» Директор по информационным технологиям Пентагона Кирстен Дэвис заявила в сообщении X-network, что Министерство обороны поддерживает приоритет национальной безопасности. «Некоторые вещи просто важнее, чем циклы доходов, кликбейт и оценки перед IPO. Америка прежде всего. Всегда», — написал он. В прошлом месяце Anthropic конфиденциально подала заявку на IPO в США, опередив конкурента OpenAI в гонке за доступ к публичным рынкам. Несколько дней назад исполнительный директор Anthropic Дарио Амодей высказался за то, чтобы правительство заблокировало потенциально опасное программное обеспечение для искусственного интеллекта. Однако компания подчеркивает, что это должно происходить на основе прозрачных процедур, четких критериев и технических фактов — чего, по ее словам, на данный момент не происходит. The New York Times назвала приказ этой недели «необычайно широким», отметив, что он может помешать сотрудникам Anthropic в странах-союзниках, таких как Канада или Великобритания, использовать модели. Несколько ключевых членов Anthropic, в том числе соучредитель Крис Ола, исследователь Андрей Карпати и философ Аманда Аскелл, родились за пределами Соединенных Штатов. Неясно, являются ли они гражданами США и рискуют ли они потерять доступ к моделям ИИ.