антропный Рейтер через BBC В последние недели мир искусственного интеллекта был в смятении после заявлений ведущей компании Anthropic о ее новой модели Claude Mythos. Компания утверждает, что обнаружила, что этот инструмент может превосходить людей в некоторых задачах взлома и кибербезопасности, что побудило регулирующих органов, парламентариев и финансовые учреждения обсудить опасности, которые он может представлять для цифровых услуг. Несколько технологических гигантов получили доступ к Мифам в рамках инициативы под названием Project Glasswing, призванной повысить устойчивость к самим Мифам. На этой неделе Anthropic объявила, что расширит доступ к Mythos еще для 150 учреждений в различных секторах, таких как энергетика, водоснабжение, здравоохранение, связь и оборудование. Новым партнерам необходимо будет выполнить требования безопасности, прежде чем они смогут получить доступ к шаблону. Некоторые аналитики еще более скептически относятся к возможностям Mythos и говорят, что в интересах Anthropic предположить, что у нее есть инструмент с невиданными ранее возможностями. Этот вопрос также вызвал страх в финансовой системе и даже обсуждался на заседании МВФ в Вашингтоне с участием международных властей. На практике — как это часто бывает с ИИ — задача отличить факты от преувеличений сложна. Что такое Клод Мифос? Mythos — одна из последних моделей Anthropic, разработанная как часть более широкой системы искусственного интеллекта под названием Claude. Он включает в себя ИИ-помощника компании и семейство моделей, конкурирующих с ChatGPT OpenAI и Gemini от Google. Он был анонсирован Anthropic в начале апреля как «Mythos Preview». Исследователи, проверяющие, как модели ИИ справляются с конкретными запросами или задачами, известные как «красные команды», заявили в отчете, что Mythos «невероятно способен решать задачи компьютерной безопасности». Они обнаружили, что этот инструмент может обнаруживать скрытые ошибки, скрытые в коде десятилетней давности, и с легкостью их эксплуатировать. Вместо того, чтобы сделать его широко доступным для пользователей Claude, Anthropic предоставила доступ 12 технологическим компаниям через Project Glasswing, который она описала как «попытку защитить критически важные программные системы». В их число входят гигант облачных вычислений Amazon Web Services, производители устройств Apple, Microsoft и Google, а также производители чипов Nvidia и Broadcom. Crowdstrike, чье ошибочное обновление программного обеспечения вызвало крупный глобальный сбой в июле 2024 года, также входит в число партнеров проекта, и Anthropic заявляет, что предоставила Mythos доступ более чем 40 организациям, ответственным за критически важное программное обеспечение. В видео, опубликованном одновременно с запуском Project Glasswing, руководитель Anthropic Дарио Амодей заявил, что компания предложила работать с правительственными чиновниками США, чтобы «помочь защититься от риска, связанного с этими моделями». Почему возникают опасения? Anthropic утверждает, что в ходе тестирования выяснилось, что модель обладает высокой квалификацией в задачах кибербезопасности и взлома, превосходя людей. «Mythos Preview уже обнаружил тысячи уязвимостей высокой степени опасности, в том числе во всех основных операционных системах и веб-браузерах», — заявили в Anthropic 7 апреля. «Учитывая скорость прогресса ИИ, вскоре такие возможности станут широко распространенными, потенциально за пределами тех, кто привержен их безопасному использованию». Компания заявила, что может обнаружить — без особого надзора — критические недостатки, которые требуют немедленных действий в старых системах, включая уязвимость, которая присутствовала в системе в течение 27 лет, и предложить способы их использования. С тех пор некоторые министры финансов, руководители центральных банков и руководители финансового сектора выразили серьезную обеспокоенность, опасаясь, что эта модель может поставить под угрозу безопасность финансовых систем. Министр финансов Канады Франсуа-Филипп Шампань сообщил Би-би-си, что Mythos обсуждался на заседании Международного валютного фонда (МВФ) в Вашингтоне в апреле. "Это, безусловно, достаточно серьезно, чтобы заслуживать внимания всех министров финансов", - сказал он. Управляющий Банка Англии Эндрю Бэйли заявил Би-би-си: «Теперь нам нужно очень внимательно посмотреть, какое значение это недавнее развитие искусственного интеллекта может означать для риска киберпреступности». Европейский Союз заявил, что также обсуждает с Anthropic свои опасения, связанные с Mythos. В мае Европейский блок получил доступ к инструменту. Что говорят киберэксперты? Кьяран Мартин, бывший глава Национального центра кибербезопасности Великобритании, ранее на этой неделе рассказал BBC, что утверждение о том, что Mythos может обнаруживать критические уязвимости гораздо быстрее, чем другие модели искусственного интеллекта, «действительно потрясло людей». «Вторая проблема заключается в том, что даже несмотря на существующие уязвимости, о которых мы знаем, но которые организации, возможно, не исправили или от которых невозможно хорошо защититься, он просто очень хороший хакер», — сказал он. Многие независимые аналитики и эксперты по кибербезопасности еще не смогли протестировать Mythos на себе, а некоторые по-прежнему скептически относятся к ее эффективности. Британский институт безопасности искусственного интеллекта недавно пришел к выводу, что, хотя это очень мощная модель, ее самая большая угроза будет исходить от плохо защищенных и уязвимых систем. «Мы не можем с уверенностью сказать, сможет ли Mythos Preview атаковать хорошо защищенные системы», — заявили исследователи. Для них там, где существуют хорошие практики кибербезопасности, эта модель теоретически будет ограничена. Итальянка Валентина Пальмиотти, более известная как Chompie, участвует в международных турнирах по этическому хакерству, в которых конкуренты зарабатывают деньги, находя уязвимости в системах безопасности, прежде чем ими смогут воспользоваться киберпреступники. Она рассказала BBC, что дни ее соревнований могут быть сочтены из-за появления таких инструментов искусственного интеллекта, как Claude Mythos. Стоит ли нам беспокоиться? В страхах, связанных с ИИ, нет ничего нового. Постоянно появляются новые модели и инструменты, которые часто сопровождаются обещаниями революционизировать нашу жизнь — к лучшему или к худшему. Использование этой смеси страха и волнения по поводу ИИ и его будущего влияния также стало отличительной чертой отрасли и ее маркетинговых стратегий в последние годы. В случае с Mythos мы до сих пор недостаточно знаем, чтобы понять, оправданы ли эти надежды или опасения или, скорее, являются отражением энтузиазма, окружающего этот сектор. В любом случае, по мнению Национального центра кибербезопасности, британского органа по кибербезопасности, самое важное, что мы можем сделать сейчас, — это не паниковать и вместо этого сосредоточиться на необходимости исправить базовую кибербезопасность. В конце концов, большинству хакеров не нужны инструменты искусственного сверхинтеллекта для взлома систем — обычно достаточно гораздо более простых атак. "Для некоторых это апокалиптическое событие, для других оно кажется слишком надуманным", - сказал Мартин Би-би-си. Но он сказал, что независимо от того, будет ли этот инструмент или последующие инструменты, разработанные Anthropic или конкурентами, помимо рисков, есть возможность построить более безопасный онлайн-мир. «В среднесрочной перспективе есть возможность использовать эти инструменты для исправления многих основных уязвимостей Интернета», — сказал он. В конце апреля Anthropic объявила, что расследует сообщение о том, что небольшая группа людей получила доступ к Claude Mythos. «Мы расследуем сообщение о несанкционированном доступе к Claude Mythos Preview через среду одного из наших сторонних поставщиков», — говорится в заявлении компании. Заявление было сделано в ответ на отчет Bloomberg, в котором сообщалось, что пользователи частного форума могли получить доступ к модели без необходимых разрешений. Мы используем искусственный интеллект для перевода этого отчета, первоначально написанного на английском языке. Перед публикацией текст был проверен журналистом BBC. Узнайте больше о том, как BBC использует искусственный интеллект (ссылка на текст на английском языке). Компания искусственного интеллекта, которая бросила вызов Пентагону в США — и почему это влияет на весь мир Как Илон Маск может стать триллионером благодаря размещению акций SpaceX на фондовом рынке Послание Папы Льва 14 об искусственном интеллекте в его первой «визитной карточке» по завершении года его понтификата.