人間的 BBC経由のロイター通信 ここ数週間、人工知能の世界は、大手企業アンスロピック社の新モデル「クロード・ミトス」に関する主張を受けて大騒ぎになっている。 同社は、このツールが一部のハッキングやサイバーセキュリティのタスクにおいて人間よりも優れたパフォーマンスを発揮できることを発見したと主張しており、このため規制当局、国会議員、金融機関はこのツールがデジタルサービスにもたらす可能性のある危険性について議論している。 いくつかのテクノロジー大手は、神話自体​​に対する回復力を強化することを目的としたプロジェクト グラスウィングと呼ばれる取り組みを通じて、神話へのアクセスを許可されています。 アンスロピックは今週、エネルギー、水、医療、通信、機器などのさまざまな分野のさらに150の機関にミトスへのアクセスを拡大すると発表した。新しいパートナーがテンプレートにアクセスするには、セキュリティ要件を満たす必要があります。 一部のアナリストはMythosの能力についてさらに懐疑的であり、これまでに見たことのない能力を備えたツールを持っていると示唆することがAnthropicの利益になると述べている。 この問題は金融システムにも不安を引き起こし、国際当局が参加するワシントンでのIMF会合でも議論された。 実際には、AI ではよくあることですが、事実と誇張を区別する作業は複雑です。 クロード神話とは何ですか？ Mythos は Anthropic の最新モデルの 1 つで、Claude と呼ばれる広範な AI システムの一部として開発されました。これには、同社の AI アシスタントとモデルファミリーが含まれており、OpenAI の ChatGPT や Google の Gemini に匹敵します。 4月初旬にAnthropicによって「Mythos Preview」としてプレビューされた。 「レッドチーム」として知られる、AIモデルが特定のリクエストやタスクをどのように処理するかをテストする研究者らは報告書の中で、Mythosは「コンピュータセキュリティタスクにおいて信じられないほどの能力がある」と述べた。 彼らは、このツールが数十年前のコードに隠された休眠中のバグを見つけ出し、それらを簡単に悪用できることを発見しました。 Anthropic は、Claude ユーザーに広く利用可能にするのではなく、Project Glasswing を通じて 12 社のテクノロジー企業にアクセスを許可しました。これを「重要なソフトウェア システムを保護するための取り組み」であると説明しました。 これらには、クラウドコンピューティング大手のアマゾン ウェブ サービス、デバイスメーカーのアップル、マイクロソフト、グーグル、チップメーカーのエヌビディアとブロードコムが含まれます。 2024年7月にソフトウェアアップデートの欠陥で世界規模の大規模障害を引き起こしたクラウドストライクもプロジェクトのパートナーに含まれており、アンスロピック社は重要なソフトウェアを担当する40以上の組織へのミトスへのアクセスを許可したと述べている。 プロジェクト・グラスウィングの立ち上げに合わせて公開されたビデオの中で、アンスロピックのボス、ダリオ・アモデイ氏は、同社が「これらのモデルのリスクから守る」ために米国政府当局者と協力することを申し出たと述べた。 なぜ懸念があるのでしょうか? アンスロピック社は、テスト中にこのモデルがサイバーセキュリティとハッキングタスクにおいて人間を超えた高度なスキルを持っていることが判明したと主張している。 Anthropic は 4 月 7 日、「Mythos Preview はすでに数千件の重大度の高い脆弱性を発見しており、その中にはあらゆる主要なオペレーティング システムや Web ブラウザの脆弱性も含まれている」と述べた。 「AI の進歩のスピードを考慮すると、そのような機能が安全な使用に尽力している関係者を超えて普及するまで、そう長くはかからないでしょう。」 同社は、システムに 27 年間存在していた脆弱性など、古いシステムで即時対応が必要な重大な欠陥を、ほとんど見落とさずに特定し、それらを悪用する方法を提案できると述べた。 それ以来、一部の財務大臣、中央銀行家、金融セクター幹部は、このモデルが金融システムの安全性を損なう可能性があると懸念し、深刻な懸念を表明している。 カナダのフランソワ・フィリップ・シャンパーニュ財務大臣はBBCに対し、ミトスについては4月にワシントンで開催された国際通貨基金（IMF）会合で議論されたと語った。 同氏は「これは確かにすべての財務大臣の注目に値するほど深刻だ」と述べた。 イングランド銀行総裁のアンドリュー・ベイリー氏はBBCに対し、「最近のAIの発展がサイバー犯罪リスクにどのような影響を与える可能性があるかを今、非常に注意深く検討する必要がある」と語った。 欧州連合は、ミトスに関する懸念についてアンスロピックとも協議中であると述べた。 5月に欧州諸国はこのツールへのアクセスを取得した。 サイバー専門家は何と言っていますか? 英国国立サイバーセキュリティセンターの元所長キアラン・マーティン氏は今週初めにBBCに対し、Mythosが他のAIモデルよりもはるかに早く重大な脆弱性を発見できるという主張は「人々を本当に震撼させた」と語った。 「2番目の問題は、私たちが知っている既存の脆弱性があっても、組織がパッチを当てていなかったり、十分に防御できていない可能性があるとしても、彼は単に非常に優れたハッカーであるということです」と同氏は述べた。 多くの独立系アナリストやサイバーセキュリティ専門家はまだ自分自身で Mythos をテストできておらず、そのパフォーマンスについて依然として懐疑的な人もいます。 英国の AI セキュリティ研究所は最近、これは非常に強力なモデルであるものの、最大の脅威は保護が不十分で脆弱なシステムに対するものであると結論付けました。 「Mythos Preview が十分に保護されたシステムを攻撃できるかどうかは確かなことは言えません」と研究者らは述べています。 彼らにとって、優れたサイバーセキュリティ慣行がある場合、理論上、このモデルは封じ込められるでしょう。 チョンピーとしてよく知られるイタリア人のヴァレンティーナ・パルミオッティさんは、国際的な倫理的ハッキング トーナメントに参加しています。このトーナメントでは、参加者はサイバー犯罪者に悪用される前にセキュリティ システムの脆弱性を発見して賞金を稼ぎます。 彼女は BBC に対し、Claude Mythos のような AI ツールの台頭により、自分の競技期間は残りわずかになるかもしれないと語った。 心配する必要はありますか？ AI 関連の不安は何も新しいものではありません。 新しいモデルやツールは常に登場しており、良くも悪くも私たちの生活に革命をもたらすことが期待されています。 AI とその将来の影響に対する恐怖と興奮の入り混じった状況をうまく利用することも、近年の業界とそのマーケティング戦略の特徴となっています。 Mythos の場合、これらの希望や恐れが正当なものなのか、それともこのセクターを取り巻く熱意の反映なのかを理解するにはまだ十分な情報がありません。 いずれの場合でも、英国のサイバーセキュリティ機関である国立サイバーセキュリティセンターによると、私たちが今できる最も重要なことは、パニックに陥ることなく、基本的なサイバーセキュリティを修正する必要性に集中することです。 結局のところ、ほとんどのハッカーはシステムに侵入するために人工超知能ツールを必要としません。通常は、より単純な攻撃で十分です。 マーティン氏はBBCに対し、「ある人にとってはこれは終末的な出来事だが、他の人にとってはあまりにも現実離れしているように思える」と語った。 しかし同氏は、このツールであろうと、Anthropicや競合他社が開発した後続のツールであろうと、リスクを超えて、より安全なオンライン世界を構築する機会があると述べた。 同氏は、「中期的には、これらのツールを利用してインターネットの根本的な脆弱性の多くにパッチを当てる機会がある」と述べた。 4月下旬、Anthropicは、少数の人々がClaude Mythosにアクセスしたという報告を調査していると発表した。 同社は声明で、「当社のサードパーティベンダー環境の1つを介したClaude Mythos Previewへの不正アクセスの報告を調査している」と述べた。 この声明は、プライベートフォーラムのユーザーが必要な権限なしでモデルにアクセスできていたことを明らかにしたブルームバーグの報道に応じたものであった。 私たちは人工知能を使用して、もともと英語で書かれたこのレポートを翻訳しています。この文章は出版前に BBC ジャーナリストによって精査されました。 BBC が人工知能をどのように使用しているかについて詳しくは、こちらをご覧ください (英語のテキストへのリンク)。 米国国防総省に対抗した AI 企業 — そしてそれが全世界に影響を与える理由 イーロン・マスクはスペースX社の株式市場への売り出しでいかにして大富豪になれるのか 教皇レオ14世、1年間の教皇職を終えて最初の「名刺」に人工知能に関するメッセージ