أفضل من أي "هاكر" بشري: ما هو نموذج الذكاء الاصطناعي الجديد الذي يخيف النظام المالي؟

أنثروبي رويترز عبر بي بي سي في الأسابيع الأخيرة، شهد عالم الذكاء الاصطناعي ضجة كبيرة بعد الادعاءات التي قدمتها شركة Anthropic الرائدة حول نموذجها الجديد، Claude Mythos. تدعي الشركة أنها اكتشفت أن الأداة يمكن أن تتفوق على البشر في بعض مهام القرصنة والأمن السيبراني - الأمر الذي دفع المنظمين والبرلمانيين والمؤسسات المالية إلى مناقشة المخاطر التي يمكن أن تشكلها على الخدمات الرقمية. تم منح العديد من عمالقة التكنولوجيا إمكانية الوصول إلى Mythos من خلال مبادرة تسمى Project Glasswing، المصممة لتعزيز القدرة على الصمود ضد Mythos نفسها. أعلنت شركة Anthropic هذا الأسبوع أنها ستوسع نطاق الوصول إلى Mythos ليشمل 150 مؤسسة أخرى في قطاعات متنوعة، مثل الطاقة والمياه والصحة والاتصالات والمعدات. سيحتاج الشركاء الجدد إلى تلبية متطلبات الأمان قبل أن يتمكنوا من الوصول إلى القالب. بل إن بعض المحللين أكثر تشككًا بشأن قدرات Mythos ويقولون إنه من مصلحة Anthropic الإشارة إلى أن لديها أداة ذات قدرات لم يسبق لها مثيل. كما تسببت هذه القضية في إثارة الخوف في النظام المالي، حتى أنها تمت مناقشتها في اجتماع صندوق النقد الدولي في واشنطن بمشاركة السلطات الدولية. من الناحية العملية - كما هو الحال غالبا مع الذكاء الاصطناعي - فإن مهمة التمييز بين الحقائق والمبالغات معقدة. ما هو كلود ميثوس؟ يعد Mythos واحدًا من أحدث نماذج Anthropic، وقد تم تطويره كجزء من نظام الذكاء الاصطناعي الأوسع المسمى Claude. وهو يشمل مساعد الذكاء الاصطناعي للشركة ومجموعة من النماذج، التي تنافس ChatGPT من OpenAI وGemini من Google. تمت معاينته بواسطة Anthropic في أوائل أبريل باسم "Mythos Preview". وقال الباحثون الذين يختبرون كيفية تعامل نماذج الذكاء الاصطناعي مع طلبات أو مهام محددة، والمعروفة باسم "الفرق الحمراء"، في تقرير إن Mythos "قادرة بشكل لا يصدق على مهام أمن الكمبيوتر". ووجدوا أن الأداة يمكنها تحديد الأخطاء الخاملة المخفية في التعليمات البرمجية القديمة لعقود من الزمن واستغلالها بسهولة. وبدلاً من جعله متاحًا على نطاق واسع لمستخدمي كلود، منحت Anthropic إمكانية الوصول إلى 12 شركة تكنولوجيا من خلال مشروع Glasswing، والذي وصفته بأنه "جهد لحماية أنظمة البرمجيات المهمة". وتشمل هذه الشركات عملاق الحوسبة السحابية Amazon Web Services، وصانعي الأجهزة Apple وMicrosoft وGoogle، وصانعي الرقائق Nvidia وBroadcom. Crowdstrike، الذي تسبب تحديث برنامجه الخاطئ في انقطاع عالمي كبير في يوليو 2024، هو أيضًا من بين شركاء المشروع، وتقول Anthropic إنها منحت Mythos الوصول إلى أكثر من 40 منظمة مسؤولة عن البرامج المهمة. وفي مقطع فيديو تم إصداره بالتزامن مع إطلاق مشروع Glasswing، قال رئيس شركة Anthropic، داريو أمودي، إن الشركة عرضت العمل مع مسؤولي الحكومة الأمريكية من أجل "المساعدة في الدفاع ضد مخاطر هذه النماذج". لماذا هناك مخاوف؟ تدعي شركة Anthropic أنها اكتشفت أثناء الاختبار أن النموذج يتمتع بمهارة عالية في الأمن السيبراني ومهام القرصنة، متفوقًا على البشر. وقالت Anthropic في 7 أبريل: "لقد عثرت Mythos Preview بالفعل على الآلاف من نقاط الضعف عالية الخطورة، بما في ذلك بعض الثغرات الموجودة في كل نظام تشغيل ومتصفح ويب رئيسي". "نظرًا لسرعة تقدم الذكاء الاصطناعي، فلن يمر وقت طويل قبل أن تصبح هذه القدرات منتشرة على نطاق واسع، وربما تتجاوز الجهات الفاعلة الملتزمة باستخدامها الآمن." وقالت الشركة إنها تستطيع تحديد العيوب الخطيرة التي تتطلب اتخاذ إجراءات فورية في الأنظمة القديمة، مع القليل من الإشراف، بما في ذلك الثغرة الأمنية التي كانت موجودة في النظام لمدة 27 عامًا، واقتراح طرق لاستغلالها. ومنذ ذلك الحين، أعرب بعض وزراء المالية ومحافظي البنوك المركزية والمسؤولين التنفيذيين في القطاع المالي عن مخاوف جدية، خشية أن يؤدي هذا النموذج إلى تعريض أمن الأنظمة المالية للخطر. وقال وزير المالية الكندي فرانسوا فيليب شامبين لبي بي سي إن ميثوس نوقشت في اجتماع صندوق النقد الدولي في واشنطن في أبريل. وقال "إن الأمر خطير بالتأكيد بما يكفي ليستحق اهتمام جميع وزراء المالية". وقال محافظ بنك إنجلترا، أندرو بيلي، لبي بي سي: "علينا أن ننظر بعناية شديدة الآن إلى ما يمكن أن يعنيه هذا التطور الأخير في الذكاء الاصطناعي بالنسبة لمخاطر الجرائم الإلكترونية". وقال الاتحاد الأوروبي إنه يجري أيضًا مناقشات مع أنثروبك حول مخاوفه المتعلقة بميثوس. وفي شهر مايو/أيار، حصلت الكتلة الأوروبية على حق الوصول إلى هذه الأداة. ماذا يقول خبراء الإنترنت؟ وقال كيران مارتن، الرئيس السابق للمركز الوطني للأمن السيبراني في المملكة المتحدة، لبي بي سي في وقت سابق من هذا الأسبوع إن الادعاء بأن ميثوس يمكن أن يكتشف نقاط الضعف الحرجة بشكل أسرع بكثير من نماذج الذكاء الاصطناعي الأخرى "صدم الناس حقًا". وقال: "المسألة الثانية هي أنه حتى مع وجود نقاط الضعف الموجودة التي نعرفها ولكن المنظمات ربما لم تقم بإصلاحها أو ربما لا يتم الدفاع عنها بشكل جيد، فهو ببساطة متسلل جيد جدًا". لم يتمكن العديد من المحللين المستقلين وخبراء الأمن السيبراني بعد من اختبار Mythos بأنفسهم، ولا يزال البعض متشككًا بشأن أدائها. وقد خلص معهد أمن الذكاء الاصطناعي في المملكة المتحدة مؤخرا إلى أنه على الرغم من كونه نموذجا قويا للغاية، فإن التهديد الأكبر الذي يواجهه سيكون ضد الأنظمة الضعيفة والضعيفة الحماية. وقال باحثوها: "لا يمكننا أن نقول على وجه اليقين ما إذا كانت Mythos Preview قادرة على مهاجمة الأنظمة المحمية بشكل جيد". بالنسبة لهم، حيثما توجد ممارسات جيدة للأمن السيبراني، سيتم احتواء هذا النموذج من الناحية النظرية. تشارك الإيطالية فالنتينا بالميوتي - المعروفة باسم تشومبي - في بطولات القرصنة الأخلاقية الدولية، حيث يكسب المتنافسون الأموال من خلال العثور على نقاط الضعف في الأنظمة الأمنية قبل أن يتم استغلالها من قبل مجرمي الإنترنت. وقالت لبي بي سي إن أيام منافستها قد تكون معدودة بسبب ظهور أدوات الذكاء الاصطناعي مثل كلود ميثوس. هل يجب أن نقلق؟ المخاوف المتعلقة بالذكاء الاصطناعي ليست جديدة. تظهر النماذج والأدوات الجديدة طوال الوقت، وغالباً ما تكون مصحوبة بوعود بإحداث ثورة في حياتنا - للأفضل أو للأسوأ. أصبح الاستفادة من هذا المزيج من الخوف والإثارة حول الذكاء الاصطناعي وتأثيره المستقبلي سمة مميزة لهذه الصناعة واستراتيجياتها التسويقية في السنوات الأخيرة. وفي حالة ميثوس، ما زلنا لا نعرف ما يكفي لفهم ما إذا كانت هذه الآمال أو المخاوف مبررة، أو أنها انعكاس للحماس المحيط بالقطاع. في كلتا الحالتين، وفقًا للمركز الوطني للأمن السيبراني، هيئة الأمن السيبراني البريطانية، فإن أهم شيء يمكننا القيام به الآن هو عدم الذعر والتركيز بدلاً من ذلك على الحاجة إلى إصلاح الأمن السيبراني الأساسي. ففي نهاية المطاف، لا يحتاج معظم المتسللين إلى أدوات الذكاء الاصطناعي الفائق لاختراق الأنظمة، فعادةً ما تكون الهجمات الأبسط كافية. وقال مارتن لبي بي سي: "بالنسبة للبعض، يعد هذا حدثا مروعا، وبالنسبة للآخرين يبدو بعيد المنال". لكنه قال إنه سواء كانت هذه الأداة أو الأدوات اللاحقة التي طورتها شركة Anthropic أو المنافسون، فبالإضافة إلى المخاطر، هناك فرصة لبناء عالم أكثر أمانًا عبر الإنترنت. وقال: "على المدى المتوسط، هناك فرصة لاستخدام هذه الأدوات لتصحيح العديد من نقاط الضعف الأساسية للإنترنت". في أواخر أبريل، أعلنت أنثروبيك أنها تحقق في تقرير يفيد بأن مجموعة صغيرة من الأشخاص تمكنت من الوصول إلى كلود ميثوس. وقالت الشركة في بيان: "نحن نحقق في تقرير عن الوصول غير المصرح به إلى Claude Mythos Preview من خلال إحدى بيئات البائعين الخارجية لدينا". وجاء هذا البيان ردًا على تقرير بلومبرج، الذي كشف أن المستخدمين في منتدى خاص تمكنوا من الوصول إلى النموذج دون الأذونات اللازمة. نستخدم الذكاء الاصطناعي لترجمة هذا التقرير، المكتوب في الأصل باللغة الإنجليزية. تمت مراجعة النص من قبل أحد صحفيي بي بي سي قبل النشر. اكتشف المزيد هنا حول كيفية استخدام بي بي سي للذكاء الاصطناعي (رابط للنص باللغة الإنجليزية). شركة الذكاء الاصطناعي التي استحوذت على البنتاغون في الولايات المتحدة – ولماذا تؤثر على العالم أجمع كيف يمكن أن يصبح إيلون ماسك تريليونيرًا من خلال طرح أسهم SpaceX في سوق الأوراق المالية رسالة البابا ليو 14 حول الذكاء الاصطناعي في أول "بطاقة عمل" له عند إكماله سنة واحدة من بابويته