بهتر از هر "هکر" انسانی: مدل هوش مصنوعی جدید که سیستم مالی را می ترساند چیست؟

آنتروپیک رویترز از طریق بی بی سی در هفته های اخیر، دنیای هوش مصنوعی به دنبال ادعاهای مطرح شده توسط شرکت پیشرو Anthropic در مورد مدل جدید خود، Claude Mythos، غوغا کرده است. این شرکت ادعا می‌کند که کشف کرده است که این ابزار می‌تواند در برخی از وظایف هک و امنیت سایبری از انسان‌ها بهتر عمل کند - که باعث شده تنظیم‌کننده‌ها، نمایندگان مجلس و موسسات مالی درباره خطراتی که می‌تواند برای خدمات دیجیتال ایجاد کند بحث کنند. چندین غول فناوری از طریق طرحی به نام Project Glasswing که برای تقویت انعطاف پذیری در برابر خود Mythos طراحی شده است، به Mythos دسترسی پیدا کرده اند. آنتروپیک این هفته اعلام کرد که دسترسی به Mythos را به 150 موسسه دیگر در بخش‌های مختلف مانند انرژی، آب، بهداشت، ارتباطات و تجهیزات گسترش خواهد داد. شرکای جدید قبل از اینکه بتوانند به الگو دسترسی پیدا کنند باید الزامات امنیتی را برآورده کنند. برخی از تحلیلگران حتی نسبت به قابلیت های Mythos تردید بیشتری دارند و می گویند به نفع آنتروپیک است که پیشنهاد دهد ابزاری با توانایی هایی که قبلاً دیده نشده است دارد. این موضوع همچنین باعث ترس در سیستم مالی شد و حتی در نشست صندوق بین المللی پول در واشنگتن با حضور مقامات بین المللی مورد بحث قرار گرفت. در عمل - همانطور که اغلب در مورد هوش مصنوعی اتفاق می افتد - وظیفه تمایز بین حقایق و اغراق ها پیچیده است. کلود میتوس چیست؟ Mythos یکی از جدیدترین مدل‌های Anthropic است که به عنوان بخشی از سیستم هوش مصنوعی گسترده‌تر آن به نام Claude توسعه یافته است. این شامل دستیار هوش مصنوعی و خانواده مدل های شرکت است که رقیب ChatGPT OpenAI و Gemini گوگل است. در اوایل آوریل توسط Anthropic به عنوان "Mythos Preview" پیش نمایش داده شد. محققانی که نحوه رسیدگی مدل‌های هوش مصنوعی به درخواست‌ها یا وظایف خاص را که به عنوان «تیم‌های قرمز» شناخته می‌شوند، آزمایش می‌کنند، در گزارشی اعلام کردند که Mythos «به‌طور باورنکردنی در انجام وظایف امنیتی رایانه‌ای توانایی دارد». آنها دریافتند که این ابزار می‌تواند باگ‌های غیرفعال پنهان در کدهای چند دهه قدیمی را پیدا کند و به راحتی از آنها سوء استفاده کند. آنتروپیک به جای اینکه آن را به طور گسترده برای کاربران کلود در دسترس قرار دهد، از طریق Project Glasswing به 12 شرکت فناوری اجازه دسترسی داد که آن را "تلاشی برای محافظت از سیستم های نرم افزاری مهم" توصیف کرد. اینها شامل خدمات وب آمازون غول رایانش ابری، سازندگان دستگاه های اپل، مایکروسافت و گوگل و سازندگان تراشه های Nvidia و Broadcom هستند. Crowdstrike که به‌روزرسانی نرم‌افزار معیوب آن باعث قطعی بزرگ جهانی در ژوئیه 2024 شد، نیز در میان شرکای این پروژه است و Anthropic می‌گوید به بیش از 40 سازمان مسئول نرم‌افزارهای حیاتی به Mythos دسترسی داده است. در ویدئویی که همزمان با راه اندازی Project Glasswing منتشر شد، داریو آمودی، رئیس آنتروپیک گفت که این شرکت پیشنهاد همکاری با مقامات دولت ایالات متحده را به منظور "کمک به دفاع در برابر خطر این مدل ها" داده است. چرا نگرانی وجود دارد؟ Anthropic ادعا می کند که در طول آزمایش متوجه شد که این مدل در امنیت سایبری و وظایف هک مهارت بالایی دارد و از انسان ها پیشی می گیرد. Anthropic در 7 آوریل گفت: "Mythos Preview قبلا هزاران آسیب پذیری با شدت بالا را پیدا کرده است، از جمله برخی در هر سیستم عامل اصلی و مرورگر وب." با توجه به سرعت پیشرفت هوش مصنوعی، زمان زیادی نمی‌گذرد که چنین قابلیت‌هایی به طور بالقوه فراتر از عوامل متعهد به استفاده ایمن از آن‌ها گسترده خواهد شد.» این شرکت گفت که می تواند - با نظارت اندک - نقص های مهمی را که نیاز به اقدام فوری در سیستم های قدیمی دارند، از جمله آسیب پذیری که به مدت 27 سال در یک سیستم وجود داشت، پیدا کند و راه هایی برای بهره برداری از آنها پیشنهاد کند. از آن زمان، برخی از وزرای دارایی، بانک‌های مرکزی و مدیران بخش مالی نگرانی‌های جدی خود را ابراز کرده‌اند و نگرانند که این مدل امنیت سیستم‌های مالی را به خطر بیندازد. فرانسوا فیلیپ شامپاین وزیر دارایی کانادا به بی بی سی گفت که Mythos در نشست صندوق بین المللی پول (IMF) در ماه آوریل در واشنگتن مورد بحث قرار گرفت. او گفت: «مطمئناً این به اندازه کافی جدی است که مستحق توجه همه وزرای دارایی باشد. اندرو بیلی، رئیس بانک انگلستان به بی‌بی‌سی گفت: «اکنون باید با دقت بررسی کنیم که این پیشرفت اخیر در هوش مصنوعی چه معنایی برای خطر جرایم سایبری دارد.» اتحادیه اروپا همچنین در حال مذاکره با آنتروپیک در مورد نگرانی های خود در مورد Mythos است. در ماه می، بلوک اروپایی به این ابزار دسترسی پیدا کرد. کارشناسان سایبری چه می گویند؟ سیاران مارتین، رئیس سابق مرکز ملی امنیت سایبری بریتانیا، اوایل این هفته به بی‌بی‌سی گفت که این ادعا که Mythos می‌تواند آسیب‌پذیری‌های حیاتی را بسیار سریع‌تر از سایر مدل‌های هوش مصنوعی کشف کند، «واقعاً مردم را تکان داد». او گفت: «مسئله دوم این است که حتی با وجود آسیب‌پذیری‌های موجود که ما درباره آن‌ها می‌دانیم، اما سازمان‌ها ممکن است اصلاح نکرده باشند یا در برابر آن‌ها به خوبی از آنها دفاع نشود، او به سادگی یک هکر بسیار خوب است. بسیاری از تحلیلگران مستقل و کارشناسان امنیت سایبری هنوز نتوانسته اند Mythos را برای خود آزمایش کنند و برخی همچنان در مورد عملکرد آن تردید دارند. موسسه امنیت هوش مصنوعی بریتانیا اخیراً به این نتیجه رسیده است که اگرچه این مدل بسیار قدرتمند است، اما بزرگترین تهدید آن علیه سیستم‌های ضعیف و آسیب‌پذیر است. محققان آن می‌گویند: «ما نمی‌توانیم با اطمینان بگوییم که آیا Mythos Preview می‌تواند به سیستم‌های محافظت‌شده به خوبی حمله کند یا خیر. برای آنها، در جایی که اقدامات امنیت سایبری خوبی وجود دارد، این مدل، از نظر تئوری، شامل خواهد شد. والنتینا پالمیوتی ایتالیایی – معروف به Chompie – در مسابقات بین‌المللی هک اخلاقی شرکت می‌کند، که در آن رقبا با یافتن نقاط ضعف در سیستم‌های امنیتی قبل از اینکه توسط مجرمان سایبری مورد سوء استفاده قرار گیرند، درآمد کسب می‌کنند. او به بی بی سی گفت که ممکن است روزهای رقابت او به دلیل ظهور ابزارهای هوش مصنوعی مانند کلود میتوس به پایان برسد. آیا باید نگران باشیم؟ ترس های مرتبط با هوش مصنوعی چیز جدیدی نیستند. مدل‌ها و ابزارهای جدید همیشه در حال ظهور هستند و اغلب با وعده‌هایی برای متحول کردن زندگی ما - چه خوب و چه بد - همراه هستند. استفاده از این ترکیب ترس و هیجان در مورد هوش مصنوعی و تأثیرات آینده آن نیز به یکی از ویژگی های صنعت و استراتژی های بازاریابی آن در سال های اخیر تبدیل شده است. در مورد Mythos، ما هنوز به اندازه کافی نمی دانیم که بفهمیم آیا این امیدها یا ترس ها موجه هستند یا بیشتر بازتابی از اشتیاق پیرامون این بخش است. در هر صورت، طبق گفته مرکز ملی امنیت سایبری، نهاد امنیت سایبری بریتانیا، مهم‌ترین کاری که اکنون می‌توانیم انجام دهیم این است که وحشت نکنیم و در عوض بر نیاز به رفع امنیت سایبری اولیه تمرکز کنیم. از این گذشته، بیشتر هکرها برای نفوذ به سیستم‌ها به ابزارهای هوش مصنوعی نیاز ندارند – حملات بسیار ساده‌تر معمولاً کافی هستند. مارتین به بی بی سی گفت: «برای برخی این یک رویداد آخرالزمانی است، برای برخی دیگر بسیار دور از ذهن به نظر می رسد. اما او گفت که چه این ابزار و چه ابزارهای بعدی که توسط Anthropic یا رقبا ایجاد شده است، فراتر از خطرات، فرصتی برای ایجاد یک دنیای آنلاین امن تر وجود دارد. وی گفت: در میان مدت، فرصتی برای استفاده از این ابزارها برای رفع بسیاری از آسیب پذیری های اساسی اینترنت وجود دارد. در اواخر آوریل، آنتروپیک اعلام کرد که در حال بررسی گزارشی است مبنی بر اینکه گروه کوچکی از مردم به کلود میتوس دسترسی پیدا کرده اند. این شرکت در بیانیه ای گفت: "ما در حال بررسی گزارشی مبنی بر دسترسی غیرمجاز به Claude Mythos Preview از طریق یکی از محیط های فروشنده شخص ثالث خود هستیم." این بیانیه در پاسخ به گزارش بلومبرگ بود که نشان داد کاربران در یک انجمن خصوصی می‌توانند بدون مجوزهای لازم به این مدل دسترسی داشته باشند. ما از هوش مصنوعی برای ترجمه این گزارش استفاده می کنیم که در اصل به زبان انگلیسی نوشته شده است. این متن قبل از انتشار توسط یک خبرنگار بی بی سی بررسی شد. در اینجا درباره نحوه استفاده بی بی سی از هوش مصنوعی (پیوند به متن انگلیسی) اطلاعات بیشتری کسب کنید. شرکت هوش مصنوعی که پنتاگون در ایالات متحده را به عهده گرفت - و چرا این موضوع بر کل جهان تأثیر می گذارد چگونه ایلان ماسک می تواند با عرضه سهام SpaceX در بازار سهام به یک تریلیونر تبدیل شود پیام پاپ لئو 14 در مورد هوش مصنوعی در اولین "کارت ویزیت" خود پس از اتمام یک سال از سلطنت خود