किसी भी मानव 'हैकर' से बेहतर: नया कृत्रिम बुद्धिमत्ता मॉडल क्या है जो वित्तीय प्रणाली को डराता है?

मानवशास्त्रीय बीबीसी के माध्यम से रॉयटर्स हाल के सप्ताहों में, अग्रणी कंपनी एंथ्रोपिक द्वारा अपने नए मॉडल क्लाउड मिथोस के बारे में किए गए दावों के बाद कृत्रिम बुद्धिमत्ता की दुनिया में हंगामा मच गया है। कंपनी का दावा है कि उसने पाया है कि यह टूल कुछ हैकिंग और साइबर सुरक्षा कार्यों में इंसानों से बेहतर प्रदर्शन कर सकता है - जिसके कारण नियामकों, सांसदों और वित्तीय संस्थानों ने डिजिटल सेवाओं के लिए इसके खतरों पर चर्चा की है। कई तकनीकी दिग्गजों को प्रोजेक्ट ग्लासविंग नामक एक पहल के माध्यम से मिथोस तक पहुंच प्रदान की गई है, जिसे मिथोस के खिलाफ लचीलापन बढ़ाने के लिए डिज़ाइन किया गया है। एंथ्रोपिक ने इस सप्ताह घोषणा की कि वह ऊर्जा, जल, स्वास्थ्य, संचार और उपकरण जैसे विभिन्न क्षेत्रों में अन्य 150 संस्थानों तक मिथोस तक पहुंच का विस्तार करेगा। नए साझेदारों को टेम्पलेट तक पहुंच प्राप्त करने से पहले सुरक्षा आवश्यकताओं को पूरा करना होगा। कुछ विश्लेषक मिथोस की क्षमताओं के बारे में और भी अधिक संशय में हैं और कहते हैं कि यह सुझाव देना एंथ्रोपिक के हित में है कि उसके पास पहले कभी न देखी गई क्षमताओं वाला एक उपकरण है। इस मुद्दे ने वित्तीय प्रणाली में भी भय पैदा किया और वाशिंगटन में अंतरराष्ट्रीय अधिकारियों को शामिल करते हुए आईएमएफ की बैठक में भी इस पर चर्चा की गई। व्यवहार में - जैसा कि अक्सर एआई के मामले में होता है - तथ्यों और अतिशयोक्ति के बीच अंतर करने का कार्य जटिल है। क्लाउड मिथोस क्या है? माइथोस एंथ्रोपिक के नवीनतम मॉडलों में से एक है, जिसे क्लाउड नामक इसके व्यापक एआई सिस्टम के हिस्से के रूप में विकसित किया गया है। इसमें कंपनी के AI सहायक और मॉडलों का परिवार शामिल है, जो OpenAI के ChatGPT और Google के जेमिनी को टक्कर देता है। अप्रैल की शुरुआत में एंथ्रोपिक द्वारा इसका पूर्वावलोकन "माइथोस प्रीव्यू" के रूप में किया गया था। शोधकर्ता जो परीक्षण करते हैं कि एआई मॉडल विशिष्ट अनुरोधों या कार्यों को कैसे संभालते हैं, जिन्हें "रेड टीम" के रूप में जाना जाता है, ने एक रिपोर्ट में कहा कि माइथोस "कंप्यूटर सुरक्षा कार्यों में अविश्वसनीय रूप से सक्षम था।" उन्होंने पाया कि उपकरण दशकों पुराने कोड में छिपे निष्क्रिय बग का पता लगा सकता है और उनका आसानी से फायदा उठा सकता है। क्लाउड उपयोगकर्ताओं के लिए इसे व्यापक रूप से उपलब्ध कराने के बजाय, एंथ्रोपिक ने प्रोजेक्ट ग्लासविंग के माध्यम से 12 प्रौद्योगिकी कंपनियों तक पहुंच प्रदान की, जिसे उसने "महत्वपूर्ण सॉफ़्टवेयर सिस्टम की सुरक्षा के लिए एक प्रयास" के रूप में वर्णित किया। इनमें क्लाउड कंप्यूटिंग दिग्गज अमेज़ॅन वेब सर्विसेज, डिवाइस निर्माता ऐप्पल, माइक्रोसॉफ्ट और गूगल और चिप निर्माता एनवीडिया और ब्रॉडकॉम शामिल हैं। क्राउडस्ट्राइक, जिसके दोषपूर्ण सॉफ्टवेयर अपडेट के कारण जुलाई 2024 में एक बड़ी वैश्विक विफलता हुई, वह भी परियोजना के भागीदारों में से एक है, और एंथ्रोपिक का कहना है कि इसने मिथोस को महत्वपूर्ण सॉफ्टवेयर के लिए जिम्मेदार 40 से अधिक संगठनों तक पहुंच प्रदान की है। प्रोजेक्ट ग्लासविंग के लॉन्च के साथ जारी एक वीडियो में, एंथ्रोपिक बॉस डारियो अमोदेई ने कहा कि कंपनी ने "इन मॉडलों के जोखिम से बचाव में मदद करने के लिए" अमेरिकी सरकार के अधिकारियों के साथ काम करने की पेशकश की। चिंताएँ क्यों हैं? एंथ्रोपिक का दावा है कि परीक्षण के दौरान उसे पता चला कि मॉडल साइबर सुरक्षा और हैकिंग कार्यों में इंसानों से कहीं ज्यादा कुशल है। एंथ्रोपिक ने 7 अप्रैल को कहा, "माइथोस प्रीव्यू ने पहले ही हजारों उच्च-गंभीरता वाली कमजोरियां ढूंढ ली हैं, जिनमें हर प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र में कुछ कमजोरियां शामिल हैं।" "एआई की प्रगति की गति को देखते हुए, ऐसी क्षमताओं के व्यापक होने में ज्यादा समय नहीं लगेगा, संभावित रूप से उनके सुरक्षित उपयोग के लिए प्रतिबद्ध अभिनेताओं से परे।" कंपनी ने कहा कि वह थोड़े से निरीक्षण के साथ उन गंभीर खामियों का पता लगा सकती है, जिनके लिए पुराने सिस्टम में तत्काल कार्रवाई की आवश्यकता होती है, जिसमें 27 वर्षों से सिस्टम में मौजूद भेद्यता भी शामिल है, और उनका फायदा उठाने के तरीके सुझा सकती है। तब से, कुछ वित्त मंत्रियों, केंद्रीय बैंकरों और वित्तीय क्षेत्र के अधिकारियों ने गंभीर चिंता व्यक्त की है, उन्हें डर है कि मॉडल वित्तीय प्रणालियों की सुरक्षा से समझौता कर सकता है। कनाडा के वित्त मंत्री फ्रांस्वा-फिलिप शैम्पेन ने बीबीसी को बताया कि अप्रैल में वाशिंगटन में अंतर्राष्ट्रीय मुद्रा कोष (आईएमएफ) की बैठक में मिथोस पर चर्चा की गई थी। उन्होंने कहा, "यह निश्चित रूप से इतना गंभीर है कि सभी वित्त मंत्रियों का ध्यान आकर्षित करना चाहिए।" बैंक ऑफ इंग्लैंड के गवर्नर एंड्रयू बेली ने बीबीसी को बताया, "हमें अब बहुत सावधानी से देखना होगा कि एआई में इस हालिया विकास का साइबर अपराध जोखिम के लिए क्या मतलब हो सकता है।" यूरोपीय संघ ने कहा कि वह मिथोस से संबंधित अपनी चिंताओं के बारे में एंथ्रोपिक के साथ भी चर्चा कर रहा है। मई में, यूरोपीय ब्लॉक को टूल तक पहुंच प्राप्त हुई। क्या कहते हैं साइबर एक्सपर्ट? यूके के राष्ट्रीय साइबर सुरक्षा केंद्र के पूर्व प्रमुख सियारन मार्टिन ने इस सप्ताह की शुरुआत में बीबीसी को बताया कि यह दावा कि मिथोस अन्य एआई मॉडल की तुलना में महत्वपूर्ण कमजोरियों को बहुत तेजी से खोज सकता है, "वास्तव में लोगों को हिलाकर रख दिया"। "दूसरा मुद्दा यह है कि मौजूदा कमजोरियों के बावजूद, जिनके बारे में हम जानते हैं, लेकिन संगठनों ने उन्हें ठीक नहीं किया है या उनके खिलाफ अच्छी तरह से बचाव नहीं किया जा सकता है, वह बस एक बहुत अच्छा हैकर है," उन्होंने कहा। कई स्वतंत्र विश्लेषक और साइबर सुरक्षा विशेषज्ञ अभी तक मिथोस का स्वयं परीक्षण नहीं कर पाए हैं, और कुछ इसके प्रदर्शन के बारे में संशय में हैं। यूके एआई सुरक्षा संस्थान ने हाल ही में निष्कर्ष निकाला है कि, हालांकि यह एक बहुत शक्तिशाली मॉडल है, इसका सबसे बड़ा खतरा खराब संरक्षित और कमजोर प्रणालियों के खिलाफ होगा। इसके शोधकर्ताओं ने कहा, "हम निश्चित रूप से नहीं कह सकते कि मिथोस प्रीव्यू अच्छी तरह से संरक्षित सिस्टम पर हमला करने में सक्षम होगा या नहीं।" उनके लिए, जहां अच्छी साइबर सुरक्षा प्रथाएं हैं, सिद्धांत रूप में, यह मॉडल शामिल होगा। इटालियन वेलेंटीना पाल्मियोटी - जिसे चॉम्पी के नाम से जाना जाता है - अंतरराष्ट्रीय एथिकल हैकिंग टूर्नामेंट में भाग लेती है, जिसमें प्रतिस्पर्धी साइबर अपराधियों द्वारा शोषण किए जाने से पहले सुरक्षा प्रणालियों में कमजोरियां ढूंढकर पैसा कमाते हैं। उन्होंने बीबीसी को बताया कि क्लाउड माइथोस जैसे एआई टूल के उदय के कारण उनकी प्रतियोगिता के दिन गिने जा सकते हैं। क्या हमें चिंतित होना चाहिए? एआई से संबंधित डर कोई नई बात नहीं है। नए मॉडल और उपकरण हर समय उभर रहे हैं और अक्सर हमारे जीवन में क्रांति लाने के वादे के साथ आते हैं - बेहतर या बदतर के लिए। एआई और इसके भविष्य के प्रभाव के बारे में भय और उत्साह के इस मिश्रण का दोहन भी हाल के वर्षों में उद्योग और इसकी मार्केटिंग रणनीतियों की एक पहचान बन गया है। मिथोस के मामले में, हम अभी भी यह समझने के लिए पर्याप्त नहीं जानते हैं कि क्या ये आशाएं या भय उचित हैं, या यह क्षेत्र के आसपास के उत्साह का प्रतिबिंब है। किसी भी मामले में, ब्रिटिश साइबर सुरक्षा निकाय, राष्ट्रीय साइबर सुरक्षा केंद्र के अनुसार, सबसे महत्वपूर्ण बात जो हम अभी कर सकते हैं वह है घबराना नहीं और इसके बजाय बुनियादी साइबर सुरक्षा को ठीक करने की आवश्यकता पर ध्यान केंद्रित करना। आख़िरकार, अधिकांश हैकरों को सिस्टम में सेंध लगाने के लिए कृत्रिम अधीक्षण उपकरणों की आवश्यकता नहीं होती है - बहुत सरल हमले आमतौर पर पर्याप्त होते हैं। मार्टिन ने बीबीसी को बताया, "कुछ लोगों के लिए यह एक सर्वनाशकारी घटना है, दूसरों के लिए यह बहुत दूर की कौड़ी लगती है।" लेकिन उन्होंने कहा कि, चाहे यह उपकरण हो या उसके बाद एंथ्रोपिक या प्रतिस्पर्धियों द्वारा विकसित किया गया हो, जोखिमों से परे एक सुरक्षित ऑनलाइन दुनिया बनाने का अवसर है। उन्होंने कहा, "मध्यम अवधि में, इंटरनेट की कई अंतर्निहित कमजोरियों को दूर करने के लिए इन उपकरणों का उपयोग करने का अवसर है।" अप्रैल के अंत में, एंथ्रोपिक ने घोषणा की कि वह एक रिपोर्ट की जांच कर रहा था कि लोगों के एक छोटे समूह ने क्लाउड मिथोस तक पहुंच प्राप्त की थी। कंपनी ने एक बयान में कहा, "हम अपने तीसरे पक्ष के विक्रेता वातावरण में से एक के माध्यम से क्लाउड माइथोस प्रीव्यू तक अनधिकृत पहुंच की रिपोर्ट की जांच कर रहे हैं।" यह बयान ब्लूमबर्ग की एक रिपोर्ट के जवाब में था, जिसमें पता चला था कि निजी मंच पर उपयोगकर्ता आवश्यक अनुमति के बिना मॉडल तक पहुंचने में सक्षम थे। मूल रूप से अंग्रेजी में लिखी गई इस रिपोर्ट का अनुवाद करने के लिए हम कृत्रिम बुद्धिमत्ता का उपयोग करते हैं। प्रकाशन से पहले बीबीसी के एक पत्रकार द्वारा पाठ की समीक्षा की गई थी। बीबीसी कृत्रिम बुद्धिमत्ता का उपयोग कैसे कर रहा है, इसके बारे में यहां और जानें (अंग्रेजी पाठ से लिंक)। एआई कंपनी जिसने अमेरिका में पेंटागन को टक्कर दी - और यह पूरी दुनिया को क्यों प्रभावित करती है स्टॉक मार्केट में स्पेसएक्स स्टॉक ऑफरिंग से एलन मस्क कैसे खरबपति बन सकते हैं पोप लियो 14 ने अपने पोप पद का एक वर्ष पूरा करने पर अपने पहले 'बिजनेस कार्ड' में कृत्रिम बुद्धिमत्ता के बारे में संदेश दिया