संयुक्त राष्ट्र की रिपोर्ट में एआई से भारी संभावित लाभ और बड़े जोखिम देखे गए हैं

प्रौद्योगिकी पर संयुक्त राष्ट्र के स्वतंत्र वैज्ञानिक पैनल की पहली रिपोर्ट में 40 प्रमुख वैज्ञानिकों और विशेषज्ञों ने कहा कि एआई का तेजी से विकास दुनिया भर के देशों और लोगों को बड़े संभावित लाभ प्रदान करता है, लेकिन बड़े जोखिम भी पैदा करता है। 6 से 7 जुलाई को जिनेवा में एआई गवर्नेंस पर संयुक्त राष्ट्र वैश्विक वार्ता के उद्घाटन में सरकारों को प्रस्तुत की जाने वाली रिपोर्ट, एआई का पहला वैश्विक, स्वतंत्र वैज्ञानिक मूल्यांकन पेश करती है, जिसमें अगले साल एक पूर्ण, व्यापक रिपोर्ट की योजना बनाई जाएगी। पैनल के सदस्यों को दुनिया के हर क्षेत्र से चुना गया था, और इसके सदस्यों का कार्यकाल तीन साल का होता है, जो किसी भी सरकार, संस्था या कंपनी से स्वतंत्र होता है। रिपोर्ट के अनुसार, नीति निर्माताओं को एआई को नियंत्रित करने के लिए वैज्ञानिक प्रमाण की आवश्यकता है, लेकिन इसकी क्षमताएं वैज्ञानिक समझ और सरकारों की अनुकूलन क्षमता से आगे निकल रही हैं, अत्यधिक स्वायत्त एआई सिस्टम को नियंत्रित करने के लिए कुछ ही तरीके उपलब्ध हैं। पैनल के सह-अध्यक्ष योशुआ बेंगियो ने भी भ्रामक एआई व्यवहार के बढ़ते सबूतों पर गौर किया और कहा कि विज्ञान यह गारंटी नहीं दे सकता कि एआई क्षमताओं में वृद्धि के साथ "या तो अपने दम पर या दुर्भावनापूर्ण उपयोगकर्ताओं के कारण" विनाशकारी नुकसान नहीं पहुंचाएगा। रिपोर्ट में निष्कर्ष निकाला गया, "एआई के संभावित लाभ बहुत अधिक हैं।" "बड़े पैमाने पर प्रौद्योगिकी की तीव्र, अनियंत्रित तैनाती भी काफी जोखिम पेश करती है, जिसमें उपयोगकर्ताओं के मानसिक स्वास्थ्य को नुकसान, विनाशकारी उपकरण के रूप में संभावित उपयोग, सामाजिक, आर्थिक और पर्यावरणीय प्रणालियों पर प्रभाव और प्रौद्योगिकी को नियंत्रित करने से जुड़ी चुनौतियाँ शामिल हैं।" इसमें आगे कहा गया है कि एआई अपनाने में देशों और क्षेत्रों में व्यापक रूप से, लेकिन असमान रूप से तेजी आई है। वैश्विक स्तर पर, एक अरब से अधिक लोग अब साप्ताहिक रूप से संवादी एआई का उपयोग करते हैं, लेकिन विकासशील देशों में इसे अपनाने में देरी हो रही है। इसमें कहा गया है कि एआई विकास और भी अधिक केंद्रित है, दुनिया के शीर्ष 500 एआई सुपर कंप्यूटरों में कंप्यूटिंग शक्ति का 75 प्रतिशत हिस्सा अमेरिका का है, और 15 प्रतिशत चीन का है। हालाँकि दुनिया भर में 7,000 से अधिक भाषाएँ बोली जाती हैं, वर्तमान AI मॉडल केवल एक छोटे से हिस्से के लिए प्रशिक्षित हैं और कुछ भाषाओं का मशीनी अनुवाद त्रुटियों से भरा हुआ है जो स्वास्थ्य निदान और उपचार निर्णयों को प्रभावित कर सकता है। जोखिमों में मानव अधिकारों, सामाजिक प्रणालियों और पर्यावरण पर संभावित नकारात्मक प्रभाव शामिल हैं, जिसमें एआई-जनित बाल यौन शोषण सामग्री और डीपफेक-सक्षम यौन हिंसा अधिक बार प्रसारित हो रही है। एआई बड़े पैमाने पर प्रेरक सामग्री का उत्पादन और लक्ष्यीकरण करना भी आसान बनाता है, जो "सूचना अखंडता के क्रमिक क्षरण में योगदान देता है जो सार्वजनिक विश्वास, सामाजिक एकजुटता और लोकतांत्रिक विचार-विमर्श को कमजोर कर सकता है"। रिपोर्ट में कहा गया है कि उन्नत अर्थव्यवस्थाओं सहित अधिकांश देशों में सबसे सक्षम नए एआई मॉडल का आकलन करने या उनके शासन में सार्थक रूप से भाग लेने के लिए तकनीकी विशेषज्ञता का अभाव है।