گزارش سازمان ملل متحد مزایای بالقوه و خطرات بزرگ هوش مصنوعی را می بیند

40 دانشمند و متخصص برجسته در اولین گزارش پانل علمی مستقل سازمان ملل در مورد این فناوری گفتند: توسعه سریع هوش مصنوعی مزایای بالقوه عظیمی را برای کشورها و مردم در سراسر جهان ارائه می دهد، اما خطرات بزرگی را نیز به همراه دارد. این گزارش که قرار است در نشست افتتاحیه گفت‌وگوی جهانی سازمان ملل متحد درباره حکمرانی هوش مصنوعی در ژنو در تاریخ 6 تا 7 ژوئیه به دولت‌ها ارائه شود، اولین ارزیابی علمی و مستقل جهانی از هوش مصنوعی را ارائه می‌کند و گزارش کامل‌تر و جامع‌تری را برای سال آینده برنامه‌ریزی می‌کند. اعضای هیئت از هر منطقه از جهان انتخاب شده‌اند و اعضای آن برای یک دوره سه ساله مستقل از هر دولت، موسسه یا شرکتی خدمت می‌کنند. بر اساس این گزارش، سیاست‌گذاران برای کنترل هوش مصنوعی به شواهد علمی نیاز دارند، اما توانایی‌های آن از درک علمی و توانایی دولت‌ها برای انطباق با روش‌های کمی برای کنترل سیستم‌های هوش مصنوعی بسیار خودمختار پیشی گرفته است. یوشوا بنجیو، رئیس هیئت مدیره، همچنین به شواهد فزاینده ای مبنی بر رفتار فریبنده هوش مصنوعی اشاره کرد و گفت که علم نمی تواند تضمین کند که هوش مصنوعی "به خودی خود یا به دلیل کاربران مخرب" با افزایش قابلیت ها، آسیب فاجعه باری ایجاد نمی کند. در این گزارش آمده است: «مزایای بالقوه هوش مصنوعی بسیار زیاد است. استقرار سریع و کنترل نشده این فناوری در مقیاس نیز خطرات قابل توجهی از جمله آسیب به سلامت روان کاربران، استفاده بالقوه به عنوان یک ابزار مخرب، تأثیرات بر سیستم‌های اجتماعی، اقتصادی و زیست محیطی و چالش‌های مرتبط با کنترل فناوری را به همراه دارد. همچنین گفت که پذیرش هوش مصنوعی به طور گسترده، اما نابرابر، در کشورها و بخش‌ها سرعت گرفته است. در سراسر جهان، اکنون بیش از یک میلیارد نفر به صورت هفتگی از هوش مصنوعی مکالمه ای استفاده می کنند، اما پذیرش در کشورهای در حال توسعه با تاخیر مواجه است. این گزارش خاطرنشان کرد که توسعه هوش مصنوعی حتی متمرکزتر است، به طوری که ایالات متحده 75 درصد از قدرت محاسباتی را در بین 500 ابررایانه برتر هوش مصنوعی جهان و چین 15 درصد را به خود اختصاص داده است. اگرچه بیش از 7000 زبان در سراسر جهان صحبت می‌شود، مدل‌های فعلی هوش مصنوعی تنها برای بخش کوچکی آموزش داده می‌شوند و ترجمه ماشینی برخی از زبان‌ها مملو از خطاهایی است که می‌تواند بر تشخیص‌های سلامت و تصمیمات درمانی تأثیر بگذارد. خطرات شامل تأثیرات منفی بالقوه بر حقوق بشر، سیستم‌های اجتماعی و محیط‌زیست می‌شود، به‌علاوه مطالب مربوط به سوءاستفاده جنسی از کودکان توسط هوش مصنوعی و خشونت‌های جنسی با فعال‌سازی عمیق‌تر که بیشتر در گردش هستند. هوش مصنوعی همچنین تولید و هدف‌گیری محتوای متقاعدکننده را در مقیاس آسان‌تر می‌کند و به "فرسایش تدریجی یکپارچگی اطلاعات که می‌تواند اعتماد عمومی، انسجام اجتماعی و مشورت دموکراتیک را تضعیف کند" کمک می‌کند. در این گزارش آمده است که اکثر کشورها، از جمله اقتصادهای پیشرفته، فاقد تخصص فنی برای ارزیابی توانمندترین مدل‌های جدید هوش مصنوعی یا مشارکت معنادار در حکمرانی آنها هستند.