قال 40 عالمًا وخبيرًا بارزًا في التقرير الأول للجنة العلمية المستقلة التابعة للأمم المتحدة والمعنية بالتكنولوجيا، إن التطور السريع للذكاء الاصطناعي يوفر فوائد محتملة هائلة للدول والشعوب في جميع أنحاء العالم، ولكنه يشكل أيضًا مخاطر كبيرة. ويقدم التقرير، الذي سيتم تقديمه إلى الحكومات في الحوار العالمي الافتتاحي للأمم المتحدة حول إدارة الذكاء الاصطناعي في جنيف في الفترة من 6 إلى 7 يوليو، أول تقييم علمي عالمي مستقل للذكاء الاصطناعي، مع التخطيط لتقرير أكمل وشامل في العام المقبل. تم اختيار أعضاء اللجنة من جميع مناطق العالم، ويخدم أعضاؤها لمدة ثلاث سنوات، بشكل مستقل عن أي حكومة أو مؤسسة أو شركة. ووفقا للتقرير، يحتاج صناع السياسات إلى أدلة علمية للتحكم في الذكاء الاصطناعي، لكن قدراته تفوق الفهم العلمي وقدرة الحكومات على التكيف، مع وجود طرق قليلة متاحة للتحكم في أنظمة الذكاء الاصطناعي عالية الاستقلالية. وأشار الرئيس المشارك للجنة يوشوا بنجيو أيضًا إلى وجود أدلة متزايدة على سلوك الذكاء الاصطناعي الخادع، وقال إن العلم لا يستطيع ضمان أن الذكاء الاصطناعي لن يسبب ضررًا كارثيًا "سواء بمفرده أو بسبب مستخدمين ضارين" مع زيادة القدرات. وخلص التقرير إلى أن "الفوائد المحتملة للذكاء الاصطناعي هائلة". "إن النشر السريع وغير الخاضع للرقابة للتكنولوجيا على نطاق واسع يمثل أيضًا مخاطر كبيرة، بما في ذلك الأضرار التي تلحق بالصحة العقلية للمستخدمين، والاستخدام المحتمل كأداة مدمرة، والتأثيرات على النظم الاجتماعية والاقتصادية والبيئية، والتحديات المرتبطة بالسيطرة على التكنولوجيا." كما ذكر التقرير أن اعتماد الذكاء الاصطناعي قد تسارع على نطاق واسع، ولكن بشكل غير متساو، عبر البلدان والقطاعات. على مستوى العالم، يستخدم الآن أكثر من مليار شخص الذكاء الاصطناعي للمحادثة أسبوعيًا، لكن اعتماده في البلدان النامية متخلف. وأشار التقرير إلى أن تطوير الذكاء الاصطناعي أصبح أكثر تركيزا، حيث تمثل الولايات المتحدة 75 في المائة من قوة الحوسبة بين أفضل 500 جهاز كمبيوتر فائق الذكاء الاصطناعي في العالم، والصين 15 في المائة. على الرغم من أن أكثر من 7000 لغة يتم التحدث بها في جميع أنحاء العالم، إلا أن نماذج الذكاء الاصطناعي الحالية يتم تدريبها على جزء صغير فقط، كما أن الترجمة الآلية لبعض اللغات مليئة بالأخطاء التي يمكن أن تؤثر على التشخيص الصحي وقرارات العلاج. تشمل المخاطر الآثار السلبية المحتملة على حقوق الإنسان والأنظمة الاجتماعية والبيئة، مع انتشار مواد الاعتداء الجنسي على الأطفال التي أنشأها الذكاء الاصطناعي والعنف الجنسي المدعوم بالتزييف العميق بشكل متكرر. كما يسهل الذكاء الاصطناعي إنتاج واستهداف المحتوى المقنع على نطاق واسع، مما يساهم في "التآكل التدريجي لسلامة المعلومات الذي يمكن أن يضعف ثقة الجمهور والتماسك الاجتماعي والمداولات الديمقراطية". وقال التقرير إن معظم البلدان، بما في ذلك الاقتصادات المتقدمة، تفتقر إلى الخبرة الفنية اللازمة لتقييم نماذج الذكاء الاصطناعي الجديدة الأكثر قدرة أو المشاركة بشكل هادف في حوكمتها.