Birleşmiş Milletler'in teknolojiyle ilgili bağımsız bir bilimsel paneli tarafından hazırlanan ilk raporda, önde gelen 40 bilim insanı ve uzman, yapay zekanın hızlı gelişiminin dünya çapındaki ülkelere ve insanlara çok büyük potansiyel faydalar sunduğunu, ancak aynı zamanda büyük riskler de taşıdığını söyledi. 6-7 Temmuz tarihleri ​​arasında Cenevre'de yapılacak BM Küresel Yapay Zeka Diyalogu açılışında hükümetlere sunulacak olan rapor, gelecek yıl planlanan daha kapsamlı ve kapsamlı bir raporla birlikte yapay zekanın ilk küresel, bağımsız bilimsel değerlendirmesini sunuyor. Panelin üyeleri dünyanın her bölgesinden seçilmiş olup üyeleri herhangi bir hükümet, kurum veya şirketten bağımsız olarak üç yıl süreyle görev yapmaktadır. Rapora göre, politika yapıcıların yapay zekayı yönetmek için bilimsel kanıtlara ihtiyacı var, ancak yapay zekanın yetenekleri, bilimsel anlayışı ve hükümetlerin uyum sağlama yeteneğini geride bırakıyor ve yüksek düzeyde özerk yapay zeka sistemlerini kontrol etmek için mevcut çok az yöntem var. Panel eş başkanı Yoshua Bengio da aldatıcı yapay zeka davranışına dair artan kanıtlara dikkat çekti ve bilimin, yetenekler arttıkça yapay zekanın "kendi başına veya kötü niyetli kullanıcılar nedeniyle" feci zararlara neden olmayacağını garanti edemeyeceğini söyledi. Rapor, "Yapay zekanın potansiyel faydaları çok büyük" sonucuna vardı. "Teknolojinin geniş ölçekte hızlı ve kontrolsüz bir şekilde yayılması, kullanıcıların zihinsel sağlığına zarar verilmesi, yıkıcı bir araç olarak potansiyel kullanım, sosyal, ekonomik ve çevresel sistemler üzerindeki etkiler ve teknolojinin kontrolüyle ilgili zorluklar da dahil olmak üzere önemli riskler de sunuyor." Ayrıca yapay zekanın benimsenmesinin ülkeler ve sektörler arasında geniş çapta ancak eşitsiz bir şekilde hızlandığını söyledi. Dünya çapında bir milyardan fazla insan artık haftada bir konuşma yapay zekası kullanıyor ancak gelişmekte olan ülkelerde benimsenme gecikiyor. ABD'nin dünyanın en büyük 500 yapay zeka süper bilgisayarı arasında bilgi işlem gücünün yüzde 75'ini, Çin'in ise yüzde 15'ini oluşturmasıyla yapay zeka gelişiminin daha da yoğunlaştığı belirtildi. Dünya çapında 7.000'den fazla dil konuşulmasına rağmen mevcut yapay zeka modelleri yalnızca küçük bir kısım için eğitiliyor ve bazı dillerin makine çevirisi, sağlık teşhislerini ve tedavi kararlarını etkileyebilecek hatalarla dolu. Riskler arasında insan hakları, sosyal sistemler ve çevre üzerindeki potansiyel olumsuz etkiler yer alıyor; yapay zeka tarafından oluşturulan çocuk cinsel istismarı materyalleri ve deepfake destekli cinsel şiddet daha sık yayılıyor. Yapay zeka ayrıca ikna edici içeriğin geniş ölçekte üretilmesini ve hedeflenmesini kolaylaştırarak "kamu güvenini, sosyal uyumu ve demokratik müzakereyi zayıflatabilecek bilgi bütünlüğünün kademeli olarak aşınmasına" katkıda bulunur. Raporda, gelişmiş ekonomiler de dahil olmak üzere çoğu ülkenin, en yetenekli yeni yapay zeka modellerini değerlendirecek veya yönetimlerine anlamlı bir şekilde katılacak teknik uzmanlığa sahip olmadığı belirtildi.