Pesatnya perkembangan AI menawarkan potensi manfaat yang sangat besar bagi negara-negara dan masyarakat di seluruh dunia, namun juga menimbulkan risiko besar, kata 40 ilmuwan dan pakar terkemuka dalam laporan pertama panel ilmiah independen PBB mengenai teknologi tersebut. Laporan tersebut, yang akan dipresentasikan kepada pemerintah pada Dialog Global PBB mengenai tata kelola AI yang pertama di Jenewa pada tanggal 6 hingga 7 Juli, menawarkan penilaian ilmiah independen dan global pertama terhadap AI, dengan laporan yang lebih lengkap dan komprehensif yang direncanakan pada tahun depan. Anggota panel diambil dari seluruh wilayah di dunia, dan anggotanya bertugas selama tiga tahun, independen dari pemerintah, lembaga, atau perusahaan mana pun. Menurut laporan tersebut, para pengambil kebijakan memerlukan bukti ilmiah untuk mengelola AI, namun kemampuannya melebihi pemahaman ilmiah dan kemampuan pemerintah untuk beradaptasi, dengan hanya sedikit metode yang tersedia untuk mengendalikan sistem AI yang sangat otonom. Ketua Panel Yoshua Bengio juga mencatat semakin banyak bukti perilaku AI yang menipu dan mengatakan ilmu pengetahuan tidak dapat menjamin bahwa AI tidak akan menyebabkan kerusakan besar “baik jika dilakukan sendiri atau karena pengguna jahat” seiring dengan meningkatnya kemampuan AI. “Potensi manfaat AI sangat besar,” laporan tersebut menyimpulkan. “Penyebaran teknologi yang cepat dan tidak terkendali dalam skala besar juga menimbulkan risiko besar, termasuk dampak buruk terhadap kesehatan mental pengguna, potensi penggunaan teknologi sebagai alat yang merusak, dampak terhadap sistem sosial, ekonomi dan lingkungan, serta tantangan yang terkait dengan pengendalian teknologi.” Lebih lanjut dikatakan bahwa adopsi AI telah meningkat secara luas, namun tidak merata, di seluruh negara dan sektor. Secara global, lebih dari satu miliar orang kini menggunakan AI percakapan setiap minggunya, namun penerapannya di negara-negara berkembang masih tertinggal. Dikatakan bahwa pengembangan AI bahkan lebih terkonsentrasi, dengan Amerika Serikat menguasai 75 persen kekuatan komputasi di antara 500 superkomputer AI terbesar di dunia, dan Tiongkok menguasai 15 persen. Meskipun lebih dari 7.000 bahasa digunakan di seluruh dunia, model AI saat ini hanya dilatih untuk sebagian kecil bahasa dan terjemahan mesin untuk beberapa bahasa penuh dengan kesalahan yang dapat memengaruhi diagnosis kesehatan dan keputusan pengobatan. Risikonya mencakup potensi dampak negatif terhadap hak asasi manusia, sistem sosial, dan lingkungan, dengan semakin seringnya materi pelecehan seksual terhadap anak-anak yang dihasilkan oleh AI dan kekerasan seksual yang menggunakan deepfake beredar. AI juga mempermudah pembuatan dan penargetan konten persuasif dalam skala besar, sehingga berkontribusi terhadap “erosi integritas informasi secara bertahap yang dapat melemahkan kepercayaan publik, kohesi sosial, dan pertimbangan demokratis”. Sebagian besar negara, termasuk negara-negara maju, tidak memiliki keahlian teknis untuk menilai model AI baru yang paling mampu atau berpartisipasi secara berarti dalam tata kelola mereka, kata laporan itu.