El rápido desarrollo de la IA ofrece enormes beneficios potenciales a países y personas de todo el mundo, pero también plantea grandes riesgos, dijeron 40 destacados científicos y expertos en el primer informe de un panel científico independiente de las Naciones Unidas sobre esta tecnología. El informe, que se presentará a los gobiernos en el Diálogo Global inaugural de la ONU sobre la gobernanza de la IA en Ginebra del 6 al 7 de julio, ofrece la primera evaluación científica global e independiente de la IA, y se planea un informe más completo y completo el próximo año. Los miembros del panel procedían de todas las regiones del mundo y sus miembros cumplen un mandato de tres años, independientemente de cualquier gobierno, institución o empresa. Según el informe, los formuladores de políticas necesitan evidencia científica para gobernar la IA, pero sus capacidades están superando la comprensión científica y la capacidad de adaptación de los gobiernos, con pocos métodos disponibles para controlar sistemas de IA altamente autónomos. El copresidente del panel, Yoshua Bengio, también destacó la creciente evidencia de comportamiento engañoso de la IA y dijo que la ciencia no puede garantizar que la IA no causará daños catastróficos “ya sea por sí sola o debido a usuarios malintencionados” a medida que aumentan sus capacidades. "Los beneficios potenciales de la IA son enormes", concluye el informe. "El despliegue rápido y sin control de la tecnología a escala también presenta riesgos considerables, incluidos daños a la salud mental de los usuarios, uso potencial como herramienta destructiva, impactos en los sistemas sociales, económicos y ambientales, y desafíos asociados con el control de la tecnología". Dijo además que la adopción de la IA se ha acelerado de manera amplia, pero de manera desigual, en todos los países y sectores. A nivel mundial, más de mil millones de personas utilizan actualmente la IA conversacional semanalmente, pero la adopción en los países en desarrollo va a la zaga. Señaló que el desarrollo de la IA está aún más concentrado: Estados Unidos representa el 75 por ciento de la potencia informática entre las 500 supercomputadoras de IA más importantes del mundo, y China el 15 por ciento. Aunque se hablan más de 7.000 idiomas en todo el mundo, los modelos actuales de IA están entrenados solo para una pequeña fracción y la traducción automática de algunos idiomas está plagada de errores que pueden afectar los diagnósticos de salud y las decisiones de tratamiento. Los riesgos incluyen posibles impactos negativos en los derechos humanos, los sistemas sociales y el medio ambiente, con material de abuso sexual infantil generado por IA y violencia sexual posibilitada por deepfake circulando con mayor frecuencia. La IA también facilita la producción y la orientación de contenidos persuasivos a escala, lo que contribuye a una "erosión gradual de la integridad de la información que puede debilitar la confianza pública, la cohesión social y la deliberación democrática". La mayoría de los países, incluidas las economías avanzadas, carecen de la experiencia técnica para evaluar los nuevos modelos de IA más capaces o participar significativamente en su gobernanza, según el informe.