O rápido desenvolvimento da IA ​​oferece enormes benefícios potenciais para países e pessoas em todo o mundo, mas também apresenta grandes riscos, afirmaram 40 cientistas e especialistas de renome no primeiro relatório de um painel científico independente das Nações Unidas sobre a tecnologia. O relatório, a ser apresentado aos governos no primeiro Diálogo Global da ONU sobre governação da IA, em Genebra, de 6 a 7 de julho, oferece a primeira avaliação científica global e independente da IA, com um relatório mais completo e abrangente planeado para o próximo ano. Os membros do painel vieram de todas as regiões do mundo e seus membros têm mandato de três anos, independentemente de qualquer governo, instituição ou empresa. De acordo com o relatório, os decisores políticos precisam de provas científicas para governar a IA, mas as suas capacidades estão a ultrapassar a compreensão científica e a capacidade de adaptação dos governos, com poucos métodos disponíveis para controlar sistemas de IA altamente autónomos. O copresidente do painel, Yoshua Bengio, também observou evidências crescentes de comportamento enganoso da IA ​​e disse que a ciência não pode garantir que a IA não causará danos catastróficos “por si só ou devido a usuários mal-intencionados” à medida que as capacidades aumentam. “Os benefícios potenciais da IA ​​são enormes”, concluiu o relatório. “A implantação rápida e descontrolada da tecnologia em grande escala também apresenta riscos consideráveis, incluindo danos para a saúde mental dos utilizadores, potencial utilização como ferramenta destrutiva, impactos nos sistemas sociais, económicos e ambientais, e desafios associados ao controlo da tecnologia.” Afirmou ainda que a adopção da IA ​​acelerou de forma ampla, mas desigual, entre países e sectores. Globalmente, mais de um bilhão de pessoas usam agora a IA de conversação semanalmente, mas a adoção nos países em desenvolvimento é lenta. Observou que o desenvolvimento da IA ​​está ainda mais concentrado, sendo os EUA responsáveis ​​por 75 por cento do poder computacional entre os 500 principais supercomputadores de IA do mundo, e a China por 15 por cento. Embora mais de 7.000 idiomas sejam falados em todo o mundo, os modelos atuais de IA são treinados apenas para uma pequena fração e a tradução automática de alguns idiomas está repleta de erros que podem afetar diagnósticos de saúde e decisões de tratamento. Os riscos incluem potenciais impactos negativos nos direitos humanos, nos sistemas sociais e no ambiente, com material de abuso sexual infantil gerado por IA e violência sexual possibilitada por deepfake a circular com mais frequência. A IA também facilita a produção e a segmentação de conteúdos persuasivos em grande escala, contribuindo para uma “erosão gradual da integridade da informação que pode enfraquecer a confiança pública, a coesão social e a deliberação democrática”. A maioria dos países, incluindo as economias avançadas, carece de conhecimentos técnicos para avaliar os novos modelos de IA mais capazes ou participar de forma significativa na sua governação, afirma o relatório.