Il rapido sviluppo dell’intelligenza artificiale offre enormi vantaggi potenziali a paesi e persone in tutto il mondo, ma comporta anche grandi rischi, hanno affermato 40 importanti scienziati ed esperti nel primo rapporto di un gruppo scientifico indipendente delle Nazioni Unite sulla tecnologia. Il rapporto, che sarà presentato ai governi in occasione del dialogo globale inaugurale delle Nazioni Unite sulla governance dell’IA che si terrà a Ginevra dal 6 al 7 luglio, offre la prima valutazione scientifica globale e indipendente dell’IA, con un rapporto più completo ed esauriente previsto per il prossimo anno. I membri del comitato provengono da ogni regione del mondo e i suoi membri restano in carica tre anni, indipendentemente da qualsiasi governo, istituzione o azienda. Secondo il rapporto, i politici hanno bisogno di prove scientifiche per governare l’IA, ma le sue capacità stanno superando la comprensione scientifica e la capacità di adattamento dei governi, con pochi metodi disponibili per controllare sistemi di IA altamente autonomi. Il copresidente del panel Yoshua Bengio ha anche notato prove crescenti di comportamenti ingannevoli dell’intelligenza artificiale e ha affermato che la scienza non può garantire che l’intelligenza artificiale non causerà danni catastrofici “né da sola né a causa di utenti malintenzionati” man mano che le capacità aumentano. “I potenziali benefici dell’intelligenza artificiale sono enormi”, conclude il rapporto. “L’implementazione rapida e incontrollata della tecnologia su larga scala presenta anche rischi considerevoli, tra cui danni alla salute mentale degli utenti, potenziale utilizzo come strumento distruttivo, impatti sui sistemi sociali, economici e ambientali e sfide associate al controllo della tecnologia”. Ha inoltre affermato che l’adozione dell’intelligenza artificiale ha subito un’ampia accelerazione, ma in modo non uniforme, tra paesi e settori. A livello globale, oltre un miliardo di persone ora utilizzano settimanalmente l’intelligenza artificiale conversazionale, ma l’adozione nei paesi in via di sviluppo è in ritardo. Ha osservato che lo sviluppo dell’intelligenza artificiale è ancora più concentrato, con gli Stati Uniti che rappresentano il 75% della potenza di calcolo tra i 500 migliori supercomputer IA del mondo, e la Cina il 15%. Sebbene in tutto il mondo si parlino più di 7.000 lingue, gli attuali modelli di intelligenza artificiale sono addestrati solo per una piccola frazione e la traduzione automatica di alcune lingue è piena di errori che possono influenzare le diagnosi sanitarie e le decisioni terapeutiche. I rischi includono potenziali impatti negativi sui diritti umani, sui sistemi sociali e sull’ambiente, con materiale pedopornografico generato dall’intelligenza artificiale e violenza sessuale abilitata ai deepfake che circolano più frequentemente. L’intelligenza artificiale rende inoltre più semplice produrre e indirizzare contenuti persuasivi su larga scala, contribuendo a una “graduale erosione dell’integrità delle informazioni che può indebolire la fiducia pubblica, la coesione sociale e la deliberazione democratica”. La maggior parte dei paesi, comprese le economie avanzate, non hanno le competenze tecniche per valutare i nuovi modelli di intelligenza artificiale più efficaci o per partecipare in modo significativo alla loro governance, afferma il rapporto.