Le développement rapide de l'IA offre d'énormes avantages potentiels aux pays et aux peuples du monde entier, mais pose également de gros risques, ont déclaré 40 scientifiques et experts de premier plan dans le premier rapport d'un groupe scientifique indépendant des Nations Unies sur cette technologie. Le rapport, qui sera présenté aux gouvernements lors du premier Dialogue mondial des Nations Unies sur la gouvernance de l'IA à Genève les 6 et 7 juillet, propose la première évaluation scientifique mondiale et indépendante de l'IA, avec un rapport plus complet et plus complet prévu l'année prochaine. Les membres du panel sont issus de toutes les régions du monde et ses membres exercent un mandat de trois ans, indépendamment de tout gouvernement, institution ou entreprise. Selon le rapport, les décideurs politiques ont besoin de preuves scientifiques pour gouverner l’IA, mais ses capacités dépassent la compréhension scientifique et la capacité d’adaptation des gouvernements, avec peu de méthodes disponibles pour contrôler les systèmes d’IA hautement autonomes. Le coprésident du panel, Yoshua Bengio, a également souligné les preuves croissantes de comportements trompeurs de l'IA et a déclaré que la science ne pouvait pas garantir que l'IA ne causerait pas de dommages catastrophiques « soit par elle-même, soit à cause d'utilisateurs malveillants » à mesure que les capacités augmentent. « Les avantages potentiels de l’IA sont énormes », conclut le rapport. « Le déploiement rapide et incontrôlé de la technologie à grande échelle présente également des risques considérables, notamment des dommages à la santé mentale des utilisateurs, une utilisation potentielle comme outil destructeur, des impacts sur les systèmes sociaux, économiques et environnementaux et des défis associés au contrôle de la technologie. » Il indique en outre que l’adoption de l’IA s’est accélérée de manière générale, mais inégale, selon les pays et les secteurs. À l’échelle mondiale, plus d’un milliard de personnes utilisent désormais l’IA conversationnelle chaque semaine, mais son adoption est à la traîne dans les pays en développement. Il a noté que le développement de l’IA est encore plus concentré, les États-Unis représentant 75 % de la puissance de calcul parmi les 500 meilleurs supercalculateurs d’IA au monde, et la Chine 15 %. Bien que plus de 7 000 langues soient parlées dans le monde, les modèles d’IA actuels ne sont formés que pour une petite fraction et la traduction automatique de certaines langues est truffée d’erreurs qui peuvent affecter les diagnostics de santé et les décisions de traitement. Les risques incluent des impacts négatifs potentiels sur les droits de l’homme, les systèmes sociaux et l’environnement, avec une diffusion plus fréquente de matériels d’abus sexuels sur des enfants générés par l’IA et de violences sexuelles basées sur des deepfakes. L’IA facilite également la production et le ciblage de contenus persuasifs à grande échelle, contribuant ainsi à « une érosion progressive de l’intégrité de l’information qui peut affaiblir la confiance du public, la cohésion sociale et les délibérations démocratiques ». La plupart des pays, y compris les économies avancées, ne disposent pas de l’expertise technique nécessaire pour évaluer les nouveaux modèles d’IA les plus performants ou pour participer de manière significative à leur gouvernance, indique le rapport.