Быстрое развитие искусственного интеллекта предлагает огромные потенциальные выгоды странам и людям во всем мире, но также создает большие риски, заявили 40 ведущих ученых и экспертов в первом докладе независимой научной группы ООН по этой технологии. Отчет, который будет представлен правительствам на первом Глобальном диалоге ООН по управлению ИИ, который пройдет в Женеве с 6 по 7 июля, представляет собой первую глобальную независимую научную оценку ИИ, а более полный и всеобъемлющий отчет запланирован на следующий год. Члены комиссии были выбраны из всех регионов мира, и ее члены избираются на трехлетний срок независимо от какого-либо правительства, учреждения или компании. Согласно отчету, политикам нужны научные доказательства для управления ИИ, но его возможности опережают научное понимание и способность правительств адаптироваться, поскольку существует мало методов управления высокоавтономными системами ИИ. Сопредседатель комиссии Йошуа Бенджио также отметил растущее количество свидетельств обманного поведения ИИ и заявил, что наука не может гарантировать, что ИИ не нанесет катастрофического вреда «ни сам по себе, ни из-за злонамеренных пользователей» по мере расширения возможностей. «Потенциальные преимущества ИИ огромны», — делается вывод в докладе. «Быстрое, бесконтрольное внедрение технологии в больших масштабах также представляет значительные риски, включая вред психическому здоровью пользователей, потенциальное использование в качестве деструктивного инструмента, воздействие на социальные, экономические и экологические системы, а также проблемы, связанные с контролем технологии». Далее в докладе говорится, что внедрение ИИ ускорилось в целом, но неравномерно в разных странах и секторах. Во всем мире более миллиарда человек сейчас используют диалоговый ИИ еженедельно, но его внедрение в развивающихся странах отстает. В нем отмечается, что развитие искусственного интеллекта еще более концентрировано: на долю США приходится 75 процентов вычислительной мощности среди 500 крупнейших в мире суперкомпьютеров искусственного интеллекта, а на Китай — 15 процентов. Хотя во всем мире говорят более чем на 7000 языках, современные модели искусственного интеллекта обучены лишь для небольшой части, а машинный перевод некоторых языков изобилует ошибками, которые могут повлиять на диагностику здоровья и решения о лечении. Риски включают потенциальное негативное воздействие на права человека, социальные системы и окружающую среду, поскольку материалы о сексуальном насилии над детьми, созданные ИИ, и сексуальное насилие с использованием дипфейков распространяются все чаще. ИИ также облегчает создание и нацеливание убедительного контента в больших масштабах, способствуя «постепенному разрушению целостности информации, которое может ослабить общественное доверие, социальную сплоченность и демократическое обсуждение». В докладе говорится, что большинству стран, включая страны с развитой экономикой, не хватает технического опыта для оценки наиболее эффективных новых моделей ИИ или значимого участия в их управлении.