AI의 급속한 발전은 전 세계 국가와 사람들에게 막대한 잠재적 이익을 제공하지만 큰 위험도 초래한다고 유엔 독립 과학 패널의 기술에 대한 첫 번째 보고서에서 40명의 주요 과학자 및 전문가가 말했습니다. 7월 6일부터 7일까지 제네바에서 열리는 제1회 UN AI 거버넌스에 관한 글로벌 대화에서 각국 정부에 제출될 이 보고서는 AI에 대한 최초의 글로벌하고 독립적인 과학적 평가를 제공하며, 내년에 더욱 완전하고 포괄적인 보고서가 계획되어 있습니다. 패널 회원은 전 세계 모든 지역에서 구성되었으며, 회원은 정부, 기관 또는 회사와 관계없이 3년 임기로 활동합니다. 보고서에 따르면 정책 입안자들은 AI를 관리하기 위해 과학적 증거가 필요하지만 그 능력은 과학적 이해와 정부의 적응 능력을 앞지르고 있으며 고도로 자율적인 AI 시스템을 제어할 수 있는 방법이 거의 없습니다. 패널 공동 의장인 요슈아 벤지오(Yoshua Bengio)는 AI의 기만적인 행동에 대한 증거가 늘어나고 있다고 지적하며 AI가 기능이 향상됨에 따라 "자체적으로 또는 악의적인 사용자로 인해" 치명적인 피해를 입히지 않을 것이라고 과학이 보장할 수 없다고 말했습니다. 보고서는 “AI의 잠재적 이점은 엄청납니다.”라고 결론지었습니다. "기술을 대규모로 신속하고 무단으로 배포하는 것은 사용자의 정신 건강에 대한 피해, 파괴적인 도구로의 잠재적 사용, 사회, 경제 및 환경 시스템에 대한 영향, 기술 제어와 관련된 문제를 포함하여 상당한 위험을 초래합니다." 또한 AI 채택이 국가와 부문에 걸쳐 광범위하게, 그러나 고르지 않게 가속화되었다고 말했습니다. 전 세계적으로 현재 10억 명이 넘는 사람들이 매주 대화형 AI를 사용하고 있지만 개발도상국에서는 도입이 지연되고 있습니다. AI 개발은 훨씬 더 집중되어 있으며, 미국은 세계 500대 AI 슈퍼컴퓨터 중 컴퓨팅 성능의 75%를 차지하고 중국은 15%를 차지합니다. 전 세계적으로 7,000개 이상의 언어가 사용되지만 현재 AI 모델은 극히 일부만 학습되며 일부 언어의 기계 번역에는 건강 진단 및 치료 결정에 영향을 미칠 수 있는 오류가 가득합니다. 위험에는 인권, 사회 시스템 및 환경에 대한 잠재적인 부정적인 영향이 포함되며, AI로 생성된 아동 성적 학대 자료와 딥페이크를 통한 성폭력이 더 자주 유포됩니다. 또한 AI를 사용하면 설득력 있는 콘텐츠를 대규모로 쉽게 생성하고 타겟팅할 수 있어 "대중의 신뢰, 사회적 결속 및 민주적 심의를 약화시킬 수 있는 정보 무결성의 점진적인 침식"에 기여합니다. 보고서는 선진국을 포함한 대부분의 국가가 가장 유능한 새 AI 모델을 평가하거나 거버넌스에 의미 있게 참여할 수 있는 기술적 전문성이 부족하다고 밝혔습니다.