国連の報告書では、AI による潜在的な多大な利益と大きなリスクが指摘されています

AIの急速な発展は、世界中の国や人々に多大な潜在的利益をもたらす一方で、大きなリスクももたらすと、この技術に関する国連の独立科学委員会による最初の報告書で主要な科学者や専門家40人が述べた。 この報告書は、7月6日から7日にジュネーブで開催される第1回AIガバナンスに関する国連グローバルダイアログで各国政府に提出される予定で、AIに関する初の世界的かつ独立した科学的評価を提供するもので、来年にはより完全で包括的な報告書が作成される予定である。 パネルのメンバーは世界のあらゆる地域から選出され、そのメンバーの任期は 3 年で、政府、機関、企業から独立しています。 報告書によると、政策立案者はAIを管理するための科学的証拠を必要としているが、その能力は科学的理解や政府の適応能力を上回っており、高度に自律的なAIシステムを制御するために利用できる方法はほとんどない。 パネル共同議長のヨシュア・ベンジオ氏も、AIの欺瞞的な動作の証拠が増えていることを指摘し、AIが機能の向上に伴って「それ自体で、あるいは悪意のあるユーザーによって」壊滅的な危害を引き起こさないことを科学は保証できないと述べた。 「AI の潜在的な利点は非常に大きい」と報告書は結論づけています。 「また、テクノロジーを迅速かつ無チェックに大規模に展開することは、ユーザーの精神的健康への危害、破壊ツールとしての使用の可能性、社会、経済、環境システムへの影響、テクノロジーの制御に伴う課題など、多大なリスクをもたらします。」 さらに、AIの導入は国や分野を超えて幅広く、しかし不均一に加速していると述べた。現在、世界では 10 億人以上の人が毎週会話型 AI を使用していますが、発展途上国での導入は遅れています。 同報告書は、AI開発はさらに集中しており、世界トップ500のAIスーパーコンピューターのうち計算能力の75パーセントを米国が占め、中国が15パーセントを占めていると指摘した。 世界中で 7,000 以上の言語が話されていますが、現在の AI モデルはほんの一部についてのみトレーニングされており、一部の言語の機械翻訳には健康診断や治療の決定に影響を与える可能性のあるエラーがたくさんあります。 リスクには、AIによって生成された児童性的虐待素材やディープフェイクを利用した性暴力がより頻繁に出回ることにより、人権、社会制度、環境に悪影響を及ぼす可能性が含まれます。 また、AI により、説得力のあるコンテンツを大規模に作成して対象とすることが容易になり、「情報の完全性が徐々に損なわれ、国民の信頼、社会的結束、民主的審議が弱まる可能性がある」ことに貢献しています。 同報告書によると、先進国を含むほとんどの国には、最も性能の高い新しいAIモデルを評価したり、ガバナンスに有意義に参加したりするための技術的専門知識が不足しているという。