Die rasante Entwicklung der KI bietet enorme potenzielle Vorteile für Länder und Menschen auf der ganzen Welt, birgt aber auch große Risiken, sagten 40 führende Wissenschaftler und Experten im ersten Bericht eines unabhängigen wissenschaftlichen Gremiums der Vereinten Nationen zu dieser Technologie. Der Bericht, der den Regierungen beim ersten globalen UN-Dialog zur KI-Governance vom 6. bis 7. Juli in Genf vorgelegt werden soll, bietet die erste globale, unabhängige wissenschaftliche Bewertung der KI. Ein ausführlicherer, umfassenderer Bericht ist für nächstes Jahr geplant. Die Mitglieder des Gremiums kamen aus allen Regionen der Welt und die Amtszeit der Mitglieder beträgt drei Jahre, unabhängig von Regierungen, Institutionen oder Unternehmen. Dem Bericht zufolge benötigen politische Entscheidungsträger wissenschaftliche Beweise, um KI zu steuern, aber ihre Fähigkeiten übersteigen das wissenschaftliche Verständnis und die Anpassungsfähigkeit von Regierungen, und es stehen nur wenige Methoden zur Steuerung hochautonomer KI-Systeme zur Verfügung. Der Co-Vorsitzende des Gremiums, Yoshua Bengio, wies auch auf zunehmende Beweise für betrügerisches KI-Verhalten hin und sagte, die Wissenschaft könne nicht garantieren, dass KI mit zunehmenden Fähigkeiten keinen katastrophalen Schaden „weder allein noch durch böswillige Benutzer“ anrichten werde. „Die potenziellen Vorteile von KI sind enorm“, heißt es in dem Bericht abschließend. „Der schnelle, unkontrollierte Einsatz der Technologie in großem Maßstab birgt auch erhebliche Risiken, darunter Schäden für die psychische Gesundheit der Benutzer, mögliche Verwendung als zerstörerisches Werkzeug, Auswirkungen auf soziale, wirtschaftliche und ökologische Systeme sowie Herausforderungen im Zusammenhang mit der Kontrolle der Technologie.“ Darüber hinaus hieß es, dass die Einführung von KI in den einzelnen Ländern und Sektoren zwar allgemein, aber ungleichmäßig zugenommen habe. Weltweit nutzen mittlerweile über eine Milliarde Menschen wöchentlich Konversations-KI, doch die Akzeptanz in Entwicklungsländern stagniert. Darin wurde darauf hingewiesen, dass die KI-Entwicklung sogar noch konzentrierter ist: Die USA stellen 75 Prozent der Rechenleistung unter den 500 weltweit führenden KI-Supercomputern und China 15 Prozent. Obwohl weltweit mehr als 7.000 Sprachen gesprochen werden, sind aktuelle KI-Modelle nur für einen kleinen Teil trainiert und die maschinelle Übersetzung einiger Sprachen ist mit Fehlern behaftet, die sich auf Gesundheitsdiagnosen und Behandlungsentscheidungen auswirken können. Zu den Risiken gehören mögliche negative Auswirkungen auf Menschenrechte, soziale Systeme und die Umwelt, da KI-generiertes Material über sexuellen Kindesmissbrauch und durch Deepfake ermöglichte sexuelle Gewalt immer häufiger im Umlauf ist. KI macht es auch einfacher, überzeugende Inhalte in großem Maßstab zu produzieren und gezielt anzusprechen, was zu einer „allmählichen Erosion der Informationsintegrität beiträgt, die das Vertrauen der Öffentlichkeit, den sozialen Zusammenhalt und die demokratische Entscheidungsfindung schwächen kann“. Den meisten Ländern, darunter auch fortgeschrittenen Volkswirtschaften, fehle es an technischem Fachwissen, um die leistungsfähigsten neuen KI-Modelle zu bewerten oder sich sinnvoll an ihrer Governance zu beteiligen, heißt es in dem Bericht.