Während sich die Generalversammlung der Vereinten Nationen diese Woche in New York versammelte, veranstaltete der Sonderbeauftragte des UN-Generalsekretärs für Technologie, Amandeep Gill, eine Veranstaltung mit dem Titel Governing AI for Humanity, bei der die Teilnehmer die Risiken diskutierten, die von KI ausgehen könnten, und die Herausforderungen, eine internationale Zusammenarbeit bei der künstlichen Intelligenz zu erreichen.
Generalsekretär António Guterres und Gill haben erklärt, dass ihrer Ansicht nach eine neue UN-Agentur erforderlich sein wird, um der Welt zu helfen, diese leistungsstarke Technologie gemeinsam zu verwalten. Die Fragen, die die neue Einheit ansprechen würde, und ihre Struktur sind jedoch noch zu bestimmen, und einige Beobachter sagen, dass ehrgeizige Pläne für eine globale Zusammenarbeit wie diese selten die erforderliche Unterstützung der mächtigen Nationen erhalten.
Gill hat bereits früher Bemühungen geleitet, um fortschrittliche Formen der Technologie sicherer zu machen. Er war Vorsitzender der Gruppe der Regierungsexperten des Übereinkommens über bestimmte konventionelle Waffen, als die Kampagne zum Stopp von Killerrobotern, die Regierungen dazu zwingen wollte, die Entwicklung autonomer Waffensysteme zu verbieten, keine Resonanz bei den globalen Supermächten wie den USA und Russland fand. Jetzt betreut Gill eine noch ehrgeizigere Anstrengung, um eine internationale Zusammenarbeit bei KI zu fördern.
KI hat sich in den letzten Jahren in einem atemberaubenden Tempo entwickelt, und Experten erwarten nicht, dass sich dieser Fortschritt in naher Zukunft verlangsamen wird. Die Auswirkungen von KI werden weit über die Grenzen der Länder hinaus zu spüren sein, in denen sie entwickelt wird, was Staats- und Regierungschefs sowie Technologen dazu veranlasst, eine internationale Zusammenarbeit bei KI-Fragen zu fordern.
Bei einem Treffen des Sicherheitsrats der Vereinten Nationen im Juli machte Guterres den Fall für die Vereinten Nationen als geeignetes Forum für diese Zusammenarbeit. Der High-Level Advisory Body on Artificial Intelligence, dessen Mitgliedschaft im Oktober bekannt gegeben werden soll, ist der nächste Schritt auf dem Weg zur Gründung einer UN-KI-Agentur.
Ein separater Aufruf zur Nominierung, den TIME einsehen konnte, wurde an die Mitgliedstaaten geschickt und enthielt die Geschäftsordnung für das Gremium. Darin wurde festgelegt, dass das Gremium aus bis zu 32 Mitgliedern aus einer Reihe von Sektoren und einer Mischung aus Geschlechtern, Altersgruppen, geografischer Vertretung und Schwerpunktgebiet bestehen würde.
Gill sagte TIME in einem Interview am 30. August, dass sein Büro über den öffentlichen Aufruf zur Nominierung mehr als 1.600 Nominierungen erhalten habe. Zusammen mit den Nominierungen der Mitgliedstaaten erwartet er, dass es mehr als 2.000 Nominierungen geben wird. Das Büro des Technologiebeauftragten wird in Absprache mit anderen UN-Organisationen eine Shortlist erstellen, aus der der Generalsekretär die 32 Mitglieder auswählen wird, sagte er. Das Gremium wird sich im Oktober zum ersten Mal treffen.
Die Geschäftsordnung in dem Dokument, das TIME einsehen konnte und das von Gill bestätigt wurde, besagt, dass das Gremium bis zum 31. Dezember 2023 einen Zwischenbericht mit einer „hochrangigen Analyse der Optionen für die internationale Governance der künstlichen Intelligenz“ vorlegen wird. Ein zweiter Bericht, der bis zum 31. August 2024 vorzulegen ist, „kann detaillierte Empfehlungen zu den Funktionen, der Form und den Zeitplänen für eine neue internationale Agentur zur Governance der künstlichen Intelligenz enthalten“.
Aki Enkenberg, Teamleiter für Innovation und digitale Zusammenarbeit im finnischen Außenministerium, bezeichnete die Entscheidung, in den Geschäftsbedingungen festzulegen, dass das Gremium Empfehlungen für eine neue internationale Agentur abgeben würde, als „überstürzten Schritt“. Seiner Ansicht nach könnte ein Großteil der für KI erforderlichen internationalen Governance durch bestehende Gremien im UN-System erleichtert werden, und er sagt, dass eine Analyse hätte durchgeführt werden sollen, um festzustellen, ob es Lücken im UN-System gab, bevor vorgeschlagen wurde, eine neue Agentur zu gründen. Gill bestritt, dass die Geschäftsordnung die Ergebnisse des Gremiums in Richtung der Empfehlung zur Gründung einer neuen Agentur beeinflussen würde.
Auf die Frage, ob die Größe des Beirats ihn möglicherweise unhandlich machen und dem Sekretariat daher einen übermäßigen Einfluss auf den Inhalt eines Berichts geben könnte, sagte Gill, dass das Sekretariat die Ergebnisse des Gremiums nicht zu beeinflussen versuchen würde.
Im September 2024 wird die UNO ihren Gipfel der Zukunft veranstalten. Bis dahin hofft Gill, dass die Ergebnisse des Gremiums den Mitgliedstaaten die Informationen geliefert haben, die sie benötigen, um zu entscheiden, ob und wie sie die Gründung einer UN-KI-Agentur unterstützen sollten. „Das wäre der richtige Moment für diese Agentur, um geschaffen zu werden“, sagte er. „Der Gipfel der Zukunft ist eine Führungschance.“
Eine Atomenergiebehörde für KI
In einem Blog-Beitrag, der im Mai von leitenden Mitarbeitern des Unternehmens hinter ChatGPT, OpenAI, veröffentlicht wurde, wurde argumentiert, dass etwas wie eine Internationale Atomenergie-Organisation (IAEO) für KI in Zukunft erforderlich sein könnte, um fortschrittlichere KI-Systeme sicher zu regieren. „Jede [Superintelligenz]-Bemühung oberhalb einer bestimmten Fähigkeit (oder Ressourcen wie Compute) Schwelle muss einer internationalen Behörde unterliegen, die Systeme inspizieren, Audits verlangen, auf die Einhaltung von Sicherheitsstandards testen, Einschränkungen des Einsatzgrades und der Sicherheitsstufen vornehmen kann“, hieß es in dem Blog-Beitrag.
Die 1957 gegründete IAEO führt Inspektionen durch, um sicherzustellen, dass Nichtkernwaffenstaaten keine Kernwaffen entwickeln, und bietet technische Zusammenarbeit für die friedliche Nutzung der Kernenergie.
Im Juni zeigte Guterres Begeisterung für das Konzept eines ähnlichen Gremiums für KI und sagte, „Ich wäre der Idee gewogen, dass wir eine Künstliche-Intelligenz-Agentur haben könnten… inspiriert von dem, was die Internationale Atomenergieagentur heute ist.“
Aber die Nachbildung der IAEO für künstliche Intelligenz ist nur eine mögliche Option. Ein Papier, auf das Gill während des Interviews mit TIME verwies, das im Juli von Forschern prominenter KI-Labore wie Google DeepMind und OpenAI sowie verschiedener akademischer und gemeinnütziger Forschungseinrichtungen veröffentlicht wurde, skizzierte vier mögliche Formen, die eine internationale KI-Organisation annehmen könnte, die sich nicht gegenseitig ausschließen.
Eine IAEO-ähnliche Agentur, die branchenweite Standards entwickeln und Interessengruppen überwachen kann, um zu beurteilen, ob diese Standards eingehalten werden, ist eine Option. Ein weiterer Vorschlag ist eine Organisation, die nach dem Vorbild des Zwischenstaatlichen Ausschusses für Klimaänderungen (IPCC) einen Expertenkonsens zu technischen Fragen erleichtert. Ebenfalls in dem Bericht vorgeschlagen ist eine internationale Partnerschaft zwischen dem öffentlichen und dem privaten Sektor, die einen gleichen Zugang zu nutzbringender KI gewährleistet, so wie es Gavi, die Impfstoffallianz, für Impfstoffe tut. Ein letzter Vorschlag ist eine internationale Zusammenarbeit bei der KI-Sicherheitsforschung, ähnlich der Europäischen Organisation für Kernforschung (CERN).
Während Gill sagt, dass der High-Level Advisory Body bestimmen muss, welches Modell, falls überhaupt, am geeignetsten ist, sagt er, dass die vierte Option