Die Welt ist nicht auf einen KI-Notfall vorbereitet

(SeaPRwire) –   Stellen Sie sich vor, Sie wachen auf und das Internet flackert, Kartenzahlungen schlagen fehl, Krankenwagen fahren zum falschen Ziel und Notfallsendungen, denen Sie nicht mehr trauen können. Ob durch eine Fehlfunktion eines Modells, kriminelle Nutzung oder einen eskalierenden Cyber-Schock verursacht, eine KI-gesteuerte Krise könnte sich schnell über Grenzen hinweg ausbreiten.

In vielen Fällen würden die ersten Anzeichen eines KI-Notfalls wahrscheinlich wie eine allgemeine Störung oder ein Sicherheitsfehler aussehen. Erst später, wenn überhaupt, würde klar werden, dass KI-Systeme eine wesentliche Rolle gespielt hatten.

Einige Regierungen und Unternehmen haben begonnen, Leitplanken zu errichten, um einen solchen Notfall zu bewältigen. Der EU AI Act, der Risikorahmen des United States National Institute of Standards and Technology, der G7 Hiroshima-Prozess und internationale technische Standards zielen alle darauf ab, Schaden zu verhindern. Cybersicherheitsbehörden und Infrastrukturbetreiber verfügen auch über Handbücher für Hackerangriffe, Ausfälle und routinemäßige Systemfehler. Was fehlt, ist nicht der technische Leitfaden zum Patchen von Servern oder Wiederherstellen von Netzwerken. Es ist der Plan zur Verhinderung von sozialer Panik und einem Zusammenbruch von Vertrauen, Diplomatie und grundlegender Kommunikation, wenn KI im Zentrum einer sich schnell entwickelnden Krise steht.

Die Verhinderung eines KI-Notfalls ist nur die halbe Miete. Die fehlende Hälfte der KI-Governance ist Vorbereitung und Reaktion. Wer entscheidet, dass ein KI-Vorfall zu einem internationalen Notfall geworden ist? Wer spricht mit der Öffentlichkeit, wenn gefälschte Nachrichten ihre Feeds überfluten? Wer hält die Kanäle zwischen den Regierungen offen, wenn normale Leitungen kompromittiert sind?

Regierungen können und müssen Pläne für die Reaktion auf KI-Notfälle aufstellen, bevor es zu spät ist. In einer bevorstehenden Forschungsarbeit, die auf Katastrophenrecht und Lehren aus anderen globalen Notfällen basiert, untersuche ich, wie bestehende internationale Regeln bereits die Komponenten für einen KI-Leitfaden enthalten. Regierungen verfügen bereits über die rechtlichen Instrumente, müssen sich aber nun darauf einigen, wie und wann sie diese einsetzen. Wir brauchen keine neuen, komplizierten Institutionen zur Überwachung von KI – wir brauchen einfach Regierungen, die im Voraus planen.

Vorbereitung auf einen KI-Notfall

Das allgemeine Governance-Modell kennen wir bereits. Die Internationalen Gesundheitsvorschriften erlauben der Weltgesundheitsorganisation, einen globalen Gesundheitsnotstand auszurufen und Maßnahmen zu koordinieren. Verträge über nukleare Unfälle schreiben eine schnelle Benachrichtigung vor, wenn Strahlung grenzüberschreitend verbreitet werden könnte. Telekommunikationsabkommen beseitigen rechtliche Hindernisse, damit Notfall-Satellitenausrüstung schnell eingeschaltet werden kann. Konventionen zur Bekämpfung der Cyberkriminalität richten rund um die Uhr Kontaktstellen ein, damit Polizeikräfte kurzfristig zusammenarbeiten können. Die Lehren zeigen, dass vorab vereinbarte Auslöser, benannte Koordinatoren und schnelle Kommunikationskanäle in einem Notfall Zeit sparen.

Ein KI-Notfall benötigt dieselben Grundlagen. Beginnen Sie mit einer gemeinsamen Definition. Ein KI-Notfall sollte ein außergewöhnliches Ereignis sein, das durch die Entwicklung, Nutzung oder Fehlfunktion von KI verursacht wird und das Risiko schwerwiegender grenzüberschreitender Schäden birgt und die Kapazität eines einzelnen Landes zur Bewältigung übersteigt. Entscheidend ist, dass er auch Situationen abdeckt, in denen eine KI-Beteiligung nur vermutet wird oder eine von mehreren möglichen Ursachen ist, damit Regierungen handeln können, bevor forensische Gewissheit eintritt, falls sie überhaupt eintritt. Die meisten Vorfälle werden dieses Niveau nie erreichen. Die vorab vereinbarte Definition hilft, Lähmungen in den ersten kritischen Stunden zu vermeiden.

Als Nächstes benötigen Regierungen einen praktischen Leitfaden. Das erste Element dieses Leitfadens sollte die Definition eines gemeinsamen Satzes von Auslösern und einer grundlegenden Schweregradskala sein, damit Beamte wissen, wann sie von einem routinemäßigen Vorfall zu einer internationalen Alarmierung übergehen sollen, einschließlich Kriterien für die Bestimmung, wo eine KI-Beteiligung nur glaubhaft vermutet und nicht schlüssig bewiesen ist. Ein zweites Kapitel sollte die Benennung eines globalen Koordinators enthalten, der schnell einberufen werden kann, unterstützt von technischen Experten, Strafverfolgungsbehörden und Katastrophenspezialisten. Ein dritter Teil sollte die Einrichtung interoperabler Vorfallmeldesysteme sein, damit Länder und Unternehmen wesentliche Informationen in Minuten statt in Tagen austauschen können. Als Nächstes müssen wir Krisenkommunikationsprotokolle mit authentifizierten, analogen Methoden wie Radio erstellen. Schließlich müssen wir eine klare Liste von Kontinuitäts- und Eindämmungsmaßnahmen erstellen. Dazu könnte die Verlangsamung von Hochrisiko-KI-Diensten oder die Umstellung kritischer Infrastrukturen auf manuelle Steuerung gehören.

Strukturierung der KI-Notfallvorsorge

Wer sollte also diese Initiativen zur Vorbereitung auf KI-Notfälle überwachen? Meine Antwort: die Vereinten Nationen.

Die Platzierung dieses Systems innerhalb der UN-Struktur ist aus mehreren Gründen wichtig. Erstens wird ein KI-Notfall keine Allianzen respektieren. Ein UN-verankerter Mechanismus bietet eine breitere Einbeziehung und reduziert Doppelarbeit unter rivalisierenden Koalitionen. Er bietet technische Hilfe für Länder ohne fortgeschrittene KI-Kapazitäten, sodass die Last nicht von einer Handvoll Großmächte getragen wird. Er verleiht Legitimität und Einschränkung. Außergewöhnliche Befugnisse müssen rechtmäßig, verhältnismäßig und überprüfbar sein, insbesondere wenn sie digitale Netzwerke betreffen, die von Milliarden von Menschen genutzt werden.

Diese internationale Ebene muss durch nationale Schritte ergänzt werden, die Regierungen jetzt unternehmen können. Jedes Land sollte eine rund um die Uhr besetzte Kontaktstelle für KI-Notfälle benennen. Notfallbefugnisse sollten überprüft werden, um festzustellen, ob sie KI-Infrastrukturen abdecken. Sektorpläne sollten mit grundlegenden Standards für das Vorfallmanagement und die Geschäftskontinuität abgestimmt werden. Gemeinsame Übungen sollten Wellen von Desinformation, Modellfehler und sektorübergreifende Ausfälle üben. Die Migration zu Post-Quanten-Kryptographie sollte priorisiert werden, bevor ein feindlicher Angriff eine solche Aktualisierung erzwingt. Regierungen sollten auch vertrauenswürdige Absender und Alarmvorlagen registrieren, damit Nachrichten die Bürger auch dann noch erreichen können, wenn die Systeme instabil sind.

Diese Vorsichtsmaßnahmen sind notwendig. Gemeldete KI-bezogene Cyberangriffe nehmen zu, und viele Länder haben bereits kleinere Ausfälle, Datenmanipulationsversuche und Desinformationswellen erlebt, die einen Hinweis darauf geben, wie ein größeres Ereignis aussehen könnte. Darüber hinaus könnte ein sich schnell entwickelnder KI-Ausfall mit der heutigen hypervernetzten Infrastruktur eine Krise hervorrufen, die kein einzelnes Land allein bewältigen kann.

Dies ist kein Aufruf zu einer neuen globalen Superagentur. Es ist ein Aufruf, das Bestehende zu einem kohärenten Ganzen zusammenzufügen. Wir brauchen einen KI-Notfall-Leitfaden, der diese Werkzeuge ausleiht und sie übt.

Das Maß der KI-Governance wird darin liegen, wie wir an unserem schlimmsten Tag reagieren. Derzeit hat die Welt keinen Plan für einen KI-Notfall – aber wir können einen schaffen. Wir müssen ihn jetzt aufbauen, testen und gesetzlich mit Schutzmaßnahmen verankern, denn sobald die nächste Krise begonnen hat, wird es bereits zu spät sein.