Im Jahr 2019 legte ein chinesischer Forscher namens Li Bicheng seine Ideen zur Manipulation der öffentlichen Meinung mithilfe von KI dar. Ein Netzwerk von “intelligenten Agenten” – eine Armee von falschen Online-Personas, die von KI gesteuert werden – könnte gerade realistisch genug handeln, um einen Konsens zu Themen zu formen, die für die Kommunistische Partei Chinas von Belang sind, wie zum Beispiel ihr Umgang mit der COVID-19-Pandemie. Nur wenige Jahre zuvor hatte Li in anderen Artikeln geschrieben, dass China seine Fähigkeit zur Durchführung von “Online-Informationsbetrug” und “Online-Meinungsführung” verbessern sollte.
Li ist kein Außenseiter. Tatsächlich ist er der ultimative Insider mit einer langen Forschungskarriere am führenden Informationskriegsforschungsinstitut der Volksbefreiungsarmee. Seine Vision, KI zu nutzen, um soziale Medien zu manipulieren, wurde in einer der führenden akademischen Zeitschriften des chinesischen Militärs veröffentlicht. Er steht in Verbindung mit der einzigen bekannten Informationskriegseinheit der VBA, Basis 311. Seine Artikel sollten daher als Vorboten einer kommenden Flut von chinesischen Einflussoperationen im Internet angesehen werden.
Wie Meta kürzlich in seinem vierteljährlichen Bedrohungsbericht offenlegte, ertrinken westliche Internetplattformen bereits in pro-pekinger Inhalten, die von Gruppen veröffentlicht werden, die mit der chinesischen Regierung in Verbindung stehen. Laut dem Meta-Bericht folgten mehr als eine halbe Million Facebook-Nutzer mindestens einem dieser gefälschten Konten im weiteren chinesischen Netzwerk – das sich auf Klickfarmen in Vietnam und Brasilien stützte, um seine Reichweite zu erhöhen. Der Bericht besagt auch, dass das chinesische Netzwerk Anzeigen im Wert von etwa 3.000 US-Dollar gekauft hat, um seine Beiträge weiter zu bewerben. Diese Bemühung scheint jedoch immer noch von Menschen gesteuert zu werden und hatte marginale reale Ergebnisse. Ein kürzlicher Bericht des Außenministeriums über Chinas Einflussoperationen untermauert diesen Punkt.
Aber generative KI bietet das Potenzial, solche Bemühungen in etwas viel Wirksameres und damit viel Gefährlicheres für die USA und andere globale Demokratien zu verwandeln. Und unsere Forschung zeigt, dass China bereit ist, diese neue Technologie zu übernehmen. Letzten Monat berichtete Microsoft, dass einige China-nahe Akteure, die es verfolgt, im März begannen, KI-generierte Bilder zu verwenden. Dies bestätigt unsere Bedenken, und wir erwarten, dass noch mehr folgen wird.
Jetzt, dank generativer KI, die viel mehr wie Menschen handelt und nicht wie Bots, bietet die KPCh – und jede Menge anderer böser Akteure wie Russland und Iran – das Potenzial, langjährige Wünsche zu erfüllen, die globale Konversation zu prägen.
Im Mai 2021 bekräftigte der chinesische Generalsekretär Xi Jinping den Fokus seiner Partei auf dieses hehre Ziel während seiner Bemerkungen auf der monatlichen Kollektivstudiensitzung des Politbüros der KPCh. Dort sagte er, dass China “ein günstiges externes öffentliches Meinungsumfeld für Chinas Reform, Entwicklung und Stabilität” schaffen sollte, unter anderem durch die Entwicklung überzeugenderer Propagandanarrative und die bessere Anpassung von Inhalten an bestimmte Zielgruppen. Xi betonte auch, dass Peking seit seinem Machtantritt im Jahr 2012 die “Leitwirkung unserer internationalen öffentlichen Meinungsbemühungen” verbessert hat. Mit anderen Worten: Xi ist mit dem Ausmaß zufrieden, in dem China bereits die globale öffentliche Meinung beeinflusst, aber er denkt, die KPCh muss noch mehr tun.
Xi spricht seit Jahren auch über Technologie als Mittel zur Verwirklichung seiner Wünsche. In einer früheren Kollektivstudiensitzung des Politbüros im Jahr 2019 sagte Xi, es sei notwendig, die Anwendung von KI in der Nachrichtensammlung, -produktion, -verteilung und -rückmeldung zu untersuchen, um die Fähigkeit zur Meinungsführung zu verbessern. Der weitere Partei-Staatsapparat hat bereits begonnen, Xis Vision zu verwirklichen, einschließlich der Einrichtung von “KI-Redaktionsabteilungen”.
Chinesische Militärforscher arbeiten seit mindestens 2005 daran, das zu schaffen, was sie manchmal als “synthetische Informationen” bezeichnen. Solche Informationen können für viele Zwecke verwendet werden, einschließlich der Erzeugung von “explosiven politischen Nachrichten” über Gegner. So wurde China beispielsweise 2017 beschuldigt, eine Desinformationskampagne gestartet zu haben, die behauptete, die Regierung Taiwans werde religiöse Dienste streng regulieren, was einen politischen Feuersturm auf der Insel auslöste.
Chinesische Militärforscher beschweren sich routinemäßig, dass der VBA das notwendige Maß an Mitarbeitern mit ausreichenden Fremdsprachenkenntnissen und interkulturellem Verständnis fehlt. Jetzt jedoch bietet die generative KI der VBA Werkzeuge, um etwas zu tun, was sie zuvor nie konnte, nämlich soziale Medien mit inhaltlich menschlicher Qualität und in großem Umfang zu manipulieren.
Es gibt Schritte, die sowohl Social-Media-Plattformen als auch die US-Regierung unternehmen können und sollten, um mit dieser Bedrohung zu beginnen. Aber alle solche Strategien müssen von der Realität ausgehen, dass generative KI bereits allgegenwärtig ist und wahrscheinlich nie universell reguliert werden wird.
Dennoch sollten Social-Media-Plattformen ihre Bemühungen verstärken, bestehende unechte Konten, die Desinformationen verbreiten, einzudämmen, und es für böswillige Akteure – ausländische oder inländische – erschweren, neue zu eröffnen. Die US-Regierung sollte unterdessen prüfen, ob die kürzlich gegen China und Russland verhängten Exportkontrollen für fortschrittliche Hardware während der anstehenden Überarbeitungen verbessert werden können, um besser Hardware zu erfassen, die zum Trainieren der großen Sprachmodelle im Kern der KI erforderlich ist. Sobald sie entwickelt sind, werden die Modelle viel schwerer zu regulieren.
Es ist von entscheidender Bedeutung, dass die US-Regierung und Social-Media-Plattformen diese Bedrohung erkennen und