Großbritannien geht gegen KI-“Nudify”-Technologie vor und kündigt Untersuchung gegen X an

(SeaPRwire) –   Das Vereinigte Königreich plant, ein Gesetz in Kraft zu setzen, das die Erstellung nicht einvernehmlicher sexualisierter Bilder unter Strafe stellt, auch wenn sie durch , den Chatbot innerhalb von Elon Musks X-Anwendung, erstellt werden. Dies folgt auf den Deepfake-Skandal der App in den letzten Wochen.

„Das bedeutet, dass Personen eine Straftat begehen, wenn sie solche Inhalte erstellen – oder versuchen, sie zu erstellen – auch auf X – und jeder, der dies tut, sollte damit rechnen, mit der vollen Härte des Gesetzes konfrontiert zu werden“, kündigte Technologieministerin Liz Kendal am Montag im Unterhaus an und fügte hinzu, dass die Regierung auch daran arbeiten werde, für Unternehmen, die die Werkzeuge zur Erstellung dieser nicht einvernehmlichen Bilder bereitstellen.

Der Schritt kam nur wenige Stunden, nachdem das Office of Communications (Ofcom) – der unabhängige Regulierer des Landes für die Kommunikationsbranche – angekündigt hatte, dass es X und die Tausenden von pornografischen Bildern, die von erzeugt wurden, untersuchen wird, einschließlich sexualisierter Bilder von dem Anschein nach Minderjährigen. Die Untersuchung soll feststellen, ob diese Deepfakes das Online Safety Act (OSA) des Landes verletzen.

Kendal sagte in einer Erklärung am Freitag, dass Ofcom, falls es seine Befugnis nutzen möchte, um den Zugang zu X im Vereinigten Königreich zu unterbinden, „unsere volle Unterstützung haben wird“.

Am Freitag errichtete X schließlich Schranken für diese über die App erstellten Bilder, indem es die Bildgenerierung und -bearbeitung auf bezahlte Abonnenten von X beschränkte, aber Kendal sagte, dass dies „bei Weitem nicht weit genug geht“.

„Es ist eine Beleidigung für die Opfer zu sagen, man kann diesen Dienst immer noch haben, wenn man bereit ist zu bezahlen“, sagte Kendal den Abgeordneten. „Und es monetarisiert Missbrauch.“

Hier ist alles, was wir über die geplante Unterbindung KI-generierter sexualisierter Bilder durch das Vereinigte Königreich wissen.

Musks Reaktion

Musk führte letzten Sommer den „Spicy Mode“ von Grok ein, der Erwachseneninhalte generiert, und die App , dass sie „gegen illegale Inhalte auf X, einschließlich Material zum sexuellen Missbrauch von Kindern (CSAM), vorgeht, indem sie diese entfernt, Konten dauerhaft sperrt und bei Bedarf mit lokalen Regierungen und Strafverfolgungsbehörden zusammenarbeitet“.

Dennoch haben X-Nutzer seit Ende Dezember die Bildgenerierung von Grok genutzt, um Fotos, die Menschen von sich selbst posten, zu verändern, einschließlich nicht einvernehmlichen Entkleidens.

Musk hat auf die Kontroverse um KI-generierte Bilder nicht mit Bedauern reagiert, sondern argumentiert, dass seine Kritiker „nach jeder Ausrede für Zensur suchen“.

„Warum ist die britische Regierung so faschistisch?“ postete Musk am 10. Januar in einem Beitrag. In einem anderen postete er ein KI-generiertes Foto von Premierminister Keir Starmer in einem Bikini.

X reagierte nicht auf eine Anfrage von TIME um Stellungnahme.

Regierungsreaktionen

Das Vereinigte Königreich ist die neueste Regierung, die auf Bundesebene auf die Deepfake-Krise von X reagiert, aber nicht die einzige.  

Am Wochenende blockierten Malaysia und Indonesien den Zugang zu Grok in ihren Ländern und waren damit die ersten der Welt, die dies taten. Die südostasiatischen Länder sagten, die bestehenden Kontrollen in der App reichten nicht aus, um die Verbreitung nicht einvernehmlicher sexueller Deepfakes von Frauen und Kindern zu verhindern.

Meutya Hafid, Indonesiens Ministerin für Kommunikation und Digitales, sagte in einer Erklärung, dass diese sexuellen Deepfakes eine „schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum“ seien.

Andere Führungspersönlichkeiten in Ländern wie Frankreich und Indien haben die Nutzung von Grok zur Erzeugung solcher Bilder verurteilt und wurden von Regulierungsbehörden und Gesetzgebern aufgefordert, X wegen dieses Problems zu untersuchen. Euronews berichtete Anfang Januar, dass die Europäische Kommission die Angelegenheit „sehr ernst“ prüfe.

„Das ist nicht ‚spicy‘. Das ist illegal“, sagte ein Kommissionssprecher dem Sender. „Das ist entsetzlich. Das ist widerlich. Das hat in Europa keinen Platz.“

Kollision mit der Meinungsfreiheit

Das neue Gesetz hat das Potenzial, einen Streit zwischen den USA und dem Vereinigten Königreich über die Meinungsfreiheit auszulösen.

Vizepräsident J.D. Vance hat im vergangenen Jahr europäische Länder häufig für ihren angeblichen „Rückzug“ von der Meinungsfreiheit kritisiert.

Während seines letzten USA-Besuchs im Februar stieß er mit Starmer über die britischen Online-Sprachgesetze zusammen, wobei Vance behauptete, dass Großbritannien amerikanische Unternehmen und Bürger unterdrücke.

„Wir wissen auch, dass es Eingriffe in die Meinungsfreiheit gegeben hat, die tatsächlich nicht nur die Briten betreffen – was die Briten in ihrem eigenen Land tun, ist natürlich ihre Sache – sondern auch amerikanische Technologieunternehmen und damit amerikanische Bürger“, sagte Vance damals.

Starmer seinerseits entgegnete, er sei „stolz“ auf die Geschichte der Meinungsfreiheit im Vereinigten Königreich: „Wir haben im Vereinigten Königreich schon sehr, sehr lange Meinungsfreiheit, und das wird noch sehr, sehr lange so bleiben“, sagte er zu Vance.

Die Grok-Unterbindung des Vereinigten Königreichs erfolgt vor dem Hintergrund, dass die USA kontinuierlich mit dem Vereinigten Königreich und der EU über KI- und Technologieregulierung sowie soziale Medien aneinandergeraten.

Währenddessen hat die Trump-Administration die Technologie umarmt, während Grok im Ausland in Skandale verwickelt ist, und kürzlich am Montag ein enthüllt. Präsident Donald Trump scheint auch seine Beziehung zu Musk zu , nach einem erbitterten öffentlichen Streit im letzten Juni, und sagte letzte Woche, der Tech-Mogul sei „großartig“ und appellierte diese Woche an ihn, durch sein Satellitenunternehmen Starlink dabei zu helfen, das Internet in verfügbar zu machen.

„Ich sage über Elon, er ist zu 80 % Supergenie, und zu 20 % macht er Fehler“, sagte Trump am 4. Januar. „Aber er ist ein guter Kerl. Er ist ein gutgesinnter Mensch.“