„Die Zeit wird knapp“: Neuer offener Brief fordert Verbot der Entwicklung superintelligenter KI

(SeaPRwire) –   Ein offener Brief, der ein Verbot der Entwicklung superintelligenter KI fordert, wurde am Mittwoch veröffentlicht, mit den Unterschriften von mehr als 700 Prominenten, KI-Wissenschaftlern, Religionsführern und Politikern.

Zu den Unterzeichnern gehören fünf Nobelpreisträger; zwei sogenannte „Godfathers of AI“; Steve Wozniak, ein Mitbegründer von Apple; Steve Bannon, ein enger Verbündeter von Präsident Trump; Paolo Benanti, ein Berater des Papstes; und sogar Harry und Meghan, der Herzog und die Herzogin von Sussex.

Der offene Brief lautet vollständig:

„Wir fordern ein Verbot der Entwicklung von Superintelligenz, das erst aufgehoben wird, wenn

1. ein breiter wissenschaftlicher Konsens besteht, dass dies sicher und kontrollierbar geschehen wird, und
2. eine starke öffentliche Akzeptanz vorhanden ist.“

Der Brief wurde vom Future of Life Institute koordiniert und veröffentlicht, einer gemeinnützigen Organisation, die 2023 einen anderen offenen Brief veröffentlichte, der eine sechsmonatige Pause bei der Entwicklung leistungsfähiger KI-Systeme forderte. Obwohl weit verbreitet, erreichte dieser Brief sein Ziel nicht.

Die Organisatoren sagten, sie hätten sich entschieden, eine neue Kampagne mit einem spezifischeren Fokus auf Superintelligenz zu starten, weil sie glauben, dass die Technologie – die sie als ein System definieren, das die menschliche Leistung bei allen nützlichen Aufgaben übertreffen kann – in nur ein bis zwei Jahren eintreffen könnte. „Die Zeit läuft uns davon“, sagt Anthony Aguirre, der Geschäftsführer des FLI, in einem Interview mit TIME. Das Einzige, was KI-Unternehmen wahrscheinlich davon abhalten wird, auf Superintelligenz zuzusteuern, sei, so Aguirre, „dass sich in der Gesellschaft auf allen Ebenen die Erkenntnis durchsetzt, dass wir das eigentlich nicht wollen.“

Eine zusammen mit dem Brief veröffentlichte Umfrage zeigte, dass 64 % der Amerikaner der Meinung sind, dass Superintelligenz „nicht entwickelt werden sollte, bevor sie nachweislich sicher und kontrollierbar ist“, und nur 5 % glauben, dass sie so schnell wie möglich entwickelt werden sollte. „Es ist eine kleine Anzahl sehr reicher Unternehmen, die diese entwickeln, und eine sehr, sehr große Anzahl von Menschen, die lieber einen anderen Weg gehen würden“, sagt Aguirre.

Die Schauspieler Joseph Gordon-Levitt und Stephen Fry, der Rapper will.i.am und der Autor Yuval Noah Harari unterzeichneten den Brief ebenfalls. Susan Rice, die nationale Sicherheitsberaterin in Barack Obamas Administration, unterschrieb. Ebenso ein aktives Mitglied des Personals bei OpenAI – einer Organisation, die von ihrem CEO, Sam Altman, als „Superintelligenz-Forschungsunternehmen“ beschrieben wird – Leo Gao, ein Mitglied des technischen Personals des Unternehmens. Aguirre erwartet, dass sich mit fortschreitender Kampagne weitere Personen anschließen werden. „Die Überzeugungen sind bereits vorhanden“, sagt er. „Was uns fehlt, ist, dass sich die Menschen frei fühlen, ihre Überzeugungen laut auszusprechen.“

„Die Zukunft der KI sollte der Menschheit dienen, nicht sie ersetzen“, sagte Prinz Harry, Herzog von Sussex, in einer Botschaft, die seine Unterschrift begleitete. „Ich glaube, der wahre Test des Fortschritts wird nicht sein, wie schnell wir uns bewegen, sondern wie weise wir steuern. Es gibt keine zweite Chance.“

Joseph Gordon-Levitts Unterschrift wurde von der Botschaft begleitet: „Ja, wir wollen spezifische KI-Tools, die Krankheiten heilen, die nationale Sicherheit stärken usw. können. Aber muss KI auch Menschen imitieren, unsere Kinder beeinflussen, uns alle zu „Slop-Junkies“ machen und Milliarden von Dollar mit der Schaltung von Anzeigen verdienen? Die meisten Leute wollen das nicht. Aber das meinen diese großen Tech-Unternehmen, wenn sie über den Bau von ‚Superintelligenz‘ sprechen.“

Die Erklärung wurde minimalistisch gehalten, um eine breite und vielfältige Gruppe von Unterzeichnern anzuziehen. Aber für eine bedeutsame Veränderung hält Aguirre eine Regulierung für notwendig. „Viele der Schäden entstehen durch die perversen Anreizstrukturen, denen Unternehmen derzeit unterliegen“, sagt er und merkt an, dass Unternehmen in Amerika und China darum konkurrieren, die ersten bei der Entwicklung von Superintelligenz zu sein.

„Ob es bald geschieht oder eine Weile dauert, nachdem wir Superintelligenz entwickelt haben, werden die Maschinen die Kontrolle übernehmen“, sagt Aguirre. „Ob das gut für die Menschheit ausgeht, wissen wir wirklich nicht. Aber das ist kein Experiment, auf das wir einfach zusteuern wollen.“