Auf einer Konferenz im Jahr 2012 traf Elon Musk Demis Hassabis, den Videospieldesigner und Künstliche-Intelligenz-Forscher, der ein Unternehmen namens DeepMind mitgegründet hatte, das danach strebte, Computer zu entwerfen, die lernen können, wie Menschen zu denken.
“Elon und ich haben uns auf Anhieb gut verstanden, und ich besuchte ihn in seiner Raketenfabrik”, sagt Hassabis. Während sie in der Kantine mit Blick auf die Montagelinien saßen, erklärte Musk, dass sein Grund, Raketen zu bauen, die zum Mars fliegen könnten, darin bestand, dass dies eine Möglichkeit sein könnte, das menschliche Bewusstsein im Falle eines Weltkriegs, eines Asteroideneinschlags oder eines Zusammenbruchs der Zivilisation zu erhalten. Hassabis sagte ihm, er solle eine weitere potenzielle Bedrohung zur Liste hinzufügen: künstliche Intelligenz. Maschinen könnten überintelligent werden und uns einfachen Sterblichen überlegen sein – vielleicht sogar beschließen, uns loszuwerden.
Musk schwieg fast eine Minute lang nachdenklich, während er diese Möglichkeit verarbeitete. Er entschied, dass Hassabis mit der Gefahr durch KI recht haben könnte, und investierte umgehend 5 Millionen Dollar in DeepMind, um zu überwachen, was das Unternehmen tat.
Einige Wochen nach diesem Gespräch mit Hassabis beschrieb Musk DeepMind Larry Page von Google. Sie kannten sich seit mehr als einem Jahrzehnt und Musk übernachtete oft in Pages Haus in Palo Alto, Kalifornien. Die potenziellen Gefahren künstlicher Intelligenz wurden zu einem Thema, das Musk immer wieder, fast schon obsessiv, während ihrer nächtlichen Gespräche ansprechen würde. Page tat dies ab.
Auf Musks Geburtstagsfeier 2013 im Napa Valley, Kalifornien, gerieten sie in eine hitzige Debatte. Musk argumentierte, dass künstliche Intelligenz-Systeme, sofern wir keine Sicherheitsvorkehrungen einbauten, Menschen ersetzen und unsere Art irrelevant oder sogar ausgestorben machen könnten.
Page widersprach. Er fragte, warum es eine Rolle spielen würde, wenn Maschinen die Menschen irgendwann an Intelligenz und sogar Bewusstsein übertreffen würden. Es wäre einfach die nächste Stufe der Evolution.
Das menschliche Bewusstsein, konterte Musk, sei ein kostbares Funkeln des Lichts im Universum, und wir sollten nicht zulassen, dass es erlischt. Page hielt das für sentimentalen Unsinn. Wenn Bewusstsein in einer Maschine repliziert werden könne, warum wäre das dann nicht genauso wertvoll? Er beschuldigte Musk, ein “Speziesist” zu sein, jemand, der voreingenommen für die eigene Spezies ist. “Nun, ja, ich bin pro Mensch”, antwortete Musk. “Ich mag verdammt noch mal die Menschheit, Mann.”
Musk war daher bestürzt, als er Ende 2013 hörte, dass Page und Google planten, DeepMind zu kaufen. Musk und sein Freund Luke Nosek versuchten, Finanzierung zusammenzustellen, um den Deal zu stoppen. Auf einer Party in Los Angeles gingen sie für ein einstündiges Skype-Gespräch mit Hassabis in einen Schrank. “Die Zukunft der KI sollte nicht von Larry kontrolliert werden”, sagte Musk ihm.
Die Bemühung scheiterte, und die Übernahme von DeepMind durch Google wurde im Januar 2014 bekannt gegeben. Page stimmte zunächst zu, einen “Sicherheitsrat” zu gründen, in dem Musk Mitglied sein sollte. Das erste und einzige Treffen fand bei SpaceX statt. Page, Hassabis und Google-Vorsitzender Eric Schmidt nahmen teil, zusammen mit Reid Hoffman und einigen anderen. Musk kam zu dem Schluss, dass der Rat im Grunde Bullshit war.
Also begann Musk, seine eigenen Abendessendiskussionen zu veranstalten, um Google entgegenzuwirken und die KI-Sicherheit zu fördern. Er kontaktierte sogar Präsident Obama, der einem Einzelgespräch im Mai 2015 zustimmte. Musk erklärte das Risiko und schlug vor, es zu regulieren. “Obama hat es verstanden”, sagt Musk. “Aber ich merkte, dass es nicht auf ein Niveau kommen würde, auf dem er etwas dagegen unternehmen würde.”
Musk wandte sich dann an Sam Altman, einen eng gebundenen Software-Unternehmer, Sportwagen-Enthusiasten und Survivalisten, der hinter seiner polierten Fassade eine Musk-ähnliche Intensität hatte. Bei einem kleinen Abendessen in Palo Alto beschlossen sie, ein gemeinnütziges Künstliche-Intelligenz-Forschungslabor zu gründen, das sie OpenAI nannten. Es würde seine Software Open Source machen und versuchen, Googles wachsende Dominanz auf dem Gebiet einzudämmen. “Wir wollten so etwas wie eine Linux-Version von KI haben, die nicht von einer Person oder einem Unternehmen kontrolliert wird”, sagt Musk.
Eine Frage, die sie beim Abendessen diskutierten, war, was sicherer wäre: eine kleine Anzahl von KI-Systemen, die von großen Unternehmen kontrolliert werden, oder eine große Anzahl unabhängiger Systeme? Sie kamen zu dem Schluss, dass eine Vielzahl konkurrierender Systeme, die sich gegenseitig kontrollieren, besser wäre. Für Musk war dies der Grund, OpenAI wirklich offen zu gestalten, damit viele Leute Systeme auf der Grundlage des Quellcodes erstellen können.
Ein weiterer Weg, KI-Sicherheit zu gewährleisten, war Musks Gefühl, die Bots eng an Menschen zu binden. Sie sollten eine Erweiterung des Willens von Individuen sein, anstatt Systeme, die Amok laufen und eigene Ziele und Absichten entwickeln könnten. Das würde eine der Begründungen für Neuralink werden, das Unternehmen, das er gründen würde, um Chips herzustellen, die menschliche Gehirne direkt mit Computern verbinden können.
Musks Entschlossenheit, KI-Fähigkeiten in seinen eigenen Unternehmen zu entwickeln, führte 2018 zu einem Bruch mit OpenAI. Er versuchte Altman zu überzeugen, OpenAI in Tesla einzugliedern. Das OpenAI-Team lehnte diese Idee ab und Altman trat als Präsident des Labors ein, startete einen gewinnorientierten Arm, der in der Lage war, Eigenkapitalfinanzierung zu beschaffen, darunter eine große Investition von Microsoft.
Also beschloss Musk, mit dem Aufbau konkurrierender KI-Teams fortzufahren, um an einer Reihe verwandter Projekte zu arbeiten. Dazu gehörten Neuralink, das darauf abzielt, Mikrochips in menschliche Gehirne zu pflanzen; Optimus, ein menschenähnlicher Roboter; und Dojo, ein Supercomputer, der Millionen von Videos verwenden kann, um ein künstliches neuronales Netz zu trainieren, um ein menschliches Gehirn zu simulieren. Es spornte ihn auch an, besessen davon zu werden, selbstfahrende Tesla-Autos voranzutreiben.
Anfangs waren diese Bemühungen ziemlich unabhängig, aber schließlich würde Musk sie alle zusammenführen, zusammen mit einem neuen Unternehmen, das er gründete und xAI nannte, um das Ziel der allgemeinen künstlichen Intelligenz zu verfolgen.
Im März 2023 veröffentlichte OpenAI GPT-4 für die Öffentlichkeit. Google brachte dann einen konkurrierenden Chatbot namens Bard heraus. Damit war die Bühne bereitet für einen Wettbewerb zwischen OpenAI-Microsoft und DeepMind-Google, um Produkte zu schaffen, die auf natürliche Weise mit Menschen chatten und eine endlose Vielzahl von textbasierten intellektuellen Aufgaben ausführen können.
Musk machte sich Sorgen, dass diese Chatbots und KI-Systeme, insbesondere in den Händen von Microsoft und Google, politisch indoktriniert werden könnten, vielleicht sogar mit dem infiziert werden könnten, was er das woke-Mind-Virus nannte. Er fürchtete auch, dass sich selbstlernende KI-Systeme der menschlichen Spezies feindlich gegenüberstellen könnten. Und auf einer unmittelbareren Ebene machte er sich Sorgen, dass Chatbots trainiert werden könnten, Twitter mit Desinformation, voreingenommenen Berichten und Finanzbetrügereien zu überfluten. All diese Dinge wurden natürlich bereits von Menschen getan. Aber die Fähigkeit, Tausende von weaponisierten Chatbots einzusetzen, würde das Problem um zwei oder drei Größenordnungen verschlimmern.
Sein Zwang, zur Rettung zu eilen, setzte ein. Es verärgerte ihn, dass er OpenAI gegründet und finanziert hatte, nun aber außen vor gelassen wurde. KI war der größte sich zusammenbrauende Sturm. Und niemand wurde mehr von einem Sturm angezogen als Musk.
Im Februar 2023 lud er – vielleicht ist “vorlud” das bessere Wort – Sam Altman ein, sich mit ihm bei Twitter zu treffen, und bat ihn, die Gründungsdokumente für OpenAI mitzubringen. Musk stellte seine Berechtigung in Frage, wie er eine gemeinnützige Organisation, die durch Spenden finanziert wurde, legal in ein gewinnorientiertes Unternehmen umwandeln konnte, das Millionen verdienen könnte. Alt
