KI-Führer diskutieren, wie verantwortungsvolle Innovation auf dem TIME100-Roundtable in Davos gefördert werden kann

(SeaPRwire) –   Führende aus dem Technologiebereich, der Wissenschaft und darüber hinaus versammelten sich am 21. Januar in Davos, Schweiz, zu einer von TIME einberufenen Runde, um zu erkunden, wie verantwortungsvolle KI umgesetzt und Sicherheitsvorkehrungen gewährleistet werden können, während die Innovation gefördert wird.

In einem weitreichenden Gespräch diskutierten die Teilnehmer der Runde, die von TIME-CEO Jess Sibley geleitet wurde, Themen wie die Auswirkungen von KI auf die Entwicklung und Sicherheit von Kindern, wie die Technologie reguliert werden kann und wie Modelle besser trainiert werden können, um sicherzustellen, dass sie Menschen nicht schaden.

Bei der Diskussion über die Sicherheit von Kindern sagte Jonathan Haidt, Professor für ethische Führung an der NYU Stern und Autor von The Anxious Generation, dass sich Eltern nicht darauf konzentrieren sollten, die Exposition ihres Kindes vollständig zu beschränken, sondern auf die Gewohnheiten, die sie bilden. Er schlug vor, dass Kinder bis mindestens zur High School keine Smartphones benötigen und dass sie nicht mit der Technologie in Kontakt kommen müssen, um im Alter von 15 Jahren zu lernen, wie man sie nutzt. “Lassen Sie ihr Gehirn sich entwickeln, lassen Sie sie exekutive Funktionen erlangen, dann können Sie sie damit konfrontieren.”

Yoshua Bengio, Professor an der Université de Montreal und Gründer von LawZero, sagte, dass ein wissenschaftliches Verständnis der durch KI verursachten Probleme notwendig ist, um sie zu lösen. Er skizzierte zwei Gegenmaßnahmen: Erstens, KI so zu entwerfen, dass sie eingebaute Schutzmechanismen hat, um die Entwicklung von Kindern nicht zu schädigen. Dies könnte durch Nachfrage bewirkt werden, so Bengio, der als einer der “godfathers of AI” bekannt ist. Zweitens, sagte er, sollten Regierungen eine Rolle spielen; sie könnten möglicherweise Mechanismen umsetzen, wie die Nutzung von Haftpflichtversicherern, um KI-Entwickler indirekt zu regulieren, indem sie Versicherungen für Entwickler und Anwender von KI verpflichtend machen.

Während das Wettrennen der USA mit China im Bereich KI oft als Grund dafür angeführt wird, die Regulierung und Schutzmaßnahmen für amerikanische KI-Unternehmen zu begrenzen, argumentierte Bengio: “Tatsächlich wollen auch die Chinesen nicht, dass ihre Kinder in Schwierigkeiten geraten. Sie wollen keine globale Monster-KI erschaffen, sie wollen nicht, dass Menschen ihre KI nutzen, um mehr Biowaffen oder Cyberangriffe auf ihrem Boden zu erstellen. Daher haben sowohl die USA als auch China ein Interesse daran, diese Dinge zu koordinieren, sobald sie über den Wettbewerb hinausblicken können.” Bengio sagte, dass eine solche internationale Zusammenarbeit bereits zuvor stattgefunden hat, etwa als die USA und die UdSSR während des Kalten Krieges bei Atomwaffen koordinierten.

Die Teilnehmer der Runde diskutierten auch die Ähnlichkeiten zwischen KI und Social-Media-Unternehmen und stellten fest, dass KI zunehmend im Wettbewerb um die Aufmerksamkeit der Nutzer steht. “Der gesamte Fortschritt in der Geschichte bestand darin, sich an die besseren Engel unserer Natur zu wenden”, sagte Bill Ready, CEO von Pinterest, das die Veranstaltung sponsorte. “Jetzt haben wir eines der größten Geschäftsmodelle der Welt, das im Kern Engagement hat, Menschen gegeneinander ausspielt und Spaltung säht.”

Ready fügte hinzu: “Wir machen uns tatsächlich die dunkelsten Aspekte der menschlichen Psyche zunutze, und das muss nicht so sein. Daher versuchen wir zu beweisen, dass es möglich ist, etwas anderes zu tun.” Er sagte, dass Pinterest unter seiner Führung aufgehört hat, die Optimierung zur Maximierung der Betrachtungszeit zu betreiben und begonnen hat, die Optimierung zur Maximierung von Ergebnissen zu betreiben, einschließlich solcher außerhalb der Plattform. “Kurzfristig war das negativ, aber wenn man langfristig betrachtet, würden die Menschen häufiger zurückkommen”, sagte er.

Bengio betonte die Bedeutung, einen Weg zu finden, KI so zu entwerfen, dass sie “Sicherheitsgarantien bietet, wenn die Systeme größer werden und wir mehr Daten haben”. Die Festlegung ausreichender Bedingungen für das Training von KI-Systemen, um sicherzustellen, dass sie ehrlich operieren, könnte ebenfalls eine Lösung sein, so Bengio.

Yejin Choi, Professorin für Informatik und Senior Fellow am Institute for Human-Centered Artificial Intelligence (HAI) der Stanford University, fügte hinzu, dass KI-Modelle heutzutage so trainiert werden, dass sie “sich schlecht benehmen, und von Design her wird sie nicht ausgerichtet sein”. Sie fragte: “Was, wenn es eine alternative Form von Intelligenz geben könnte, die wirklich … Moral, menschliche Werte von Anfang an lernt, anstatt LLMs [large language models] nur auf der Gesamtheit des Internets zu trainieren, das tatsächlich den schlimmsten Teil der Menschheit beinhaltet, und dann versuchen wir, die Dinge durch ‘Alignment’ zu reparieren?”

In Reaktion auf die Frage, ob KI uns zu besseren Menschen machen kann, wies Kay Firth-Butterfield, CEO von Good Tech Advisory, auf Möglichkeiten hin, wie wir KI zu einem besseren Werkzeug für Menschen machen können, einschließlich durch Gespräche mit den Menschen, die sie tatsächlich nutzen, seien es Arbeiter oder Eltern. “Was wir tun müssen, ist wirklich darüber nachzudenken: Wie schaffen wir eine KI-Bildungskampagne für alle und müssen nicht auf Organisationen zurückgreifen?” sagte sie. “Wir brauchen dieses Gespräch, und dann können wir sicherstellen, dass KI zertifiziert wird.”

Zu den anderen Teilnehmern des TIME100 Roundtable gehörten Matt Madrigal, CTO bei Pinterest; Matthew Prince, CEO von Cloudflare; Jeff Schumacher, Neurosymbolic AI Leader bei EY-Parthenon; Navrina Singh, CEO von Credo AI, und Alexa Vignone, Präsidentin für Technologie, Medien, Telekommunikation und Consumer & Business Services bei Salesforce, wo TIME-Mitvorsitzender und Eigentümer Marc Benioff CEO ist.

TIME100 Roundtable: Ensuring AI For Good — Responsible Innovation at Scale wurde von Pinterest präsentiert.