Warum KI-Browser wie Perplexity’s Comet das Web riskanter machen könnten

(SeaPRwire) –   Willkommen zurück bei In the Loop, dem neuen zweimal wöchentlich erscheinenden Newsletter von TIME über KI. Wenn Sie dies in Ihrem Browser lesen, warum abonnieren Sie ihn nicht, um die nächste Ausgabe direkt in Ihr Postfach geliefert zu bekommen?

Was Sie wissen sollten: Die Gefahren von KI-Browsern

Letzte Woche kündigte Perplexity an, dass sein KI-gestützter Browser namens Comet für alle Benutzer kostenlos gemacht würde, nachdem er zuvor ein kostenpflichtiges Abonnement erforderte. Comet ist eine neue Art von Browser, der einen integrierten KI-Chatbot enthält, der das Web in Ihrem Namen durchsuchen sowie autonome Aktionen wie Einkäufe tätigen, E-Mails senden oder Kalenderereignisse erstellen kann.

Es gibt nur ein Problem. Die interne KI von Comet konnte bis vor Kurzem durch bösartige Links gekapert werden, wodurch der Browser persönliche Informationen von verbundenen Diensten wie Gmail abzapfte und an Scheinangreifer sendete, so neue Erkenntnisse des Cybersicherheitsunternehmens LayerX. Es ist ein Zeichen dafür, dass KI-gestützte Browser zwar die Produktivität der Benutzer steigern können, aber auch neue Schwachstellen einführen können.

Der Angriff — LayerX entdeckte eine Schwachstelle namens „CometJacking“, bei der eine bösartige Aufforderung an die KI des Browsers in einer URL versteckt ist. Wenn der Benutzer diesen Link anklickt, verwechselt der Browser die bösartige Aufforderung mit einer Anweisung des Benutzers – und beginnt, diese auszuführen. Im Beispiel von LayerX gelingt es dem Scheinangreifer, Comet dazu zu bringen, Daten aus den E-Mail- und Kalenderkonten des Benutzers zu extrahieren. Obwohl Comet Schutzmaßnahmen gegen Datendiebstahl bietet, konnte der Angreifer diese umgehen, indem er die KI anwies, die gestohlenen Informationen in base64 zu kodieren (im Wesentlichen zu verschlüsseln, damit sie wie harmloser Text aussehen), bevor sie an einen von ihm kontrollierten Remote-Server gesendet wurden.

Ein Zeichen der Zeit—Heute ist Google Chrome bei weitem der beliebteste Browser. Aber einige glauben, dass ein neuer „Browser-Krieg“ bald bevorstehen könnte, angeheizt durch neue Akteure wie Perplexity’s Comet. (OpenAI soll Berichten zufolge ebenfalls an einem eigenen KI-gestützten Browser arbeiten, hat ihn aber noch nicht veröffentlicht.) Aber während Browser-Entwickler eifrig KI-Funktionen hinzufügen, könnten sie auch neue Arten von Schwachstellen schaffen, sagt Or Eshed, CEO von LayerX. Wir könnten kurz davor stehen, „in eine Welt einzutreten, in der das Browsing riskanter wird“, sagt Eshed. „Wir werden alte Angriffsarten, die fast ausgestorben sind, wieder aufleben sehen oder sogar neue Angriffsarten wie die, die wir gerade entdeckt haben.“

Die Antwort von Perplexity — Als LayerX Perplexity letzten Monat über die Schwachstelle informierte, „antwortete das Unternehmen, dass es keine Sicherheitsauswirkungen feststellen konnte“, schrieb LayerX in einem Blogbeitrag. In einer Erklärung gegenüber TIME sagte ein Perplexity-Sprecher jedoch, dass der Fehlerbericht von LayerX schlecht formuliert gewesen sei, dass er auf Anfragen zur Klärung nicht geantwortet habe und dass Perplexity „das Problem später eigenständig identifiziert und behoben habe.“ Der Sprecher sagte, die Schwachstelle sei nie ausgenutzt worden, und fuhr fort: „Wir sind der Sicherheitsgemeinschaft dankbar, die an unserem florierenden Bug-Bounty-Programm teilnimmt, und wir arbeiten daran, sicherzustellen, dass solche Fehlkommunikationen in Zukunft nicht vorkommen.“

Wenn Sie eine Minute Zeit haben, nehmen Sie bitte an unserer kurzen Umfrage teil, um uns besser zu verstehen, wer Sie sind und welche KI-Themen Sie am meisten interessieren.

Wer Sie kennen sollten: Lisa Su, AMD CEO

Am Montag gab der Chiphersteller Advanced Micro Devices (AMD) bekannt, dass er einen milliardenschweren Deal mit OpenAI abgeschlossen hat, der vorsieht, dass der ChatGPT-Hersteller über mehrere Jahre 6 Gigawatt seiner neuesten KI-Chips erwirbt – oder das Äquivalent an Stromverbrauch von etwa 4 Millionen US-Haushalten. Es ist nur der jüngste Megadeal für OpenAI, das im letzten Monat eine 100-Milliarden-Dollar-Vereinbarung mit Nvidia getroffen hat, um die Rechenleistung zu erhalten, die zum Trainieren und Betreiben seiner gierigen KI-Modelle erforderlich ist – einschließlich der Veröffentlichung von Sora letzte Woche.

Als ich Lisa Su letztes Jahr interviewte, war sie dabei, ihr Unternehmen auf die Entwicklung einer neuen Art von KI-Beschleunigerchip umzustellen. Ihre Bemühungen scheinen sich ausgezahlt zu haben. AMD liegt in der breiteren Halbleiterindustrie immer noch weit abgeschlagen auf dem zweiten Platz hinter Nvidia, aber der OpenAI-Deal ist ein Vertrauensbeweis, dass AMD-Chips für Top-KI-Workloads geeignet sind. Es ist auch ein weiteres Zeichen dafür, dass OpenAI versucht, seine Abhängigkeit von Nvidia zu verringern, auch wenn es Jensen Huangs Unternehmen näherbringt.

OpenAI und AMD gaben den Dollarwert des Deals nicht bekannt, sagten aber, dass er OpenAI das Recht einräumt, bis zu 10 % des Unternehmens zu erwerben. Die AMD-Aktien sprangen nach dieser Nachricht um etwa 25 %.

KI in Aktion

Etwa eine Woche nach der Einführung seiner Video-Generierungs-App Sora ermöglicht OpenAI den Benutzern mehr Optionen, um einzuschränken, wie ihr Abbild in Videos erscheint. Zuvor hatten Benutzer die Möglichkeit, ihr Abbild (in der OpenAI-Sprache „Cameo“ genannt) in Sora-Videos entweder zuzulassen oder zu verbieten. Jetzt können Benutzer Anweisungen geben wie „setzt mich nicht in Videos, die politische Kommentare enthalten“ oder „lasst mich dieses Wort nicht sagen“, sagte OpenAI’s Leiter von Sora, Bill Peebles.

Was wir lesen

Breakneck, von Dan Wang

Diesmal kein Artikel, sondern ein sehr lesenswertes Buch, das über Chinas unaufhaltsamen Aufstieg kursiert. Dan Wangs Hauptargument ist, dass China ein Ingenieurstaat ist, der darauf abzielt, um jeden Preis zu bauen, während die USA eine Anwaltsgesellschaft sind, in der es einfacher ist, Dinge am Bau zu hindern, als sie zu bauen. Das Ergebnis, wie Wang detailliert darlegt, ist, dass China heute eine glänzende öffentliche Infrastruktur und eine robuste Fertigungswirtschaft hat, während die USA seit Jahrzehnten keine großen öffentlichen Bauten mehr errichtet haben und ihr Fertigungs-Know-how vergessen. Breakneck wirft eine ernüchternde Frage über KI auf, da die US-Wirtschaft verstärkt auf die Technologie setzt: Welchen Nutzen hat reichlich digitale Intelligenz, wenn sie in eine Wirtschaft gelangt, die vergessen hat, wie man sie anwendet?