OpenAI Atlas: Der Traum vom KI-Browser wird zum Albtraum?

Die bahnbrechende ankündigung: openai präsentiert atlas

Die Tech-Welt steht Kopf! OpenAI hat diesen Monat einen neuen Browser mit integrierter KI vorgestellt: Atlas. Dieses Versprechen: ChatGPT soll nicht nur Informationen suchen, sondern Aufgaben übernehmen – Flüge buchen, Reisen organisieren, Formulare ausfüllen, Tickets kaufen. Alles per Sprache oder Text. Klingt fantastisch, birgt aber auch erhebliche Risiken, die Experten warnen. Die Euphorie könnte schnell einer Ernüchterung weichen, wenn man die potenziellen Gefahren ignoriert.

Ein paradies für hacker? experten warnen vor sicherheitslücken

Die größten Bedenken beziehen sich auf die Sicherheit. Mehrere Cybersecurity-Experten warnen, dass Atlas ein leichtes Ziel für Hacker darstellen könnte. Ein einziger Fehler, eine bösartige Webseite, und der Browser könnte manipuliert werden, um persönliche Daten zu stehlen oder Befehle ohne Erlaubnis auszuführen. “Prompt Injection” ist hier der Schlüsselbegriff, eine Angriffsmethode, die die KI täuscht, um falsche Anweisungen als legitim zu akzeptieren.

Die gefahr der verschwimmenden grenzen: daten und anweisungen vermischen sich

Professor George Chalhoub vom University College London erklärt gegenüber Fortune: “Es wird immer Restrisiken im Zusammenhang mit schnellen Injektionen geben, da es sich um die Natur von Systemen handelt, die natürliche Sprache interpretieren und Aktionen ausführen.” Das Hauptproblem ist, dass die Grenze zwischen Daten und Anweisungen verschwimmt. Atlas könnte zu einem Vektor für Angriffe werden, der Zugriff auf E-Mails, berufliche Daten, Facebook-Nachrichten oder sogar Passwörter erhält – ohne Filter.

Atlas' gedächtnis: eine zweischneidige waffe

Anders als traditionelle Browser wie Chrome oder Edge verfügt Atlas über ein “Browser-Gedächtnis”. ChatGPT speichert hier Details über Ihre Navigation, Interessen und Bedürfnisse, um die Antworten zu personalisieren. Kombiniert mit dem “Agentenmodus”, der direkt Aktionen im Browser ausführt (z.B. Nachrichten beantworten, Klicks simulieren), entsteht ein mächtiges Werkzeug – das aber auch anfällig ist. Die Frage ist: Wie sicher ist dieses “Assistenten-Innenleben” wirklich?

Prompt injection: versteckte angriffe in code

Besonders perfide ist, dass diese Prompt Injection-Angriffe in jeder Form auftreten können – in einem Absatz, einem Bild oder sogar einer leeren Zeile im Code. Nutzer haben bereits Beispiele gefunden, wie ein versteckter Button auf einer Seite ausreicht, um Atlas zu täuschen und bösartige Links in die Zwischenablage zu kopieren. Ein einziger Klick und der Nutzer landet auf einer gefälschten Webseite, die Bankdaten stiehlt. Brave, bekannt für seine Privatsphäre-Fokus, hat diese Schwachstellen bereits in anderen KI-Browsern wie Comet und Fellou identifiziert.

Openai räumt ein: “es ist nicht perfekt” – aber was wird dagegen unternommen?

OpenAI reagiert auf die Kritik und versichert, an der Risikominderung zu arbeiten. Es gäbe interne Tests mit simulierten Angriffen, das Modell wird darauf trainiert, verdächtige Anweisungen zu ignorieren, und es gibt “aktive Schutzschichten”. Dennoch räumt Dane Stuckey, Sicherheitschef von OpenAI, ein, dass es keine 100% sichere Lösung gibt. “Prompt Injection” bleibt ein offenes Sicherheitsproblem. Um Nutzer zu beruhigen, bietet Atlas einen “Session-freien Modus” (ohne persönliche Daten) und einen “Überwachungsmodus”, der die Aktionen des Agenten transparent macht.