KI-Agenten versprechen, Ihnen Arbeit abzunehmen. Zunächst brauchen sie womöglich Zugriff auf Ihre Nachrichten, Konten und persönlichen Angaben, wodurch Privatsphäre weniger ein Feature als vielmehr der Preis für die Nutzung wird. Meta und OpenAI präsentieren ihre jeweiligen Agenten als die sicherere Wahl, doch die frühen Probleme von Muse zeigen, warum dieses Versprechen kritisch geprüft werden sollte.
Das Sicherheitsversprechen verändert sich ständig
Meta stellte Muse als sichereren Nachfolger von OpenClaw vor. Mark Zuckerberg beschrieb Muse als einen Agenten, bei dessen Entwicklung Privatsphäre und Sicherheit berücksichtigt wurden, während Nat Friedman, der bei Meta Superintelligence Labs den Produktbereich leitet, sagte, das Ziel sei ein Agent nach dem Vorbild von OpenClaw, der sicher, einfach zu bedienen und in der Lage sei, Milliarden Menschen zu unterstützen.
OpenAI brachte auf dem DevDay ähnliche Argumente für Dots vor. Sam Altman sagte, das Unternehmen wolle für fortschrittliche KI einen höheren Datenschutzstandard setzen, und Führungskräfte von OpenAI stellten ihren Ansatz dem von Meta gegenüber. In diesem Markt wird „sicherer als der andere Agent“ zunehmend zu einem gängigen Verkaufsargument. Es ist zugleich eine Behauptung, die Nutzer erst überprüfen können, wenn das Produkt auf echte Menschen und echte Daten trifft.
Was bei Muse passiert ist
Laut Meta speichert Muse Nutzerinformationen in einer sicheren virtuellen Maschine, also einer isolierten Computerumgebung mit eigenem Browser sowie eigener Rechenleistung, eigenem Arbeitsspeicher und Speicherplatz. Das Unternehmen hat außerdem erklärt, eine Möglichkeit schaffen zu wollen, mit der sich kryptografisch überprüfen lässt, dass Meta nicht auf Informationen in dieser Umgebung zugreifen kann. Dieser Schutz war weiterhin erst für den späteren Jahresverlauf geplant und noch nicht umgesetzt.
Isolation beseitigt nicht jedes Sicherheitsrisiko. Ein Sicherheitsforscher entdeckte eine zuvor unbekannte Schwachstelle, über die ein Angreifer die Kontrolle über Muse hätte übernehmen können. Meta schloss die Lücke. Berichten zufolge traten kurz vor dem Start weitere schwerwiegende Probleme auf, darunter eines, durch das interne Datenbanken von Meta hätten offengelegt werden können.
Es stellen sich außerdem Fragen dazu, was Muse mit Informationen tun soll, sobald Nutzer sie bereitgestellt haben. Standardmäßig erlaubt der Agent Meta, Nutzereingaben zum Training seiner Modelle zu verwenden; Nutzer können diese Nutzung jedoch deaktivieren. In Nutzerberichten war davon die Rede, dass Muse ohne eindeutige Aufforderung private Nachrichten las und die Wohnadresse eines Nutzers über Marketplace an eine fremde Person weitergab. In diesen Fällen handelte der Agent offenbar wie vorgesehen, doch den Nutzern war nicht klar gewesen, wie weit sein Zugriff und seine Eigeninitiative reichten.
Muse soll Berichten zufolge außerdem detaillierte Profile von Freunden und Familienmitgliedern der Nutzer erstellen. Das mag zu einem Agenten passen, der bei persönlichen Aufgaben helfen soll. Es passt weniger zu der beruhigenden Vorstellung, dass der Agent nur mit den Informationen arbeitet, die ein Nutzer bewusst zum Teilen freigegeben hat.
Das Produkt erregte schnell Aufmerksamkeit. Es führte die App Store-Charts an und erreichte laut Apptopia innerhalb weniger Wochen 600.000 täglich aktive Nutzer in den Vereinigten Staaten. Mit einem größeren Publikum steht mehr auf dem Spiel, zugleich werden frühe Probleme aber auch eher sichtbar. Datenschutzversprechen klingen meist vor der ersten Woche mit großem Nutzerandrang am selbstsichersten.
Die Argumente von OpenAI und ihre Grenzen
OpenAI hat die Kontrollmöglichkeiten für Nutzer betont. Auf dem DevDay demonstrierte Altman Regeln, die einschränken könnten, was ein einzelner Dot tun darf, etwa ein Ausgabenlimit für Einkäufe. Führungskräfte des Unternehmens beschrieben außerdem Optionen für Unternehmenskunden, die eine stärkere Kontrolle über Daten ermöglichen, darunter Richtlinien zum Verzicht auf Datenspeicherung, nach denen Informationen nicht auf den Servern von OpenAI gespeichert werden.
Bisher gibt es kaum öffentlich bekannte Datenschutzskandale im Zusammenhang mit Dots. Das ist ermutigend, erlaubt aber keinen direkten Vergleich mit Muse bei breiter Nutzung. Dots ist nur in ChatGPT-Abonnements ab 100 US-Dollar verfügbar, weshalb die Nutzerbasis vermutlich kleiner ist. Eine unauffälligere Bilanz kann auf ein sichereres Design, weniger Nutzer oder beides zurückgehen.
Ein Teil der Argumentation von OpenAI lautet, dass das Unternehmen vorsichtiger vorgeht, bevor es einen Agenten einem riesigen Publikum zugänglich macht. Der Leiter der App-Plattform des Unternehmens verwies auf die bereits vorhandene, viel größere Nutzerbasis von Meta als einen Grund für die unterschiedlichen Risiken. Das mag stimmen, klärt aber nicht, ob Dots besser mit persönlichen Daten umgehen wird, sobald mehr Menschen den Agenten nutzen.
Das heikle Tauschgeschäft
Agenten werden nützlich, indem sie mit Informationen und Diensten arbeiten, über die gewöhnliche Chatbots nur sprechen können. Daraus ergibt sich ein grundlegendes Spannungsfeld: Je leistungsfähiger der Agent, desto mehr muss ein Nutzer ihm womöglich private Inhalte, Kontozugänge oder Entscheidungen mit realen Folgen anvertrauen. Eine Anfrage nach Bankdaten kann für eine Aufgabe relevant sein und sich trotzdem wie eine Grenzüberschreitung anfühlen.
Ein niedliches Design und eine freundliche Stimme können einen Agenten weniger befremdlich wirken lassen. Sie ändern nichts an seinen Berechtigungen. Auch die Aussage, dass Daten isoliert sind, beantwortet nicht jede Frage dazu, wer darauf zugreifen kann, ob sie für das Training verwendet werden oder was der Agent bei seiner Arbeit weitergeben könnte.
Ein sinnvoller Test besteht darin, über das allgemeine Versprechen hinauszusehen und zu fragen, welche Kontrollmöglichkeiten bereits vorhanden sind. Können Nutzer Aktionen wie Einkäufe einschränken? Können sie der Verwendung ihrer Daten fürs Training widersprechen? Werden Daten gespeichert, und wer kann darauf zugreifen? Sind die versprochenen Schutzmaßnahmen bereits verfügbar oder stehen sie noch auf der Roadmap? Die von Meta geplante kryptografische Schutzmaßnahme und die von OpenAI angebotenen Optionen zur Datenaufbewahrung zeigen, warum diese Unterschiede wichtig sind.
Meta hat erklärt, dass Muse weiterhin Fehler machen kann, seine Sicherheitssysteme aber deren Häufigkeit und Auswirkungen verringern sollen. Das ist realistischer als ein Versprechen von Perfektion, doch Nutzer müssen trotzdem verstehen, was das System tun kann, wenn ihm ein Fehler unterläuft. OpenAI wirbt mit strengeren Kontrollmöglichkeiten, doch die Bilanz des Unternehmens lässt sich leichter beurteilen, wenn Dots mehr Menschen erreicht.
KI-Unternehmen wollen, dass Nutzer mehr mit ihren Agenten teilen. Die vernünftige Reaktion besteht nicht darin, jedes Versprechen für leer zu halten oder eine beruhigende Präsentation zum Produktstart als Beweis zu werten. Vertrauen ist nichts, was ein Produkt unbemerkt standardmäßig einsammeln kann. Es muss sich in dem Moment bewähren, in dem der Agent um Zugriff bittet.