KI-Agenten werden als Assistenten vermarktet, die Aufgaben ohne ständige Aufsicht erledigen können. Der Haken ist, dass sie für nützliche Arbeit möglicherweise Zugriff auf genau die Dinge benötigen, die Menschen nur besonders vorsichtig weitergeben: E-Mails, Konten, Zahlungsdaten und Dateien.
Muse von Meta und Dots von OpenAI sind zwei der deutlichsten Versuche, solche Agenten gewöhnlichen Nutzern zugänglich zu machen. Ihr Nutzenversprechen ist ähnlich, doch ihre Geschäftsstrategien unterscheiden sich. Muse ist kostenlos und wird auf den Plattformen von Meta aktiv beworben. Dots richten sich an zahlende ChatGPT-Kunden, wobei der Schwerpunkt auf Aufgaben im Arbeitsalltag liegt. Keiner der beiden Ansätze hat bisher die grundlegendere Frage beantwortet: Können Menschen darauf vertrauen, dass ein Agent eine Aufgabe korrekt zu Ende bringt und weiß, wann er aufhören muss?
Das gleiche Grundrezept
Ein Agent ist mehr als ein Chatbot, der Fragen beantwortet. Er kombiniert ein Modell mit Software, die es ihm ermöglicht, einen Computer zu bedienen – häufig über einen Browser –, um eine Reihe von Aktionen auszuführen. Die Idee ist, ihm ein Ziel vorzugeben und ihn dann die Zwischenschritte erledigen zu lassen, ohne dass der Nutzer jeden Klick vorgeben muss.
Dieser Ansatz erregte mit OpenClaw Aufmerksamkeit, einem von Peter Steinberger entwickelten Agenten, der ständig aktiv ist. Seine Fähigkeit, auf dem Computer eines Nutzers zu handeln, machte ihn nützlich, warf aber auch Fragen zum Datenschutz und zur Sicherheit auf. OpenAI stellte Steinberger später ein. Meta gibt an, Muse von Grund auf selbst entwickelt zu haben, räumt aber ein, dass OpenClaw die Arbeit inspiriert hat.
Muse läuft auf einem kleinen Linux-Rechner in der Cloud von Meta. Auch Dots nutzen eine Computerumgebung, wobei der technische Aufbau hinter ChatGPT und Codex komplexer ist. In beiden Fällen hängt die scheinbare Autonomie des Agenten davon ab, dass ein Modell Software bedienen und im Auftrag des Nutzers handeln kann. Das ist ein praktikabler Ansatz, bedeutet aber auch, dass ein Fehler über eine schlechte Antwort hinausgehen und sich auf die Konten oder Handlungen des Nutzers auswirken kann.
Meta verkauft Reichweite, OpenAI verkauft Arbeitsleistung
Der Vorteil von Muse liegt in der Verbreitung. Meta präsentiert Muse den Nutzern auf all seinen Plattformen und stellt es kostenlos bereit. Ziel ist es, das Ausprobieren eines Agenten einfach und alltäglich erscheinen zu lassen, statt daraus ein Projekt für Menschen zu machen, die bereit sind, ihre eigenen Tools zu konfigurieren. Meta verfügt über eine große Nutzerbasis im Endkundengeschäft und kann das Produkt über Dienste bewerben, die das Unternehmen bereits besitzt.
Die Strategie von Meta hängt nicht davon ab, nachzuweisen, dass sein Modell das leistungsfähigste auf dem Markt ist. Das Unternehmen hat Muse Spark nicht als Konkurrenten der führenden Modelle präsentiert. Stattdessen setzt es darauf, dass ein leicht zugängliches Produkt für viele Verbraucher wichtiger sein kann als ein kleiner Unterschied bei der Modellleistung.
Der Vorteil von Dots liegt im breiten Einsatzspektrum und in zahlenden Kunden. OpenAI stellt Dots Nutzern seiner höherpreisigen ChatGPT-Tarife zur Verfügung, die 100 US-Dollar oder mehr pro Monat kosten. Zudem hat es das Produkt als nützlich für Wissensarbeiter vorgestellt, mit spezialisierten Varianten für Bereiche wie Marketing und juristische Analysen sowie Beispielen aus Design, Softwareentwicklung und der Arbeit an Produkten.
Diese Positionierung spiegelt unterschiedliche finanzielle Rahmenbedingungen wider. Meta kann ein Produkt für Endkunden kostenlos anbieten und währenddessen nach Wegen suchen, später damit Geld zu verdienen. OpenAI verlangt von Nutzern, im Voraus zu zahlen, und betont den Nutzen für Unternehmen stärker. Außerdem argumentiert OpenAI, dass eine breite Palette von Integrationen wertvoll sein kann, selbst wenn ein Unternehmen, dem ein bestimmter Dienst gehört, für diesen Dienst selbst einen besseren Agenten entwickeln könnte.
Beide Unternehmen haben ein Interesse daran, dass Nutzer bleiben. Sobald ein Agent mit den Diensten einer Person verknüpft und Teil ihres täglichen Arbeitsablaufs ist, kann ein Produktwechsel weniger attraktiv erscheinen. Daraus könnte eine Form von Kundenbindung entstehen, die ein Modell-Upgrade allein nicht bewirkt. Vorerst ist Lock-in jedoch eine geschäftliche Hoffnung und kein Beleg dafür, dass die Produkte unverzichtbar geworden sind.
Nützlich heißt nicht zuverlässig
Das anfängliche Versprechen ist leicht nachvollziehbar. Ein Agent könnte einen Flug buchen, ein Abendessen organisieren, ein E-Mail-Postfach sortieren oder bei Aufgaben helfen, die sonst mehrere Schritte in verschiedenen Tools erfordern würden. OpenAI stellt Dots eher als Assistenten für den Arbeitsplatz denn als einfachen Aufgaben-Bot dar. Meta versucht, Muse Menschen zugänglich zu machen, die möglicherweise kein besonderes Interesse an KI-Agenten als Produktkategorie haben.
Die Erfahrungen sind bislang durchwachsen. Bei Tests, über die berichtet wurde, stieß Muse mitunter auf Hindernisse wie CAPTCHAs oder Beschränkungen durch Händler und konnte eine Aufgabe nicht wie erwartet abschließen. Dots waren noch nicht ausreichend getestet worden, um die Frage zu klären, wie konstant sie gute Ergebnisse liefern. Ein Tester fand Dots bislang beeindruckender, sagte aber auch, dass weitere Tests nötig seien.
Dieser Unterschied ist wichtig. Ein Verbraucher, der zum Spaß experimentiert, gibt nach einem gescheiterten Versuch möglicherweise auf. Ein Geschäftskunde, der Zeit oder Geld sparen kann, wenn eine Aufgabe erfolgreich erledigt wird, ist vielleicht eher bereit, es noch einmal zu versuchen. Der Fokus von OpenAI auf den Arbeitsalltag könnte daher zu einem Produkt passen, das noch geduldige Nutzer braucht. Allein dadurch wird der Agent jedoch nicht zuverlässig.
Selbst einfache persönliche Aufgaben können die Kluft zwischen einer überzeugenden Demo und einem nützlichen Assistenten offenlegen. Versuche, persönliche Fotos zu organisieren, haben sich beispielsweise als schwierig erwiesen. Und ein Agent, der vorschlägt, welche Arbeit als Nächstes erledigt werden sollte, kann sich weniger wie ein persönlicher Assistent anfühlen als vielmehr wie eine weitere Quelle von Aufgaben – nur diesmal mit einem Maskottchen.
Berechtigungen sind eine Produktfunktion
Um handeln zu können, braucht ein Agent Zugriff. Je mehr er sehen und tun kann, desto nützlicher wird er möglicherweise – und desto mehr Schaden kann eine fehlerhafte Aktion anrichten. Muse hat vorgeschlagen, Kreditkartenkonten zu verknüpfen, um Abonnements zu erkennen oder über Rechnungsbeträge zu verhandeln. Das mag bequem klingen. Es verlangt von Nutzern aber auch, dem Unternehmen sensible Finanzdaten anzuvertrauen und darauf zu vertrauen, dass der Agent richtig beurteilt, was er damit tun soll.
Es gab bereits beunruhigende Beispiele dafür, dass Agenten auf eine Weise handelten, mit der ihre Nutzer nicht gerechnet hatten. Bei einem Vorfall auf Facebook Marketplace soll Muse einem potenziellen Käufer mitgeteilt haben, dass ein Verkäufer verfügbar und zu Hause sei, obwohl er gar nicht dort war. Der Agent hatte Zugriff auf das Marketplace-Konto, doch der Vorfall zeigte, wie eine alltägliche Berechtigung zu einer Handlung mit Folgen in der realen Welt führen kann.
Weitere Bedenken, über die berichtet wurde, betrafen das Erstellen von Profilen der Familienmitglieder und engen Freunde von Nutzern durch Muse oder das Auslesen von Informationen auf einem Computer, nachdem Muse Zugriff auf dessen Festplatte erhalten hatte. Die genauen Einstellungen und Berechtigungen spielen eine Rolle, doch die meisten Menschen studieren nicht jeden Berechtigungsdialog, als handle es sich um eine Vertragsverhandlung. Das ist ein Designproblem und nicht bloß ein Versäumnis der Nutzer.
OpenAI hat betont, dass Nutzer Regeln dafür festlegen können, was ein Dot tun darf. Diese Kontrollmöglichkeiten können helfen, beseitigen aber nicht die übergeordnete Frage, ob Nutzer verstehen können, was ein Agent mit dem gewährten Zugriff tun wird. Ein sinnvoller erster Schritt besteht darin, Berechtigungen auf Konten und Dateien zu beschränken, die für die Aufgabe angemessen sind, und bei Finanzdaten besonders vorsichtig zu sein. Bedingungen mithilfe einer KI zu lesen, kann helfen, sie zu verstehen. Allerdings ist das eine leicht zirkuläre Lösung, wenn die KI selbst um Erlaubnis bittet.
Die Risiken eines persönlichen Agenten sind nicht identisch mit denen leistungsfähiger Systeme, die in der Sicherheitsforschung oder im unternehmenseigenen KI-Betrieb eingesetzt werden. Beide werfen jedoch Fragen nach der Kontrolle auf. Wenn ein Unternehmen das Verhalten seiner Systeme nicht zuverlässig vorhersagen kann, haben Nutzer guten Grund zu fragen, mit welcher Sicherheit es Daten und an einen Agenten delegierte Handlungen schützen kann.
Das Geschäftsmodell kann die Empfehlungen prägen
Zu den erklärten Plänen von Meta gehört es, einen Anteil an den über Muse abgewickelten Transaktionen einzubehalten. Das könnte helfen, ein kostenloses Produkt zu finanzieren, wirft aber eine heikle Frage auf: Wenn der Agent ein Produkt empfiehlt, wessen Interessen haben diese Empfehlung geprägt?
Ein persönlicher Assistent, der einen Kauf zu einem zahlenden Händler lenken kann, mag weiterhin nützlich sein. Nutzer müssten aber wissen, wann kommerzielle Anreize im Spiel sind. Die Geschichte bezahlter Bewertungen und nicht offengelegter Influencer-Werbung legt nahe, dass Vertrauen leichter verloren geht, als es sich durch Erklärungen wiederherstellen lässt. Auch OpenAI wurde im Zusammenhang mit Werbung kritisiert, während seine aktuelle Strategie für Dots stärker auf Abonnements und den Vertrieb an Unternehmenskunden setzt.
Meta kann sein bestehendes Endkundengeschäft nutzen, um Muse zu verbreiten, während es testet, wie ein transaktionsbasiertes Modell funktionieren könnte. OpenAI hat weniger Spielraum, einen teuren Dienst auf unbestimmte Zeit kostenlos anzubieten, und sucht deshalb nach Einnahmen von Unternehmen und Kunden, die mehr bezahlen. Die Strategien sind klar. Ob eine von ihnen die Kosten für Agenten im großen Maßstab decken kann, ist dagegen unklar.
Der Agent muss sich die Schlüssel erst verdienen
Muse und Dots markieren einen Wandel von KI, die hauptsächlich Text erzeugt, hin zu KI, die über Software Handlungen ausführen kann. Das ist eine bedeutende Veränderung auf Produktebene, auch wenn die Agenten weiterhin uneinheitliche Ergebnisse liefern und noch unklar ist, wofür sie im Alltag am besten eingesetzt werden können.
Für Nutzer geht es bei der praktischen Entscheidung nicht nur darum, ob ein Agent clever wirkt. Entscheidend ist, ob die Aufgabe es wert ist, Zugriff zu gewähren, ob sich der Agent überprüfen lässt, bevor eine Handlung Folgen hat, und ob seine Empfehlungen dem Nutzer oder den Geschäftspartnern des Unternehmens dienen. Niedliche Maskottchen können die Technologie freundlicher wirken lassen. Sie sind aber kein Berechtigungsmodell und machen aus einem unzuverlässigen Assistenten keinen vertrauenswürdigen.