Lokale KI bietet einen sinnvollen Tausch: Sensible Aufgaben bleiben auf dem eigenen Computer, dafür übernimmt man selbst die Verantwortung für die Modellauswahl, die Vergabe von Zugriffsrechten und die richtige Einrichtung. Ein erster Test von Hermes Agent deutet darauf hin, dass der Datenschutz den Aufwand wert sein kann. Ein privater Assistent ist allerdings nach wie vor ein Computerprogramm, das beaufsichtigt werden muss.
Datenschutz ist der entscheidende Punkt
Für das Experiment lief Hermes Agent, eine kostenlose, selbst gehostete App für macOS, Windows und Linux, auf einem M5 Ultra Mac Studio mit 256GB gemeinsam genutztem Arbeitsspeicher. Über die Modellauswahl ließ sich Qwen 3.8 Flash Next unkompliziert installieren: ein Modell mit 125 Milliarden Parametern und einer Dateigröße von etwa 105GB. Der Betrieb lokaler Modelle bedeutete auch, dass keine Token-Kosten pro Anfrage anfielen.
So viel Hardware ist nicht für jede sinnvolle Aufgabe erforderlich. Sie ermöglichte es dem Tester jedoch, mit einem großen Modell zu beginnen und zugleich kleinere Modelle für andere Rechner zu erkunden, darunter ein M6 Mac Mini, ein M5 MacBook Air, ein Asus TUF Gaming A14 mit einem AMD Strix Halo-Prozessor und RTX Spark-Systeme.
Der Reiz war praktischer Natur, nicht mystisch. Finanzunterlagen und unter Embargo stehende Laptop-Spezifikationen waren Informationen, die der Tester nicht an einen Cloud-Dienst senden wollte. Diese Aufgaben auf dem eigenen Computer zu erledigen, machte den Einsatz eines KI-Werkzeugs dort vertretbar, wo ein Hochladen der Daten nicht infrage gekommen wäre.
Kleine Aufgaben, gemischte Ergebnisse
Das erste Projekt war ein Morgenbriefing. Eine geplante Aufgabe prüfte E-Mails und Kalendereinträge und ergänzte anschließend einen kurzen Wetterbericht. Zunächst scheiterte sie, weil der Mac im Ruhezustand war, als die Aufgabe um 7:30 Uhr ausgeführt werden sollte. Nachdem dieses Problem behoben war, lief das Briefing. Später fiel es allerdings noch mehrfach aus und benötigte weiterhin bessere Eingangsdaten, um wirklich nützlich zu werden.
Erfolgreicher war das Sortieren einer Steam-Bibliothek mit mehr als 400 Spielen. Hermes konnte einen großen Teil der Bibliothek über den installierten Steam-Client einsehen und die Spiele anschließend nach Genre ordnen, ohne bestehende persönliche Kategorien zu verändern. Um Änderungen vorzunehmen, benötigte es einen Steam-Web-API-Schlüssel. Die Aufgabe dauerte einige Minuten, und der Schlüssel wurde danach widerrufen.
Hermes analysierte außerdem Finanzunterlagen und erstellte eine Tabelle zum Vergleich von Laptop-Spezifikationen. Das waren überschaubare Aufgaben, doch sie zeigten den besonderen Nutzen der lokalen Verarbeitung: Die Informationen ließen sich verwenden, ohne sie zu einem Cloud-Dienst hochzuladen.
Berechtigungen gehören dazu
Ein Agent, der auf einem Computer handeln kann, braucht Zugriff auf die Systeme, die er steuern soll. In diesem Test erforderte das Organisieren von Steam einen API-Schlüssel. Andere Aufgaben bezogen E-Mail- und Kalenderdaten ein. Lokale Verarbeitung verändert, wohin Informationen gelangen, macht Berechtigungen aber nicht bedeutungslos. Nutzer müssen weiterhin entscheiden, worauf ein Agent zugreifen darf, und den Zugriff entziehen, sobald er nicht mehr benötigt wird.
Der Tester arbeitet außerdem an einem größeren Projekt: einem Skript, das Benchmark-Durchläufe auf Laptops automatisieren könnte. Beim bisherigen Ablauf werden etwa ein Dutzend Tests jeweils dreimal ausgeführt, um einen Durchschnitt zu berechnen. Hermes die Abläufe beizubringen und es dazu zu bringen, Python-Skripte zu erstellen, hat einiges an Aufwand gekostet. Die Automatisierung ist noch nicht fertig.
Genau darin liegt die Lücke zwischen einer Agenten-Demo und einem verlässlichen Assistenten. Eine Aufgabe kann in einem Prompt einfach klingen, während die eigentliche Arbeit darin besteht, die Schritte zu erklären, die richtigen Werkzeuge anzubinden und Fehler zu bewältigen. Lokale Modelle nehmen einem diese Arbeit nicht ab. Sie verändern die Datenschutzbedingungen, unter denen sie erledigt werden kann.
Ein Werkzeug, kein digitaler Begleiter
Das vorläufige Fazit lautet weder, dass lokale KI mühelos funktioniert, noch, dass sie nutzlos ist. Hermes erledigte einige Organisations- und Analyseaufgaben gut, während sich das tägliche Briefing als störanfällig erwies und die Benchmark-Automatisierung noch in Arbeit ist. Selbst ein leistungsfähiges Modell verwandelt einen Computer nicht in einen Assistenten, der zuverlässig alles erledigen kann, worum man ihn bittet.
Der Tester betrachtet Hermes als Software, nicht als digitalen Freund, und will beim Ausprobieren weiterer Modelle und Hardware vorsichtig bleiben. Das scheint eine vernünftige Haltung zu sein. Das Versprechen ist keine Maschine, die alles versteht, sondern ein Werkzeug, das ausgewählte Aufgaben übernehmen kann, ohne seine Eingabedaten anderswohin zu senden. Der Datenschutz mag dabei der einfache Teil sein. Zu entscheiden, was man delegiert, und zu prüfen, ob es funktioniert hat, bleibt Aufgabe des Menschen.