Für einen KI-Agenten ist der nächste Schritt oft eine Multiple-Choice-Frage, keine Einladung, einen Aufsatz zu schreiben. Amazon Web Services hat Strands Decider 2B veröffentlicht, ein Open-Source-Modell, das aus festgelegten Optionen auswählt und angibt, wie sicher es sich ist, statt Text zu erzeugen.
Ein Modell mit engerer Aufgabe
Strands Decider 2B basiert auf Qwen3.5-2B, seine Ausgabe ist jedoch eine Entscheidung aus einer definierten Menge von Antworten. Amazon stellt es als schnelle, günstige Option vor, die klein genug ist, um lokal zu laufen.
Der vorgesehene Einsatz ist ein Schritt innerhalb eines Agenten-Workflows. Ein Agent muss vielleicht anhand seines aktuellen Zustands entscheiden, was als Nächstes zu tun ist, ohne bei jedem Zug ein voll ausgestattetes Sprachmodell zu fragen. Eine begrenzte Auswahl und ein Konfidenzwert können diesen Schritt strukturierter machen und potenziell Latenz und Kosten senken.
Das sind die Ziele des Modells, keine veröffentlichte Leistungsgarantie. Der Bericht nennt keine Benchmark-Ergebnisse für Strands Decider 2B jenseits seines frühen Abschneidens auf Jevbench.
Vom persönlichen Experiment zur AWS-Veröffentlichung
Amazons Distinguished Engineer Marc Brooker startete das Projekt, nachdem er auf Jev gestoßen war, ein Entscheidungsmodell von TypeSafe. Seine eigene Version erreichte kurzzeitig die Spitze von Jevbench unter Modellen ihrer Größe. Amazon-Ingenieure bereiteten sie anschließend für die Veröffentlichung über Strands Labs vor, das Werkzeuge und Protokolle für den Einsatz von KI-Agenten entwickelt.
Der Start fiel in dieselbe Woche, in der OpenAI ein ähnliches Angebot ankündigte. Strands Decider 2B reiht sich zudem in eine wachsende Gruppe von Modellen ein, die von Jev inspiriert sind. Seit TypeSafe die Idee vorgestellt hat, sind Dutzende verwandter Projekte entstanden.
Der Kompromiss hinter dem kleinen Modell
Ein Entscheidungsmodell muss schnell und genau sein, doch eine zu aggressive Verengung seiner Aufgabe kann die Eigenschaften schwächen, die es über verschiedene Aufgaben hinweg nützlich machen. Brooker beschrieb die Herausforderung so: Genauigkeit und gut kalibrierte Konfidenz bewahren, ohne Sprachfähigkeit oder Allgemeinwissen zu verlieren.
Diese Spannung ist wichtig, weil ein Modell, das zuverlässig aus einem festen Menü wählt, nur dann nützlich ist, wenn Menü und Situation für es Sinn ergeben. Der Konfidenzwert gehört zum Reiz, hebt aber nicht die Notwendigkeit auf, dass das Modell versteht, worüber es entscheiden soll.
Brooker argumentierte außerdem, dass kleinere Märkte nicht zwangsläufig den größten KI-Labs gehören. Die Kosten, in diesem Bereich etwas Interessantes zu bauen, bezifferte er auf Hunderte oder Tausende Dollar, der Bericht liefert jedoch keine weitere Aufschlüsselung dieser Schätzung.
TypeSafe-Gründer und CEO Diogo Almeida sagte, er sehe noch keinen ernsthaften Wettbewerb für sein Unternehmen. Seiner Ansicht nach spiegeln viele neue Projekte Interesse an der Architektur wider, während die schwierigere Arbeit darin besteht, die resultierenden Modelle wirklich nützlich zu machen.
Das ist auch der Test für Strands Decider 2B. Ein kleineres Modell kann einen Workflow günstiger oder schneller machen, aber nur, wenn seine enge Antwort trotzdem die richtige ist.