Die meisten Unternehmen entwickeln KI-Agenten, um Arbeit schneller zu erledigen. Apate.ai entwickelt sie, damit sie sich betrügen lassen, und stellt den Banken anschließend den Papierkram in Rechnung. Das australische Startup betreibt Tausende Agenten, die sich als ganz normale Opfer ausgeben. Sein Verkaufsargument: Der beste Zeitpunkt, um etwas über eine Betrugsmasche zu erfahren, ist, bevor jemand Geld verliert.
Eine ziemlich ungewöhnliche Stellenbeschreibung
Apate wurde 2024 auf Grundlage von Forschungsarbeiten an der Macquarie University in Sydney gegründet. Seine Agenten nehmen Betrugsanrufe entgegen, antworten auf verdächtige Nachrichten und E-Mails, klicken auf Phishing-Links und treten Gruppen in sozialen Medien bei, um Betrüger anzulocken. Es gibt sie in vielen Varianten, mit unterschiedlichem Alter, Geschlecht und Akzent, und sie sprechen verschiedene Sprachen.
Das Ziel ist nicht, einen Streit mit einem Kriminellen zu gewinnen. Es geht darum, möglichst lange eine überzeugende, etwas leichtgläubige Person zu spielen. Denn ein Betrüger, der weiterredet, gibt meist auch immer mehr preis.
Das Unternehmen gibt an, dass seine Agenten Betrügern bislang in 2,5 Millionen Gesprächen insgesamt 17 Jahre Zeit geraubt haben. Diese Zahl mag Genugtuung verschaffen, doch sie ist nicht das Produkt. Das Produkt ist das, was bei diesen Gesprächen abfällt:
- Zahlungsdaten: Bankkonten und Krypto-Wallets.
- Kontaktpunkte: Telefonnummern und schädliche Websites.
- Kontext: die Marken, in deren Namen die Betrüger auftreten, und weitere Einzelheiten der laufenden Betrugsmasche.
Normalerweise tauchen solche Informationen erst auf, nachdem ein Opfer bereits um sein Geld gebracht wurde. Die Kunden von Apate, darunter Banken, Telekommunikationsanbieter, Behörden und Versorgungsunternehmen, erhalten sie früher und nutzen sie, um ihre Betrugsbekämpfung auszurichten.
Warum gerade jetzt
Der Zeitpunkt dürfte kaum Zufall sein. Auch Betrüger haben gute Werkzeuge. Beim FBI gingen 2025 mehr als 22.000 Beschwerden über Straftaten mit KI-Bezug ein, mit Schäden von rund 893 Millionen Dollar. Davon entfielen mehr als 632 Millionen Dollar auf Anlagebetrug. Dabei setzen Betrüger laut FBI KI ein, um Gespräche zu führen und die Stimmen und Gesichter von Prominenten, Führungskräften und anderen Vertrauenspersonen zu fälschen.
Scam-Baiting ist schon lange ein Hobby für Menschen, die Spaß daran haben, Betrüger hinzuhalten. Manche haben Betrüger dazu gebracht, ganze Bücher vorzulesen oder sich sogar lächerliche Tattoos stechen zu lassen. Apate ist die industrielle Variante, bei der eine ganze Flotte den Freiwilligen ersetzt. Der Spieß wird also, wie man so schön sagt, umgedreht – in diesem Fall allerdings mit einem Vertriebsteam im Schlepptau.
Das 44-Minuten-Picknick
Die Idee begann mit einem echten Betrugsanruf. Vor einigen Jahren war Apate-Gründer und CEO Dali Kaafar bei einem Familienpicknick, als eine unbekannte Nummer anrief. Er merkte, dass ein Betrüger am Apparat war, beschloss, sich zur Belustigung seiner Kinder dumm zu stellen, und hielt das Gespräch 44 Minuten lang am Laufen.
Alle lachten. Kaafar fiel aber auch etwas auf, das weniger lustig, dafür umso nützlicher war: Während dieser 44 Minuten sprach der Betrüger nicht mit einem echten Opfer. Das warf eine naheliegende Frage auf. Könnte er die Aktion automatisieren und dabei noch etwas lernen?
Die Antwort nahm als Forschungsprojekt an der Macquarie ihren Anfang. Dort nutzten Kaafar und seine Kollegen maschinelles Lernen und die Verarbeitung natürlicher Sprache, um herauszufinden, was Betrugsanrufe tatsächlich enthalten, und bessere Wege zur Erkennung und Verhinderung von Betrug zu finden.
So funktioniert das Geschäftsmodell
Mitgründer und Chief Commercial Officer Brad Joffe beschreibt die Lücke, die Apate schließen will. Der größte Teil der Branche werde erst im Nachhinein tätig, sagt er. Telekommunikationsanbieter sperren Nummern, aber Betrüger besorgen sich neue. Banken überwachen Transaktionen, doch bis dahin hat der Betrüger den Kunden bereits erreicht. Apate gehe direkt auf die Betrüger zu und beschaffe die Informationen, bevor jemand zu Schaden komme, so Joffe. Nach seinen Angaben sprechen die Agenten täglich mit Zehntausenden Betrügern – per Telefon, Nachricht, E-Mail und im Web.
Unter der Haube laufen die Agenten und die Analyse laut Joffe mit einer Kombination aus Frontier-Modellen und eigenen, feinabgestimmten Modellen von Apate. Das Unternehmen trainiert diese Modelle mit den Gesprächen, die seine Agenten mit Betrügern geführt haben, sowie mit Kaafars Forschungsergebnissen von der Macquarie.
Die Kunden erhalten zwei Dinge:
- Die Agenten selbst. Kunden können ihnen Aufträge erteilen, etwa eine bestimmte Bankkontonummer oder Krypto-Wallet-Adresse zu beschaffen. Die textbasierten Agenten können außerdem Foren, Anlegergruppen und soziale Plattformen nach Betrugsaktivitäten durchsuchen und sich anschließend unter einer erfundenen Identität in Gespräche einschalten, um den Betrügern ihre Daten zu entlocken.
- Ein Informationsportal. Es liefert Informationen und Analysen zu Betrugsmaschen, die sich gegen die Endnutzer, Mitarbeiter, Marken, Produkte und weitere Bereiche eines Kunden richten.
Die Ergebnisse bei Kunden – nach Angaben des Unternehmens
Zu den namentlich genannten Kunden von Apate gehören Commonwealth Bank of Australia und TPG Telecom, hinzu kommen weitere Versorgungsunternehmen, Telekommunikationsanbieter und Behörden. Joffe nannte drei Ergebnisse. Alle Zahlen stammen vom Unternehmen; für keine davon enthielt der Bericht eine unabhängige Bestätigung.
| Kunde | Gemeldetes Ergebnis |
|---|---|
| TPG Telecom | Fast 590.000 Anrufe an die Agenten von Apate umgeleitet |
| Commonwealth Bank of Australia | 76 % weniger öffentlich gemeldete Schäden durch Betrug |
| Nicht namentlich genannte australische Bank | 22 Betrugskampagnen mithilfe von Outbound-Agenten gestört |
Die Angabe zur Commonwealth Bank ist die kühnste, und es lohnt sich, genau hinzusehen. Sie bezieht sich auf öffentlich gemeldete Schäden durch Betrug, also nur auf einen Teil aller Betrugsschäden. Die Quelle sagt nicht, welcher Anteil des Rückgangs Apate zuzuschreiben ist und welcher all den anderen Maßnahmen, die eine Großbank gegen Betrug ergreift.
Geld und Pläne
Investoren wetten darauf, dass es sich lohnt, Betrüger zu täuschen. Apate sammelte im August 8,15 Millionen Dollar in einer Seed-Finanzierungsrunde von Lobby Capital, OIF Ventures, Investible, Concept Ventures und Baobab Ventures ein. Laut Joffe hat das 20-köpfige Unternehmen insgesamt knapp 10 Millionen Dollar eingeworben. Das frische Kapital ist für die Produktentwicklung und die internationale Expansion vorgesehen, darunter ein Büro in London und eine stärkere Präsenz in den USA.
Apate stand außerdem im Finale des Startup Battlefield 200 auf der Disrupt in San Francisco, wo es vor einer Jury aus Risikokapitalgebern pitchen sollte. Die Veranstaltung lief im Moscone West bis Donnerstag, den 15. Oktober.
Eine Göttin und ein paar Flüche
Der Name stammt von Apate, der griechischen Göttin der Täuschung. Laut Joffe erschien das angesichts der Aufgaben der Agenten passend. Er ergänzt, dass das Pitch-Material sogar Aufnahmen enthält, in denen Betrüger die Bots beschimpfen.
Das hat Methode. Das Unternehmen erfasst Flüche als Zeichen von Frustration und feiert jeden einzelnen. Joffe vermutet, dass Apate wohl zu den wenigen Unternehmen weltweit gehört, die jubeln, wenn Menschen ihr Produkt beschimpfen.
Es ist eine ungewöhnliche Kennzahl für Kundenzufriedenheit: Die wütendsten Nutzer sind hier ganz bewusst die Kriminellen.