200.000 gefälschte KI-„Opfer“ ködern Online-Betrüger mit Betrugsfallen

Das australische Technologieunternehmen Apate setzt weltweit eine riesige Auswahl an KI-Bots ein, die die Rolle leichtgläubiger Betrugsopfer spielen und jeden Monat Millionen Stunden der Zeit von Betrügern verschwenden.

Kurioserweise gehört zu den monatlichen Leistungskennzahlen des Unternehmens, wie oft frustrierte Betrüger die dummen „Opfer“ beschimpfen, die sich ahnungslos stellen und sie hinhalten.

„Ich glaube, wir sind das einzige Unternehmen auf der Welt, das als Teil seiner KPIs tatsächlich die Zahl der Schimpfwörter erfasst, die Betrüger uns gegenüber ausstoßen“, sagte Apate-Gründer Dali Kaafar dem Magazin lachend. 

Das Unternehmen verfügt über fast 200.000 KI-Charaktere, die überzeugende Telefongespräche führen und in sozialen Medien sowie auf Messaging-Plattformen chatten können.

„Ich kann Ihnen sagen, dass wir, wie wir es nennen, im Grunde Hunderttausende Anrufe pro Tag und ziemlich ebenso viele Gespräche über die anderen Kanäle betreuen“, sagte er. 

Jede Stunde, die sie der Zeit eines Betrügers stehlen, ist eine weitere Stunde, in der dieser niemanden aus der Öffentlichkeit betrügt. In den sechs Wochen bis Ende 2025 waren Apates Bots an 600.000 Betrugsanrufen für den australischen Telekommunikationsanbieter TPG beteiligt. 

„Im Wesentlichen haben wir mehr als fünfhundert Tage der Zeit von Betrügern verschwendet“, erklärte er. „Das entspricht ungefähr einer Einsparung von rund dreizehn Millionen Dollar.“

Ein weiteres Ziel der Bots besteht darin, verwertbare Informationen zu gewinnen, damit Banken und Telekommunikationsunternehmen Betrügernetzwerke in Australien, Asien, Afrika sowie im Vereinigten Königreich und in Europa bekämpfen können.

Apate-Bots gehen per Chat mit Betrügern um. Quelle: Apate

KI-Betrugsfallen ködern Betrüger im großen Maßstab

Kaafar sagt, er sei auf die Idee gekommen, als er im November 2021 während eines Picknicks mit seiner Familie in Sydney einen Betrugsanruf erhielt.

Zum Ärger seiner Frau, aber zur Freude seiner Kinder, hielt er den Betrüger 44 Minuten lang hin, indem er vorgab, ein leichtgläubiger Trottel zu sein, der auf den Betrug hereinfiel. 

„Was dann folgte, war für meine Kinder buchstäblich eine komplette Comedy-Show“, sagte er. Während des Anrufs habe er auch viele potenziell nützliche Informationen über die Funktionsweise des Betrugs und die angewandten Taktiken erhalten.   

„Als ich auflegte, erinnere ich mich genau daran gedacht zu haben: Wenn ich das nur zum Spaß tun konnte, stell dir vor, was Technologie in großem Maßstab leisten kann.“

Damals arbeitete er als Professor an der Macquarie University und brachte die Idee bei einigen seiner Doktoranden ein, die im Bereich KI und Sicherheit arbeiteten.

„Ich sagte: ‚Leute, das muss doch viel besser gehen. Lasst uns etwas entwickeln, das diesen gesamten Prozess automatisiert und Betrüger in großem Maßstab anspricht, aber auch – und vielleicht am wichtigsten – alle möglichen Informationen aus diesen Gesprächen gewinnt.‘ Und genau so hat es angefangen.“

Verwandt: KI-gestützter Bot vertritt abwesenden Kandidaten bei Debatte in Virginia

Innerhalb weniger Monate hatten sie vom Office of National Intelligence eine Finanzierung erhalten, um die Idee zu erforschen ; 2023 wurde das Projekt aus der Universität ausgegliedert und in Apate überführt. Das Unternehmen arbeitet inzwischen mit den meisten großen Banken in Australien sowie mit zahlreichen Banken im Vereinigten Königreich, in Südafrika und Südostasien zusammen. 

Apate ist bei Weitem nicht das einzige Unternehmen, das Betrüger mithilfe von KI-Bots mit Betrugsfallen ködert – allerdings tun sie dies in größerem Maßstab als die meisten anderen. Der britische Telekommunikationsanbieter O2 startete im vergangenen Jahr eine Kampagne mit einer KI-Oma, die Betrüger frustriert, indem sie stundenlang mit ihnen über ihre 28 Katzen spricht. Die Kampagne sollte die Öffentlichkeit vor den Gefahren von Betrugsanrufen warnen und zugleich für werben.

O2s äußerst unterhaltsame KI-Oma. Quelle: 02

Apate erschafft die perfekten KI-Opfer

Apate startete mit 120 verschiedenen Personas aus unterschiedlichen Geschlechtern, Altersgruppen und Persönlichkeitstypen und verfügt nun über 197.000 Personas mit charakteristischen Sprachbesonderheiten und Akzenten, die dieselben Geräusche machen wie Menschen, wenn sie überlegen, was sie sagen sollen. 

„Wir haben viel Zeit damit verbracht, diese KI-Bots zu verfeinern und zu entwickeln, die genau wie Sie und ich und unsere Nachbarn klingen“, sagte er. 

Die KI-Modelle wurden mit „Hunderten und Hunderten“ Stunden aufgezeichneter Gespräche zwischen menschlichen Betrugsfallenstellern und Betrügern trainiert, damit sie Gegenstrategien einsetzen können.

„Sie wissen, dass sie, wenn man so will, mit bösen Menschen sprechen, und sie steuern die Gespräche wirklich so, dass sie für jeden Betrüger da draußen sehr, sehr realistisch klingen – selbst wenn ein Betrüger skeptisch ist.“
Die Bots werden auf WhatsApp und Telegram eingesetzt, um als Honigtöpfe für Betrüger zu fungieren. Auch wenn das alte Sprichwort, dass man einen ehrlichen Menschen nicht betrügen kann, nicht stimmt, ist es weiterhin möglich, die Gier der Betrüger auszunutzen. 

„Sie sind tatsächlich Cyberkriminelle. Ich glaube, wir vergessen sehr oft, dass sie Cyberkriminelle sind, die versuchen, die gesamten Ersparnisse von Menschen zu erbeuten. Und genau dieses Element der Gier nutzen unsere Bots manchmal ebenfalls aus.“

Bots sammeln wertvolle Informationen aus jedem Betrugsanruf

In der Kryptobranche arbeitet Apate für „einen der führenden Anbieter von Blockchain-Analysen“, bei dem es sich möglicherweise um Chainalysis handelt, möglicherweise aber auch nicht. Das Unternehmen will nicht die Zeit der Betrüger verschwenden, sondern Informationen darüber sammeln, welche Wallets und Methoden sie verwenden, damit der Geldfluss verfolgt werden kann. 

„Diese Bots extrahieren im Verlauf ihrer Gespräche über verschiedene Kanäle Hunderte und Tausende neuer Krypto-Wallet-Adressen“, sagte er. „Das sind Daten und Informationen, die buchstäblich eintreffen, bevor der Schaden entsteht.“

Betrug ist ein großes Geschäft, und die Callcenter sind „im Grunde genommen Unternehmensorganisationen“, erklärte Kaafar. 

„Diese Daten sind sehr, sehr wichtig, denn genau dort befindet sich das neue Konto oder die neue Wallet, auf die man wirklich äußerst genau achten muss. Denn dort sammeln diese … Betrügerkomplexe ihr Geld oder ihre Gelder.“

„Das bedeutet, den Taktiken der Betrüger immer einen Schritt voraus zu sein. Je mehr man weiß, bevor das Geld überwiesen wird, desto besser ist es.“

Im Juli entdeckten Apates Bots einen Marktplatz für Makler, die in Indien verifizierte Bankkonten anwarben und Provisionen von bis zu 5 % in USDT auf die Erlöse aus Betrügereien anboten, die über diese Konten abgewickelt wurden.

Apates menschliche Mitarbeiter in Sydney. Quelle: Apate

KI-Wettrüsten zwischen Gut und Böse

Betrüger setzen zunehmend selbst KI-Bots ein, und es wird nicht mehr lange dauern, bis KI-Betrüger ebenso allgegenwärtig sind wie Spam-E-Mails. Menschen zu betrügen ist ein 1,24 Billionen US-Dollar Geschäft, damit die Branche die für den Ausbau des Betriebs erforderliche Rechenleistung finanzieren kann.
Die Forschung von Apate legt nahe, dass KI bereits bei etwa 20 bis 30 Prozent der betrügerischen Textgespräche zum Einsatz kommt. Kaafar macht sich jedoch keine allzu großen Sorgen über den Ausgang eines Kampfes zwischen Anti-Betrugs-Bots und Betrugs-Bots.
Er sagt, die Forschenden seien aufgrund spieltheoretischer Überlegungen der Ansicht, dass sich verteidigende KI-Bots im Vorteil befänden: Sie versuchten, Informationen zu gewinnen, während die Betrugs-Bots die andere KI zu einer Handlung bewegen wollten.

„Auch mathematisch lässt sich zeigen, dass dies dem Verteidiger einen Vorteil verschafft, weil er leichter Informationen aus dem KI-Modell des Angreifers gewinnen kann“, sagt er.

„Wir können uns eine Welt vorstellen, in der Betrüger sehr viel ausgefeilter werden und eine solche Technologie einsetzen. Das bedeutet aber auch, dass sie das Spiel faktisch als verloren ansehen können, sobald sie dies tun – eine großartige Nachricht im Kampf gegen Betrug.“

Magazin: Agent verschwendet 14 Stunden der Zeit von Betrügern, LLMs vom Iran ‚vergiftet‘ – AI Eye