„Human in the loop AI“ bedeutet meist, dass Menschen eine klare Antwort darauf wollen, wie KI und menschliche Prüfung im realen Betrieb zusammenarbeiten. Für Fraud- und Threat-Intelligence-Teams geht es dabei nicht um allgemeine Automatisierung. Es geht darum, ob KI Betrüger sicher genug in Gespräche verwickeln kann, um brauchbare Intelligence zu erzeugen. Bei Active Defense halten KI-gestützte Lockvogel-Personas Betrüger auf Telegram und per E-Mail im Gespräch, während standardmäßig jede Antwort von einer menschlichen Operatorin oder einem menschlichen Operator freigegeben wird. Dieser Artikel erklärt, was dieses Modell bedeutet, warum es bei der Interaktion mit Betrügern wichtig ist, wie daraus ein Threat-Intelligence-Feed wird und worauf Sie bei der Bewertung achten sollten. Active Defense hackt niemals zurück.
Was Human-in-the-Loop-KI hier bedeutet
Einfach gesagt bedeutet Human-in-the-Loop-KI, dass das System einen Teil der Arbeit übernimmt, eine Person aber wichtige Schritte prüft oder freigibt, bevor etwas gesendet oder umgesetzt wird. Das ist ein bekanntes Prinzip in vielen Abläufen. Bei der Interaktion mit Betrügern ist es wichtiger, weil eine ausgehende Nachricht nicht einfach nur eine Aufgabe abschließt. Sie kann die Richtung des Gesprächs verändern, beeinflussen, was der Betrüger als Nächstes preisgibt, und operative Risiken schaffen, wenn sie ohne Prüfung hinausgeht.
Hier ist das Modell einfach: Jede Antwort wird von der KI entworfen und vor dem Versand von einer menschlichen Operatorin oder einem menschlichen Operator freigegeben. Human-in-the-Loop ist der Standard. Anschließend werden die Antworten mit Tipp-Pausen und in kurzen Nachrichten versendet, was dazu passt, wie Chat-Gespräche normalerweise verlaufen.
Für Fraud- und Threat-Intelligence-Teams ist der Nutzen praktisch. Die KI beschleunigt das Erstellen von Antworten, während ein Mensch die Kontrolle über das Urteil und die endgültige ausgehende Nachricht behält. Das unterscheidet sich von voller Autonomie. Ein vollständig autonomer Agent entscheidet selbst und sendet selbst. Dieses System lässt sich besser als überwachte Ausführung verstehen: Die KI bereitet vor, der Mensch entscheidet.
Dieser Unterschied ist wichtig, weil das Ziel nicht einfach mehr Antworten sind. Das Ziel ist eine glaubwürdige, anhaltende Interaktion, die einen Betrüger lange genug zum Antworten bringt, damit mehr über den Akteur und den Zahlungsweg offengelegt wird. Teams, die mit Betrugsindikatoren arbeiten, wissen bereits, wie stark der nachgelagerte Wert von der Qualität des Gesprächs abhängen kann, ganz gleich, ob sie später Wallet-Screening, Prüfungen von Bankkonten, Erkennung von Zahlungsbetrug, Geschenkkarten-Zahlungsketten oder False Positives in Feeds prüfen.
Warum Teams Betrüger gezielt ansprechen
Teams sprechen Betrüger gezielt an, weil jeder zusätzliche Austausch mehr operative Details liefern kann. Ein längeres Gespräch kann den Betrüger dazu bringen, Zahlungswege, Kontaktpunkte, wiederverwendete Assets oder andere Hinweise offenzulegen, die Untersuchungen und Erkennung unterstützen. In der Praxis liegt der Wert nicht im Chat selbst. Er liegt darin, was der Chat zur Analyse liefern kann.
Aus Nachrichten von Betrügern extrahiert Active Defense:
- Krypto-Wallets
- Bankdaten
- Telefonnummern
- Messenger-Konten
- Links
- Geschenkkarten
- Zahlungs-Handles
- Datei- und Foto-Hashes
Jeder Indikator erhält einen Confidence-Score. Das hilft Analystinnen und Analysten dabei zu entscheiden, was zuerst geprüft oder bearbeitet werden sollte, statt alle extrahierten Daten als gleich verlässlich zu behandeln.
Der nächste Schritt ist die Verknüpfung. Wenn Chats einen Indikator, ein wiederverwendetes Foto oder ein weitergeleitetes Konto gemeinsam haben, können sie einem Akteur zugeordnet werden. Das ist nützlicher, als isolierte Gespräche einzeln zu lesen, vor allem weil Betrugsoperationen ihre Infrastruktur häufig über viele Kontakte hinweg wiederverwenden. Wiederkehrende Details über mehrere Chats hinweg können Teams helfen, Muster schneller zu erkennen, ganz gleich, ob sie Domain-Reputationsprüfungen, Arbeit mit der Rückwärtssuche nach Gesichtern oder Hinweise auf Anrufer-ID-Spoofing prüfen.
Jeder Kunde erhält einen eigenen Feed mit STIX-2.1-Export, sodass das Ergebnis nicht nur ein Gesprächsprotokoll ist, sondern etwas, das ein Threat-Intelligence-Programm aufnehmen und verarbeiten kann. Wenn Sie mehr Beispiele aus der Live-Erfassung sehen möchten, lesen Sie die wöchentlichen Scam-Briefings und die monatlichen Berichte zu Scam-Daten.
Wie der Ablauf vom Erstkontakt bis zum Feed funktioniert
Der Ablauf beginnt, wenn eine neue Unterhaltung eine Lockvogel-Persona erreicht. Von dort ist die Reihenfolge einfach: Der Erstkontakt wird bewertet, eine Antwort wird entworfen, eine menschliche Operatorin oder ein menschlicher Operator prüft sie, die Nachricht wird gesendet, der Betrüger antwortet, und das entstehende Material wird in Intelligence umgewandelt.
Ein Klassifikator prüft jeden neuen Chat beim Erstkontakt. In Messengern wird der Chat in Ruhe gelassen, wenn der Klassifikator unsicher ist. Das ist wichtig, weil die früheste Entscheidung bestimmt, ob das System überhaupt interagieren sollte, statt Unsicherheit als Grund zu nehmen, ein Gespräch zu beginnen.
Sobald eine Unterhaltung aktiv ist, wird jede ausgehende Antwort von der KI entworfen und vor dem Versand von einer menschlichen Operatorin oder einem menschlichen Operator freigegeben. Die Antworten werden mit Tipp-Pausen und in kurzen Nachrichten gesendet, was zum Tempo chatbasierter Unterhaltungen passt.
Auf der eingehenden Seite wird jede Nachricht, die der Lockvogel erhält, in dem Moment gespeichert, in dem sie eintrifft. Wenn ein Betrüger später „für alle löschen“ verwendet, entfernt das die gespeicherte Kopie nicht. Fotos, Sprachnachrichten und Dateien bleiben als Teil des Datensatzes erhalten. Dateien und Sprachaufnahmen werden per SHA-256 gespeichert, Fotos zusätzlich mit einem perzeptuellen Hash.
Nach der Erfassung macht der Analyseschritt aus rohen Gesprächsdaten nutzbare Ausgaben. Aus jeder Nachricht werden Indikatoren extrahiert und mithilfe struktureller Prüfungen und eines LLM bewertet. Dazu gehören Zahlungsdaten, Kontaktpunkte und Artefakt-Hashes aus dem Material, das der Betrüger sendet. Die Bewertung hilft Teams dabei, Prüfung und Nachverfolgung zu priorisieren, ohne extrahierte Indikatoren standardmäßig als verifiziert zu behandeln.
Das Ergebnis ist ein Ablauf, der Interaktion, Beweissicherung und Analyse in einer einzigen Intelligence-Pipeline verbindet.
Was gute menschliche Aufsicht in der Praxis verändert
Bei der Interaktion mit Betrügern ist menschliche Aufsicht nicht nur eine Sicherheitsprüfung, bevor eine Nachricht versendet wird. Sie verändert die Qualität des Gesprächs selbst. Eine Person kann einen Antwortentwurf ablehnen, wenn er schwach wirkt, im Ton verfehlt ist oder für den nächsten Schritt im Austausch schlicht nicht hilfreich ist.
Das ist wichtig, weil gute Interaktion von Urteilsvermögen abhängt, nicht nur von Reaktionsgeschwindigkeit. In der Praxis kann eine Operatorin oder ein Operator Fragen beurteilen wie:
- passt diese Antwort zur Persona?
- ist sie wahrscheinlich geeignet, den Betrüger im Gespräch zu halten?
- vermeidet sie es, den Austausch in die falsche Richtung zu lenken?
Kurze, getaktete Antworten können einen Chat in Messenger-Umgebungen natürlicher wirken lassen. Menschliche Prüfung hilft dabei, dieses Tempo über das ganze Gespräch hinweg stimmig zu halten, damit der Austausch nicht abdriftet oder von einer Nachricht zur nächsten inkonsistent wird.
Die Arbeitsteilung ist klar. Die KI übernimmt Geschwindigkeit und Konsistenz beim Entwurf. Die menschliche Operatorin oder der menschliche Operator bleibt für die endgültige ausgehende Nachricht verantwortlich.
Diese Aufsicht wirkt sich auch auf die Qualität der Intelligence im weiteren Verlauf aus. Bessere Antworten können zu besseren Offenlegungen durch den Betrüger führen, was wiederum nützlicheres Material für Fraud- und Threat-Intelligence-Teams bedeutet. Das ist besonders wichtig, wenn Teams später bewertete Indikatoren prüfen, False Positives in Scam-Indikator-Feeds reduzieren, die Domain-Reputation in Scam-Untersuchungen bewerten oder wiederverwendete Bilder per Rückwärtssuche nach Gesichtern in Scam-Profilprüfungen vergleichen.
Auch die Grenze ist wichtig: Active Defense hackt niemals zurück. Menschliche Aufsicht wird auf Täuschung und Sammlung durch Gespräche angewendet, nicht auf intrusive Maßnahmen.
Wie Sie einen Anbieter oder Piloten in dieser Kategorie bewerten
Betrachten Sie die Bewertung als Prüfung des operativen Betriebs, nicht als Prüfung einer Demo. Die wichtigste Frage ist, ob der Dienst Ihrem Team Material liefert, das es in bestehende Fraud- und Threat-Intelligence-Arbeit einspeisen kann, ohne den Prozess um den Anbieter herum neu aufzubauen.
Eine praktische Checkliste:
- was der kundenspezifische Feed enthält
- ob ein STIX-2.1-Export verfügbar ist
- ob die gespeicherte Historie einen späteren Neuaufbau des Feeds unterstützt
- wie die Akteursverknüpfung über Chats hinweg erfolgt
- ob Dateien, Sprachnachrichten und Fotos als Artefakte erhalten bleiben
- welcher kommerzielle Einstiegspunkt angeboten wird
- wie schnell der Anbieter auf eine Anfrage antwortet
In dieser Kategorie ist die Struktur des Feeds genauso wichtig wie der Umgang mit Gesprächen. Teams benötigen in der Regel extrahierte Indikatoren, Akteursverknüpfungen und erhaltene Artefakte in einer Form, die sie prüfen, vergleichen und in ihre eigenen Systeme übernehmen können.
Fragen Sie auch nach den Details des Onboardings. Active Defense bietet qualifizierten Leads ein kostenloses Feed-Sample an. Außerdem gibt es einen 90-Tage-Piloten für bis zu 500 Gespräche zu 1.900 EUR netto, der anschließend auf das Abonnement angerechnet wird. Jede Anfrage wird innerhalb von 24 Stunden mit einem einseitigen Architekturüberblick beantwortet.
Wenn der Bereitstellungsort Teil Ihrer Prüfung ist, beachten Sie, dass Konsole und API auf Azure in Deutschland laufen.
Ein guter Pilot sollte Ihrem Team ermöglichen, die Qualität der Ausgaben, die Nutzbarkeit des Feeds und die Eignung für Analysten-Workflows zu beurteilen, bevor breiter ausgerollt wird.
Fragen, die Leser zu Human-in-the-Loop-KI stellen
Wo sitzt die menschliche Prüfung im Ablauf?
Sie sitzt beim ausgehenden Schritt. Active Defense entwirft jede Antwort mit KI, und standardmäßig gibt eine menschliche Operatorin oder ein menschlicher Operator sie vor dem Versand frei.
Damit ist der Prüfpunkt klar: Die KI bereitet die nächste Nachricht vor, aber ein Mensch entscheidet, ob sie das System verlassen soll.
Was passiert ganz am Anfang eines neuen Chats?
Ein Klassifikator prüft jede neue Unterhaltung beim Erstkontakt.
In Messengern wird der Chat in Ruhe gelassen, wenn der Klassifikator unsicher ist. Das unterscheidet sich davon, Unsicherheit als Grund für eine Interaktion zu behandeln.
Wie werden Antworten gesendet, damit sich der Austausch wie ein echter Chat anfühlt?
Antworten gehen mit Tipp-Pausen und in kurzen Nachrichten hinaus.
Für Teams, die Human-in-the-Loop-KI bewerten, ist dieses Detail wichtig, weil Messenger-Unterhaltungen ebenso stark vom Tempo wie von der Formulierung geprägt werden.
Was wird außer reinem Text noch aufbewahrt?
Der Datensatz ist umfassender als ein Transkript. Jede Nachricht wird in dem Moment gespeichert, in dem sie eintrifft.
Außerdem bleiben erhalten:
- Fotos
- Sprachnachrichten
- Dateien
Dateien und Sprachnachrichten werden per SHA-256 gespeichert. Fotos werden zusätzlich mit einem perzeptuellen Hash gespeichert.
Wie sieht die Intelligence-Ausgabe aus?
Die Ausgabe ist ein kundenspezifischer Feed, der aus der gespeicherten Historie neu aufgebaut werden kann. Jeder Kunde erhält einen eigenen Feed mit STIX-2.1-Export.
Aus Nachrichten von Betrügern extrahiert Active Defense:
- Krypto-Wallets
- Bankdaten
- Telefonnummern
- Messenger-Konten
- Links
- Geschenkkarten
- Zahlungs-Handles
- Datei- und Foto-Hashes
Jeder Indikator erhält einen Confidence-Score.
Kann ein Team es vor einem Abonnement ausprobieren?
Ja. Active Defense bietet qualifizierten Leads ein kostenloses Feed-Sample an.
Außerdem gibt es einen 90-Tage-Piloten für bis zu 500 Gespräche zu 1.900 EUR netto, der anschließend auf das Abonnement angerechnet wird.
Konsole und API laufen auf Azure in Deutschland.
Human-in-the-Loop-KI ist nützlich, wenn die Ausgabe nutzbar ist
Human-in-the-Loop-KI lohnt sich bei der Interaktion mit Betrügern nur dann, wenn das Ergebnis zu echter Fraud- und Threat-Intelligence-Arbeit passt. Ein Chat, der nirgendwohin führt, ist nicht der Punkt. Der Wert liegt in einem Feed, den Ihr Team prüfen, vergleichen und in bestehende Workflows übernehmen kann.
Achten Sie dafür auf Ausgaben, die:
- kundenspezifisch sind
- sich aus gespeicherter Historie neu aufbauen lassen
- für die Weitergabe in STIX 2.1 strukturiert sind
- auf Indikatoren mit Confidence-Scoring basieren
- um Verknüpfungen zwischen Chats erweitert sind, die einem Akteur zugeordnet werden
Active Defense macht aus Gesprächen mit Betrügern auf Telegram und per E-Mail genau diese Art von Ausgabe. Teams können mit einem kostenlosen Feed-Sample für qualifizierte Leads oder einem 90-Tage-Piloten für bis zu 500 Gespräche zu 1.900 EUR netto beginnen, der anschließend auf das Abonnement angerechnet wird.