Die Bedrohung durch technologiegestützte Betrugsversuche im Internet und über Telekommunikationsnetze hat im Zuge der fortschreitenden Digitalisierung stark zugenommen. Umfragen und Kriminalitätsstatistiken belegen, dass bereits mehr als 70 Prozent der Bürger in Deutschland Ziel von Online-Kriminellen wurden, wobei insbesondere in den urlaubsintensiven Sommermonaten eine Zunahme manipulierter Kontaktaufnahmen registriert wird.
Betrüger nutzen zunehmend generative künstliche Intelligenz (KI), um Stimmen vertrauter Personen oder von Bankangestellten täuschend echt zu klonen oder Gesichter in Videotelefonaten mittels Deepfakes zu simulieren. Sicherheitsanalysten weisen jedoch darauf hin, dass diese Systeme trotz ihrer technologischen Entwicklung im Live-Einsatz spezifische Schwachstellen aufweisen, die von Verbrauchern gezielt überprüft werden können.
Ein zentraler technologischer Schwachpunkt vieler aktueller KI-Systeme ist die erforderliche Rechenzeit für die Sprach- und Bildverarbeitung in Echtzeit. Wenn ein Gespräch unvorhersehbar verläuft, entstehen oft subtile Verzögerungen im natürlichen Redefluss. Experten empfehlen daher, verdächtige Anrufer mit schnellen, direkt aufeinanderfolgenden Fragen zu konfrontieren, die den Rhythmus brechen. Während sich ein menschliches Gegenüber sofort anpasst und dabei typische Füllwörter verwendet, reagieren automatisierte Systeme meist zeitversetzt oder behandeln jede Frage isoliert voneinander. Ähnliche Defizite zeigen sich bei manipulierten Videos: Wird das Gegenüber spontan aufgefordert, die Kamera zu drehen oder mit Gegenständen im Raum zu interagieren, versagen die Algorithmen häufig, was sich in unnatürlichen Bildausrichtungen oder asynchronen Hintergrundbewegungen äußert.
Darüber hinaus lassen sich künstlich erzeugte Medien durch eine genaue Beobachtung anatomischer und sprachlicher Details entlarven. KI-Modelle weisen nach wie vor Defizite bei der präzisen Synchronisation von Lippenbewegungen und gesprochenen Lauten auf, insbesondere bei sogenannten Plosivlauten wie „P“, „B“ oder „M“, bei denen der menschliche Mund vollständig geschlossen sein muss. Auch das Blinzelverhalten liefert wichtige Indizien, da es bei künstlichen Gesichtern oft starr, mathematisch gleichmäßig oder völlig losgelöst vom Kontext des Gesagten erfolgt. Ein weiterer effektiver Prüfstein ist der bewusste Einsatz von Ironie, Sarkasmus oder absurd formuliertem Humor. Da generative Sprachmodelle Texte primär auf Basis von Wahrscheinlichkeiten analysieren, interpretieren sie doppeldeutige Aussagen meist rein wörtlich und verharren starr in ihrem vorgegebenen Gesprächsskript.
Kritische Marktbeobachter betonen jedoch, dass die Eigenverantwortung der Verbraucher an Grenzen stößt, da sich die Qualität synthetischer Medien rasant verbessert. Das Erkennen von Manipulationen im privaten Umfeld wird durch den psychologischen Druck, den Betrüger etwa bei Schockanrufen aufbauen, zusätzlich erschwert. IT-Sicherheitsexperten fordern daher, dass der Schutz vor KI-Betrug nicht allein auf die Wachsamkeit der potenziellen Opfer abgewälzt werden darf. Vielmehr seien Finanzinstitute und Telekommunikationsanbieter in der Pflicht, robustere technische Abwehrmechanismen und automatisierte Verifikationsverfahren zu implementieren, um manipulierte Datenströme bereits vor der Zustellung an den Endverbraucher zu blockieren.