Britische Forscher haben einen Algorithmus entwickelt, der E-Mails auf betrügerische Inhalte überprüft

Lügendetektor per Algorithmus: Software erkennt Schwindler
Kommentare

Betrug – vorzugsweise via E-Mail – ist im Internet an der Tagesordnung. Ein Forscherteam hat jetzt einen Algorithmus entwickelt, der betrügerische E-Mails automatisch erkennen soll. Vor allem Firmen sollen sich mit diesem fortgeschrittenen Lügendetektor vor unlauteren Absichten schützen können. Wir stellen die Software vor und schauen uns nach anderen Programmen um, die menschliches Verhalten durchschauen können.

Jemanden dreist hinters Licht zu führen ist schäbig, aber auch eine Kunst. Im Deutschen erinnern Wörter wie Hochstapler oder Trickbetrüger daran, dass Schwindeleien ein gewisses Maß an Fertigkeiten voraussetzen. Im Englischen spricht man sogar von con artists, also Betrugskünstlern, die besonders in Filmen ein beliebtes Motiv sind. Man erinnere sich nur an Leonardo DiCaprio als Frank Abagnale, jr. in Catch Me If You Can oder George Clooney als Danny Ocean in Ocean’s Eleven. Ähnlich wie Zauberer arbeiten Con Men mit mehr oder minder ausgefeilten Tricks. Das macht sie jedoch für diejenigen durchschaubar, die ihre Maschen und die zugrundeliegenden Muster schon kennen.

Heutzutage finden viele Betrügereien natürlich online statt, häufig via E-Mail. Für die Gauner hat das den Vorteil, durch Gesichtsausdrücke und Stimmlage kein Misstrauen zu erwecken. Bestimmte Varianten sind leicht zu entschlüsseln (etwa diese galaktische Version des klassischen Nigerian-Prince-Scams), aber es gibt auch ausgeklügeltere Betrugsversuche. Jetzt soll ein neuer Algorithmus Firmen dabei helfen, sich besser davor zu schützen.

Eine Lüge erkennen

Ein Forscherteam der in London ansässigen Cass Business School hat das von J.L. Austin und John Searle entwickelte linguistische Konzept der Sprechakttheorie auf eine E-Mail-Datenbank angewandt, um einen fortgeschrittenen Lügendetektor zu bauen, der Täuschungen und die Schwere der Täuschungsversuche in sogenannter computervermittelter Kommunikation ermittelt. Das dergestalt entwickelte Tool fokussiert sich sowohl auf die Wortwahl und die inhaltliche Bedeutung (teils über den Verlauf mehrere Sätze hinweg) als auch auf die in einer Unterhaltung ausgetauschten intertextuellen Signale, gewissermaßen die Metaebene eines Gesprächs.

Ein Lüge, oder anders: ein unaufrichtiger Sprechakt, kann den Forschern zufolge drei Dimensionen haben, als da wären:

  • Verfälschung: der Betrüger sagt Dinge, von denen er weiß, dass sie falsch sind
  • Unterschlagung: der Betrüger enthält Informationen vor
  • Mehrdeutigkeit: der Betrüger drückt sich vage, indirekt oder ausweichend aus

Gleichzeitig wird sich ein Betrüger darum bemühen, seriös zu wirken. Hier ein Beispiel aus dem Paper. Wer ist wohl der Betrüger (Auflösung im nächsten Absatz)? Business partner A oder B?

Business partner A: Good day! We have received an enquiry for the […] reward we requested. Could you please kindly help to check whether the […] has successfully registered the […]? If not then there seems to be an error in your system with processing the reward points […]. Thanks very much for your help!

Business partner B: Is this a joke? I sent in an email asking about an offering of yours on Sept 5. I got an email acknowledging my request, but I received nothing else for over a month. About a week later, […] went ahead and ordered some items with our reward points, including the item I asked about […]. Once again, I got an acknowledgement that you received my email, but absolutely nothing else […]. Thanks

Automatischer Lügendetektor

Aus diesen Prämissen wurden Parameter für eine Text-Mining-Software namens Linguistic Inquiry and Word Count erstellt und auf ein Sample von fast 9.000 E-Mails angewandt. Bei der Untersuchung kam heraus, dass die von Schwindlern verfassten E-Mails häufig auf Personalpronomen verzichteten und versuchten, sprachlich Distanz zwischen ihrer Person und den betrügerischen Informationen herzustellen. Darauf, ihre Mails mit inhaltlichen Beschreibungen der Situation und unnötigen Adjektiven auszustatten, verzichteten die Betrüger meist und pflegten einen neutralen, reduzierten Sprachstil. Wobei es zu beachten gilt, dass geübte Betrüger durchaus in der Lage sind, ausschweifender zu schreiben.

Außerdem zeichneten sich Täuschungen dadurch aus, dass sie mit überstrukturierten Argumenten aufwarteten, um die in ihnen enthaltenen Behauptungen wasserdicht erscheinen zu lassen. Dadurch wirken die Texte häufig wie einstudiert. Die Übernahme des Sprachstils und Verhaltens des E-Mail-Empfängers deutete ebenso auf einen Betrugsversuch hin, wie der Einsatz von Lob, Komplimenten und Wörtern, die Erfolg ausdrücken.

Im Beispiel oben lassen der karge, reduzierte Stil und der weitestgehende Verzicht auf Personalpronomen einen Betrugsversuch im ersten Anschreiben vermuten.

Alternative Ansätze

Die britischen Forscher sind nicht die ersten, die E-Mail-Verkehr auswerten, um Menschen auf die Spur zu kommen, die Unwahrheiten erzählen. Ein Forscherteam an der University of Maryland hat E-Mails von Personen analysiert, die ein „gewaltiges Geheimnis“ geheim hielten. Die Analyse ergab, dass die Testpersonen sich sozialer verhielten und stets extrem wachsam waren. Sie verschickten etwa vermehrt E-Mails als sonst an die Leute, vor denen sie etwas verborgen hielten, und reagierten schneller mit längeren Mails.

Auch Professor Kang Lee von der University of Toronto hat den Lügen den Kampf angesagt. Die von ihm entwickelte Technologie namens Transdermal Optical Imaging erkennt mit einer normalen Kamera die veränderte Durchblutung im Gesicht einer Person, analysiert die Daten mithilfe von Machine-Learning-Algorithmen und stellt fest, ob die Person lügt. Mit seinem Startup Nuralogix will Lee die Technologie via App auch auf dem Smartphone nutzbar machen.

Ähnlich wie die Durchblutung verraten Gestik und Mimik den Lügner. Die Organisation Innocence Project hat eine Software entwickelt, die Lügner anhand der Körpersprache entlarven soll. Dazu hat die Informatikprofessorin Rada Mihalcea mit ihren Kollegen insgesamt 120 Videoaufnahmen ausgewertet und eine Software entwickelt, die nach Bewegungsmustern und Verhaltensweisen sucht, die einen Schwindler überführen können. Damit will die Organisation zu Unrecht verurteilten Menschen helfen. Dank einer Trefferquote von 80 Prozent interessiert sich mittlerweile auch die amerikanische Justiz für die Software.

Kommerzieller Nutzen

Einige der genannten Projekte streben eine kommerzielle Nutzung ihrer Entwicklungen an bzw. halten sie nicht für ausgeschlossen. Das Team an der Cass Business School will bspw. Firmenpersonal an seinen Algorithmen trainieren lassen. Es schlägt Unternehmen darüber hinaus vor, Systeme zu implementieren, die Betrug durch automatisierte Textanalysen auffliegen lassen. Professor Lee sieht das Anwendungsfeld seiner Technologie dagegen eher im Bereich der Marktforschung.

Für Polizei und Sicherheitsbehörden dürften die unterschiedlichen Programme ebenfalls interessant sein. Bleibt nur zu hoffen, dass etwa das oben genannte Innocence Project entgegen der eigenen Intention nicht ein Instrument dafür liefert, das Recht der Angeklagten zu lügen sabotiert. Der geheimdienstlichen Ausmessung des Bürgers könnten Lügendetektoren-Algorithmen ebenfalls dienlich sein. In jedem Fall wird die Profession der con artists – egal ob sie analog oder digital agieren – vermutlich einen schweren Schlag hinnehmen müssen.

Unsere Redaktion empfiehlt:

Relevante Beiträge

Meinungen zu diesem Beitrag

X
- Gib Deinen Standort ein -
- or -