Am Ende jedes Monats bearbeiten Finanzteams Tausende von Spesenabrechnungen, darunter Flugbelege, Kundendinner, Konferenzreisen und Büroeinkäufe.
Die meisten sehen völlig normal aus.
Versteckt zwischen ihnen könnte sich jedoch etwas völlig Synthetisches befinden: eine Quittung, die nie existiert hat, innerhalb von Sekunden von KI generiert und so gestaltet wurde, dass sie von einer echten Transaktion nicht zu unterscheiden ist.
Das ist die neue Grenze des Spesenbetrugs.
Generative KI kann nun hochrealistische Finanzdokumente in großem Maßstab erstellen. Diese Quittungen bilden Logos von Anbietern, Formatierungsmuster, Preisstrukturen und Zeitstempel mit alarmierender Genauigkeit nach. Was früher Können und Zeit erforderte, kann jetzt sofort mit einem einfachen Prompt erstellt werden.
Moderne generative Modelle werden auf umfangreichen Datensätzen aus Dokumenten, Rechnungen und transaktionalen Artefakten trainiert. Wenn sie dazu aufgefordert werden, "zeichnen“ sie nicht einfach eine Quittung; sie synthetisieren statistisch konsistente Finanzartefakte und bilden dabei Layoutstrukturen, Benennungskonventionen von Anbietern, Steuerformatierungen, Währungsmuster und Auflistungsstile nach.
Mit anderen Worten: Diese Quittungen sind keine groben Fälschungen. Es handelt sich um synthetische Finanzdokumente, die auf erlernten Mustern legitimer Transaktionen basieren.
Das Ergebnis ist eine grundlegende Verschiebung des finanziellen Risikos. Betrug ist nicht mehr durch menschlichen Aufwand begrenzt; er ist nun algorithmisch skalierbar.
Der Aufstieg der KI-Quittungen
Noch vor wenigen Jahren waren betrügerische Quittungen für Unternehmen mit angemessenen Kontrollen relativ leicht zu erkennen. Eine verschwommene Schriftart oder ein verdächtiger Anbietername waren kleine Unvollkommenheiten, die auf möglichen Betrug hindeuteten. Noch wichtiger ist, dass Betrug durch menschliche Anstrengungen begrenzt wurde. Es erforderte Zeit und Geschick, realistische Dokumente zu fälschen, sodass sich die meisten kleineren Betrugsfälle bei Quittungen nicht lohnten. KI hat diese Grenzen aufgehoben.
Heute können Finanzdokumente, die realen Anbietern ähneln, innerhalb von Sekunden erstellt und über Tausende von Einreichungen verteilt werden. Um eine betrügerische Quittung zu erzeugen, muss jemand lediglich eine KI-Engine mit einer Anfrage wie der folgenden auffordern: „Erstellen Sie eine realistische Quittung von Restaurant X in Atlanta, datiert auf den 24. Februar, über insgesamt 522 Dollar.“ Das Modell analysiert dann Tausende von echten Quittungen aus dem angeforderten Restaurant und erzeugt eine einzelne Quittung, die genau den Spezifikationen des Prompts entspricht.
Einige große Sprachmodelle, darunter ChatGPT,, integrieren Schutzmaßnahmen, die die Erstellung betrügerischer Quittungen verhindern, wie etwa Ablehnungsrichtlinien, die solche Anfragen blockieren. Zusätzliche Hürden bestehen über das Modell selbst hinaus: KI kann keine gültigen Transaktions-IDs generieren oder die eingebetteten Metadaten reproduzieren, die in authentischen Quittungen enthalten sind. Diese Schutzmaßnahmen sind jedoch nicht absolut und können bei manueller Überprüfung leicht übersehen werden.
Das Aufkommen von synthetischem Spesenbetrug
Sicherheitsforscher bezeichnen diese aufkommende Kategorie zunehmend als synthetischen Betrug, also als Finanzartefakte, die von Algorithmen erzeugt und nicht von Menschen manipuliert werden.
Im Bereich des Spesenmanagements bedeutet dies KI-generierte Quittungen, Rechnungen oder Reisedokumente, die authentisch erscheinen, denen jedoch keine zugrunde liegende Transaktion zugrunde liegt.
Im Gegensatz zu traditionellem Betrug ist synthetischer Betrug programmierbar, skalierbar und für menschliche Prüfer zunehmend schwer zu erkennen.
Die Fehler bei Legacy-Kontrollen
Finanzkontrollen wurden historisch auf menschliche Überprüfung und Urteilsvermögen aufgebaut, einschließlich der Genehmigungen von Managern, Bewertungen des Finanzteams und periodischer Audits. Diese Systeme verlassen sich auf menschliche Aufsicht, um alles Ungewöhnliche zu erkennen und zu kennzeichnen.
Traditionelle Spesenkontrollen wurden für eine andere Ära entwickelt, eine Zeit, in der Betrug Aufwand, Zeit und menschliches Können erforderte. Genehmigungen durch Manager, Stichprobenprüfungen und manuelle Quittungsprüfungen waren effektiv, wenn betrügerische Dokumente selten und oft schlecht gefälscht waren.
Traditionelle manuelle Prüfungen umfassen nur eine kleine, zufällig ausgewählte Teilmenge der Quittungen und finden in der Regel erst statt, nachdem die Erstattungen bereits ausgezahlt wurden. Bei der Prüfung konzentrieren sich menschliche Prüfer auf offensichtliche Warnsignale wie ungewöhnlich hohe Ausgaben, doppelte Einreichungen oder verdächtige Zeitstempel.
Diese Kontrollen waren jedoch nie darauf ausgelegt, sich gegen maschinell erzeugten Betrug in großem Maßstab zu schützen.
Das ist heute nicht mehr die Realität.
KI-gestützter Betrug bleibt nun innerhalb normaler Bereiche und umgeht unauffällig herkömmliche Kontrollpunkte. Ohne die Möglichkeit, Muster über Tausende von Einreichungen hinweg zu analysieren oder auf eingebettete Metadaten zuzugreifen, ist die manuelle Aufsicht zunehmend wirkungslos.
Ohne die Möglichkeit, Muster über Tausende von Einreichungen hinweg zu analysieren oder auf eingebettete Metadaten zuzugreifen, ist die manuelle Aufsicht zunehmend wirkungslos. Wenn Betrug auf Tausende von Transaktionen ausgeweitet werden kann, kann selbst ein kleiner Prozentsatz unentdeckter Aktivitäten zu erheblichen finanziellen Verlusten führen.
Auswirkungen auf das Betriebsergebnis
Auch wenn ein oder zwei gefälschte Quittungen unbedeutend erscheinen mögen, ermöglicht KI diese Art von Betrug in einem bisher nicht möglichen Ausmaß, wodurch größere Organisationen besonders anfällig werden. Stellen Sie sich ein Finanzteam vor, das 5.000 Spesenabrechnungen pro Monat bearbeitet und durchschnittlich 200 US-Dollar pro Erstattung auszahlt. Das entspricht einem monatlichen Ausgabevolumen von 1 Million US-Dollar.
Wenn nur 2 % dieser Ausgaben betrügerisch sind und unentdeckt bleiben, entstehen monatlich Verluste in Höhe von 20.000 US-Dollar bzw. 240.000 US-Dollar pro Jahr. Steigt die Betrugsrate auf 4 %, steigen die Verluste auf 40.000 US-Dollar pro Monat und fast 500.000 US-Dollar pro Jahr.
Diese einfache Berechnung zeigt, wie selbst ein kleiner Prozentsatz unentdeckten Betrugs erhebliche finanzielle Auswirkungen haben kann, insbesondere da KI-generierte Quittungen an Umfang und Raffinesse zunehmen. In großen Unternehmen, die monatlich Zehntausende von Spesentransaktionen verarbeiten, können sich selbst geringe Betrugsraten im Laufe der Zeit unbemerkt zu finanziellen Verlusten in Millionenhöhe summieren.
Die Folgen gehen über den unmittelbaren finanziellen Verlust hinaus. Wenn betrügerische Dokumente in Finanzunterlagen gelangen, steigen die Prüfungskosten, da Prüfer mehr abrechenbare Zeit für die Überprüfung der Ausgaben aufwenden. Auch die Budgetgenauigkeit kann leiden, da Finanzteams Planungsentscheidungen auf Basis von Daten treffen, die durch Betrug stillschweigend verzerrt wurden.
Einführung von Finance Risk Intelligence (FRI)
Um diesem neuen Umfeld im Ausgabenmanagement zu begegnen, ist eine neue operative Kategorie entstanden, die Unternehmen bei ihrer Weiterentwicklung unterstützt: Finance Risk Intelligence, FRI.
Laut Everest Group, einem globalen Forschungsunternehmen, bietet FRI einen vielschichtigen, KI-gestützten Ansatz für das Risikomanagement. Es verarbeitet und analysiert Tausende von Transaktionen in Echtzeit und integriert sich nahtlos in Systeme wie ERP, Kreditorenbuchhaltung, Spesenmanagement, Beschaffung und Zahlungen.
Die Forschung der Everest Group zeigt, dass sich die Finanzabläufe zwar schnell modernisiert haben, das Risikomanagement jedoch Schwierigkeiten hat, Schritt zu halten. FRI hilft, diese Lücke zu schließen, indem es Unternehmen ermöglicht, über traditionelle, rückblickende Kontrollen hinauszugehen.
Anstatt sich auf regelmäßige Prüfungen oder manuelle Überprüfungen zu verlassen, analysieren FRI-Plattformen kontinuierlich die Finanzaktivitäten in Unternehmenssystemen, einschließlich Spesenmanagement, Beschaffung, Kreditorenbuchhaltung und Zahlungen, und erkennen dabei Risikomuster, sobald sie auftreten.
FRI stellt einen Übergang von reaktiven Finanzkontrollen hin zu kontinuierlicher, KI-gestützter Risikoanalyse dar.
Bei KI-generierten Dokumenten blicken FII-Systeme über das äußere Erscheinungsbild hinaus und analysieren tiefere Signale wie die Konsistenz von Metadaten, Formatierungsstrukturen, den Zeitpunkt der Einreichung und Beziehungen zwischen Feldern. Diese Indikatoren sind für das menschliche Auge oft unsichtbar, aber FRI kann Tausende gleichzeitig analysieren und mit kontinuierlich wachsenden Datensätzen vergleichen.
Anpassung an das neue Zeitalter der Finanzen
Generative KI hat die wirtschaftlichen Rahmenbedingungen des Finanzbetrugs dauerhaft verändert. Was einst schwierig und selten war, kann heute automatisiert, skaliert und offen verborgen werden.
Aber dieselben Technologien, die synthetischen Betrug ermöglichen, ermöglichen auch dessen Erkennung.
In den kommenden Jahren werden die widerstandsfähigsten Finanzorganisationen diejenigen sein, die diese Realität annehmen: In einer KI-gestützten Welt ist die einzige wirksame Verteidigung gegen KI-gestützten Betrug die KI selbst.