KI auf Firmenkarten: Betrugserkennung, Ausgabenkontrolle und EU AI Act

Eine Firmenkarte wird abgelehnt, obwohl die Zahlung eigentlich zulässig ist. Eine andere Transaktion wird automatisch als verdächtig markiert. Gleichzeitig schlägt eine Software ein niedrigeres Kartenlimit vor, weil eine Person in den vergangenen Monaten häufiger außerhalb der üblichen Kategorien eingekauft hat.

Spätestens dann stellt sich für das Finanzteam eine wichtige Frage: Bewertet die Software nur einzelne Zahlungen oder bereits die Personen dahinter?

Diese Unterscheidung ist entscheidend. Das Etikett „Künstliche Intelligenz“ sagt allein noch nicht, ob ein System nach dem EU AI Act als Hochrisiko-System gilt. Entscheidend sind der konkrete Zweck, die verwendeten Daten und die Auswirkungen auf betroffene Personen.

Dieser Beitrag erklärt, wie Unternehmen KI-Funktionen auf Firmenkarten einordnen können, welche Anforderungen der EU AI Act aktuell stellt und welche Fragen Finanzteams an Kartenanbieter richten sollten.

Welche KI-Funktionen gibt es auf Firmenkarten?

Auf Firmenkarten kommen unterschiedliche Formen von Automatisierung zum Einsatz. Nicht jede davon verwendet künstliche Intelligenz.

Eine feste Regel kann beispielsweise vorgeben, dass eine Karte höchstens 2.500 Euro pro Monat ausgeben darf oder Zahlungen bei bestimmten Händlerkategorien ablehnt. Auch eine zeitliche Einschränkung, etwa die Sperre von Wochenendzahlungen, kann regelbasiert umgesetzt werden.

Andere Systeme analysieren historische Transaktionen und erkennen Muster. Sie markieren eine Zahlung, wenn Betrag, Händler, Ort oder Zeitpunkt deutlich vom bisherigen Verhalten abweichen. Wieder andere Anwendungen lesen Belege automatisch aus, schlagen Kategorien oder Kostenstellen vor und erkennen doppelte oder unvollständige Belege.

Für die rechtliche Einordnung ist deshalb zunächst eine Bestandsaufnahme nötig:

• Welche Funktion verwendet tatsächlich ein KI-System?

• Welche Entscheidung trifft das System?

• Welche Daten werden verarbeitet?

• Bezieht sich die Entscheidung auf eine Transaktion oder auf eine Person?

• Kann ein Mensch die Entscheidung nachvollziehen und ändern?

Ein System, das eine einzelne Zahlung zur Prüfung markiert, ist anders zu bewerten als ein System, das Mitarbeitende dauerhaft bewertet und daraus individuelle Kartenlimits ableitet.

Ist KI-Betrugserkennung auf Firmenkarten ein Hochrisiko-System?

Eine Transaktionsprüfung zur Erkennung von Finanzbetrug ist laut dem EU AI Act nicht automatisch ein Hochrisiko-System.

Darin erfasst sind auch KI-Systeme zur Bewertung der Kreditwürdigkeit natürlicher Personen oder zur Ermittlung eines Kreditscores. Die Vorschrift nimmt Systeme zur Aufdeckung von Finanzbetrug ausdrücklich aus.

Das bedeutet jedoch nicht, dass Betrugserkennung generell vom EU AI Act ausgenommen ist. Die Ausnahme bezieht sich auf diesen konkreten Hochrisiko-Anwendungsfall. Andere Vorschriften können weiterhin gelten, insbesondere wenn die Software personenbezogene Daten verarbeitet oder Auswirkungen auf Mitarbeitende hat.

Eine Transaktion kann beispielsweise anhand folgender Merkmale geprüft werden:

• ungewöhnlich hoher Betrag

• unbekannter Händler

• ungewöhnlicher Ort

• atypische Uhrzeit

• Abweichung von einer Ausgabenrichtlinie

• fehlender Beleg

• doppelte oder widersprüchliche Transaktionsdaten

In diesem Fall bewertet das System zunächst eine Zahlung. Es kann sie markieren, zur manuellen Prüfung zurückhalten oder eine zusätzliche Bestätigung verlangen.

Die rechtlich relevanteste Frage lautet deshalb:

Die Einordnung sollte für jede KI-Funktion einzeln dokumentiert werden. Eine pauschale Aussage wie „Unsere Karten-KI ist kein Hochrisiko-System“ reicht dafür nicht aus.

Wann wird die Bewertung von Mitarbeitenden kritisch?

Kritischer wird es, wenn die Software aus Kartenzahlungen Rückschlüsse auf einzelne Mitarbeitende zieht.

Ein Beispiel: Ein System erkennt, dass sechs Personen häufiger außerhalb ihrer üblichen Kategorien einkaufen. Es weist ihnen daraufhin automatisch einen höheren Risikowert zu und schlägt niedrigere Monatslimits vor.

Hier bewertet die Software nicht mehr nur einzelne Transaktionen. Sie erstellt ein personenbezogenes Verhaltensmuster und verwendet dieses möglicherweise für eine Entscheidung über die betroffenen Personen.

Der EU AI Act erfasst bestimmte KI-Systeme im Beschäftigungskontext, insbesondere Systeme zur Überwachung oder Bewertung von Leistung und Verhalten oder zur Zuweisung von Aufgaben aufgrund individueller Eigenschaften oder Verhaltensdaten.

Außerdem gilt: Ein KI-System aus Anhang III wird nach Artikel 6 Absatz 3 des EU AI Act immer als Hochrisiko-System betrachtet, wenn es Profiling natürlicher Personen durchführt.

Das bedeutet nicht, dass jede Auswertung von Kartendaten automatisch Profiling ist. Finanzteams sollten jedoch genau prüfen, ob das System:

• personenbezogene Risikowerte bildet

• Mitarbeitende miteinander vergleicht

• Verhalten über längere Zeit bewertet

• individuelle Limits aus persönlichen Mustern ableitet

• Entscheidungen über Personen automatisiert vorbereitet

• Ausgabedaten für Leistungs- oder Verhaltensbewertungen verwendet

Eine reine Transaktionsprüfung kann davon klar abgegrenzt werden. Diese Abgrenzung sollte der Anbieter jedoch nachvollziehbar dokumentieren.

KI kann ungewöhnliche Kartentransaktionen markieren, während Finanzteams die Entscheidung nachvollziehen und prüfen.

Sind automatische Kartensperren Hochrisiko-KI?

Eine automatische Kartensperre ist nicht allein deshalb ein Hochrisiko-System, weil sie eine unmittelbare Auswirkung auf eine Person hat.

Wenn eine Zahlung aufgrund eines ungewöhnlichen Betrags oder eines unbekannten Händlers blockiert wird, verfolgt das System zunächst den Zweck der Betrugsabwehr. Das kann anders zu bewerten sein als eine Sperre, die aus einem personenbezogenen Risikoprofil entsteht.

Trotzdem ist eine Kartensperre für die betroffene Person besonders relevant. Sie kann dazu führen, dass eine Hotelrechnung nicht bezahlt, ein Kundentermin nicht wahrgenommen oder eine Geschäftsreise unterbrochen wird.

Deshalb sollten Unternehmen für automatische Sperren strengere Kontrollen vorsehen. Eine betroffene Person sollte schnell erfahren können, warum eine Zahlung blockiert wurde und wer die Entscheidung überprüfen kann.

In vielen Fällen ist ein abgestuftes Verfahren sinnvoll: Zuerst markiert die Software die Zahlung. Anschließend prüft eine zuständige Person den Vorgang. Nur bei einem bestätigten Risiko wird die Karte gesperrt.

Was ist der Unterschied zwischen KI und festen Ausgabenregeln?

Eine feste Ausgabenregel wird von Menschen definiert und anschließend automatisch ausgeführt. Dazu gehören beispielsweise ein Kartenlimit, eine Händlerkategorie oder eine Freigabegrenze.

Eine solche Regel ist nicht automatisch ein KI-System. Das gilt auch dann, wenn sie in einer modernen Kartenplattform eingerichtet wird.

Spendesk beschreibt für seine Karten unter anderem feste Ausgabenlimits, Einschränkungen nach Händlerkategorie, zeitliche Regeln sowie Freigabeworkflows. Diese Kontrollen können von Finanzteams konfiguriert und nachvollzogen werden. Weitere Informationen finden Sie in der Übersicht zu Ausgabensteuerung bei Spendesk.

Davon zu unterscheiden sind KI-basierte Funktionen, die aus Daten lernen oder Muster erkennen. Spendesk beschreibt unter anderem automatische Belegerfassung, Vorschläge für Ausgabedaten, Erkennung doppelter oder unvollständiger Belege sowie KI-basierte Prüfungen auf ungewöhnliche Ausgaben. Diese Funktionen sollten nicht mit regelbasierten Kartenlimits gleichgesetzt werden. Weitere Informationen finden Sie auf der Seite zu Karten und KI-basierter Automatisierung.

Welche Fristen des EU AI Act sind relevant?

Der EU AI Act gilt nicht mit einer einzigen Frist für alle Pflichten. Die Anwendung erfolgt stufenweise.

Seit Februar 2025 gelten unter anderem erste Verbote und die Pflicht zur Entwicklung von KI-Kompetenz. Die aktuelle Fassung von Artikel vier verpflichtet Anbieter und Betreiber, Maßnahmen zur Entwicklung der KI-Kompetenz von Mitarbeitenden und weiteren Personen zu unterstützen, die KI-Systeme in ihrem Auftrag bedienen oder nutzen. Unternehmen müssen dabei den konkreten Einsatz, die Kenntnisse der beteiligten Personen und den betroffenen Personenkreis berücksichtigen.

Seit August 2026 gelten weitere zentrale Vorschriften des EU AI Act. Dazu gehören unter anderem Transparenzpflichten nach Artikel 50 sowie die erweiterten Aufgaben der zuständigen Aufsichtsbehörden. Für bestimmte bereits bestehende Systeme gelten Übergangsregelungen bis Dezember 2026.

Die Hochrisiko-Pflichten für Systeme gelten nach aktueller Rechtslage ab Dezember 2027. Hochrisiko-Systeme, die in regulierte Produkte nach Anhang I eingebettet sind, fallen ab August 2028 unter die entsprechenden Pflichten.

Diese Fristen ergeben sich aus dem aktuellen konsolidierten Text des EU AI Act und der Verordnung zum Digital Omnibus auf EUR-Lex.

Unternehmen sollten nicht bis zum Beginn der Hochrisiko-Frist warten. Die Einstufung, Dokumentation, Datenprüfung und Abstimmung mit Datenschutz und Betriebsrat brauchen Zeit.

Welche Transparenzpflichten gelten?

Wenn Mitarbeitende direkt mit einem KI-System interagieren, kann eine Information darüber erforderlich sein, dass sie mit einem KI-System arbeiten. Das kann beispielsweise einen Chatbot in einer Karten- oder Ausgabenanwendung betreffen.

Die genaue Pflicht hängt von der Funktion und der Rolle des Unternehmens ab. Die Transparenzregeln nach Artikel 50 richten sich teilweise an Anbieter, teilweise an Betreiber und gelten nicht für jede Form automatisierter Verarbeitung gleichermaßen.

Für eine Kartenplattform sollte daher geklärt werden:

• Werden Mitarbeitende direkt mit einem KI-System konfrontiert?

• Werden automatisch erzeugte Inhalte oder Empfehlungen angezeigt?

• Wird eine Zahlung, ein Beleg oder ein Ausgabelimit durch KI bewertet?

• Welche Erklärung erhält eine betroffene Person?

• Gibt es eine Kontaktperson für Rückfragen?

Eine kurze Erklärung wie „Diese Zahlung wurde wegen eines ungewöhnlichen Musters zur Prüfung markiert“ ist hilfreicher als der pauschale Hinweis „Die KI hat entschieden“.

DSGVO und automatisierte Entscheidungen

Der EU AI Act ersetzt die Datenschutz-Grundverordnung nicht. Besonders relevant ist Artikel 22 DSGVO, wenn eine Entscheidung ausschließlich automatisiert getroffen wird und rechtliche oder ähnlich erhebliche Auswirkungen hat.

Ob eine abgelehnte Kartenzahlung diese Schwelle erreicht, hängt vom konkreten Fall ab. Eine kurzfristige zusätzliche Prüfung kann anders zu bewerten sein als eine dauerhafte Sperre oder eine automatische Senkung des persönlichen Kartenlimits.

Eine menschliche Prüfung reicht außerdem nicht immer automatisch aus. Die zuständige Person muss die Entscheidung tatsächlich nachvollziehen, bewerten und ändern können. Eine rein formale Bestätigung einer bereits feststehenden Systementscheidung ist möglicherweise nicht ausreichend.

Unternehmen sollten deshalb festlegen, wer eine Ablehnung oder Sperre prüfen darf, welche Reaktionszeit gilt und wie die Entscheidung dokumentiert wird.

Wann muss der Betriebsrat beteiligt werden?

Wenn eine technische Einrichtung objektiv geeignet ist, Verhalten oder Leistung von Mitarbeitenden zu überwachen, kann die Mitbestimmung nach dem Betriebsverfassungsgesetz greifen.

Das bedeutet nicht, dass jede Kartenkontrolle automatisch mitbestimmungspflichtig ist. Eine sachliche Prüfung von Transaktionen zur Betrugsabwehr ist anders zu bewerten als ein System, das Ausgabeverhalten dauerhaft analysiert und daraus Bewertungen einzelner Mitarbeitender erstellt.

Beziehen Sie den Betriebsrat und die Datenschutzbeauftragten deshalb frühzeitig ein, wenn eine Kartenplattform personenbezogene Auswertungen, Risikowerte oder individuelle Limits verwendet.

Für Hochrisiko-Systeme im Beschäftigungskontext sieht Artikel 26 Absatz sieben des EU AI Act außerdem eine Information der Arbeitnehmervertretung und der betroffenen Mitarbeitenden vor, bevor das System eingesetzt wird.

Welche Protokolle sollte ein Unternehmen führen?

Jede KI-basierte oder automatisierte Kartenentscheidung sollte nachvollziehbar dokumentiert werden. Im Idealfall kann das Finanzteam später erklären, warum eine Zahlung markiert, abgelehnt oder eine Karte gesperrt wurde.

Der Prüfpfad sollte mindestens den Auslöser, die angewendete Regel oder Modellversion, die Begründung, den Zeitstempel und die menschliche Folgemaßnahme enthalten.

Bei einer auffälligen Hotelzahlung könnte der Eintrag beispielsweise festhalten, dass der Betrag außerhalb des üblichen Rahmens lag, die Zahlung zur manuellen Prüfung markiert wurde und eine bestimmte Person sie anschließend freigegeben hat.

Für Hochrisiko-Systeme verlangt Artikel 26 Absatz sechs des EU AI Act, dass Betreiber automatisch erzeugte Protokolle, soweit sie ihrer Kontrolle unterliegen, grundsätzlich mindestens sechs Monate aufbewahren. Andere unionsrechtliche oder nationale Vorschriften, insbesondere Datenschutzrecht, können zusätzlich relevant sein.

Auch wenn eine Kartenfunktion nicht als Hochrisiko-System gilt, ist ein nachvollziehbarer Prüfpfad sinnvoll. Er unterstützt die interne Kontrolle, erleichtert die Bearbeitung von Beschwerden und hilft bei der Prüfung von Fehlentscheidungen.

Welche Nachweise sollte der Kartenanbieter liefern?

Unternehmen sollten sich nicht mit der Aussage zufriedengeben, ein Anbieter sei „AI-Act-konform“. Eine solche pauschale Erklärung sagt wenig über die konkrete Funktion aus.

Verlangen Sie für jede KI- oder Automatisierungsfunktion eine verständliche Beschreibung. Dazu gehören Zweck, verwendete Daten, Entscheidungsausgabe, menschliche Kontrolle und bekannte Grenzen.

Außerdem sollte der Anbieter erklären:

• ob die Funktion als KI-System eingestuft wird

• welche Risikokategorie der Anbieter zugrunde legt

• ob personenbezogene Profile erstellt werden

• ob Daten für das Training oder die Verbesserung von Modellen verwendet werden

• wie lange Eingaben, Ergebnisse und Protokolle gespeichert werden

• ob das Finanzteam Entscheidungen übersteuern kann

• welche Informationen betroffene Mitarbeitende erhalten

• welche Unterauftragsverarbeiter beteiligt sind

• wie Sicherheits- und Datenschutzanforderungen umgesetzt werden

Spendesk beschreibt auf seiner Seite zu KI und Automatisierung unter anderem regelbasierte Freigaben, Ausgabenlimits, KI-basierte Automatisierung und eine Ausrichtung auf europäische Anforderungen. Für die rechtliche Bewertung bleibt entscheidend, welche Funktion ein Unternehmen tatsächlich aktiviert und wie sie konfiguriert wird.

Wie relevant ist das Thema Betrugserkennung?

Die Relevanz von Betrugserkennung nimmt zu. Die Europäische Zentralbank und die Europäische Bankenaufsichtsbehörde berichten für 2024 von Zahlungsbetrug in Höhe von 4,2 Milliarden Euro im Europäischen Wirtschaftsraum, gegenüber 3,5 Milliarden Euro im Jahr 2023. Die Zahlen umfassen verschiedene Zahlungsarten und beziehen sich nicht nur auf Firmenkarten. Weitere Informationen enthält der gemeinsame Bericht von EZB und EBA.

KI kann Finanzteams dabei helfen, ungewöhnliche Vorgänge schneller zu erkennen. Sie ersetzt aber nicht automatisch die menschliche Prüfung. Gerade bei Firmenkarten muss zwischen einem Schutzmechanismus für Zahlungen und einer Bewertung von Mitarbeitenden unterschieden werden.

Was sollten Finanzteams jetzt tun?

Beginnen Sie mit einer Inventarisierung aller automatisierten und KI-basierten Funktionen. Dazu gehören nicht nur offensichtliche KI-Features, sondern auch automatische Limitvorschläge, Anomalieerkennung, Belegbewertung und individualisierte Freigaben.

Ordnen Sie anschließend jede Funktion ihrem Zweck zu. Prüft sie eine Transaktion, unterstützt sie eine Freigabe oder bewertet sie eine Person? Je stärker eine Funktion personenbezogene Entscheidungen beeinflusst, desto früher sollten Datenschutz, Arbeitsrecht und Betriebsrat einbezogen werden.

Legen Sie außerdem einen standardisierten Prüfprozess für neue Funktionen fest. Bevor eine KI-Funktion aktiviert wird, sollte das Finanzteam die Datenkategorien, den Prüfpfad, die menschliche Übersteuerung und die Kommunikationspflichten dokumentieren.

Fazit

KI auf Firmenkarten ist nicht automatisch Hochrisiko-KI. Eine Funktion, die einzelne Transaktionen zur Betrugserkennung markiert, ist anders zu bewerten als ein System, das Mitarbeitende anhand ihres Ausgabeverhaltens profiliert oder individuelle Limits aus persönlichen Mustern ableitet.

Für Unternehmen zählt deshalb nicht die Bezeichnung einer Funktion, sondern ihr konkreter Zweck und ihre tatsächliche Wirkung.

Finanzteams sollten feste Ausgabenregeln klar von KI-basierten Analysen trennen, jede Funktion einzeln dokumentieren und Kartenanbieter nach Risikoeinstufung, Datenverarbeitung, Protokollen und menschlicher Kontrolle fragen.

Der EU AI Act schafft dafür einen zeitlichen Rahmen. Die Hochrisiko-Pflichten für bestimmte Systeme nach Anhang III beginnen nach aktueller Rechtslage im Dezember 2027. Die Vorbereitung sollte jedoch früher beginnen, damit Finanzteam, Datenschutz, Betriebsrat und Anbieter ausreichend Zeit für die Prüfung haben.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine rechtliche Beratung. Die Einstufung einer konkreten Karten- oder Ausgabenlösung sollte vor dem Rollout rechtlich und datenschutzrechtlich geprüft werden.