Talk mit Helge Kraas, AI Lead PPI Payments, PPI AG, Hamburg

Wo im Zahlungsverkehr ist künstliche Intelligenz heute produktiv und welchen Nutzen bringt sie?

Künstliche Intelligenz, KI, ist aus dem Bankenalltag nicht mehr wegzudenken, insbesondere bei der Betrugserkennung. Im Zahlungsverkehr fallen riesige Datenmengen an, ideal für KI. Vor allem bei Instant Payments. Die Banken müssen innerhalb von zehn Sekunden entscheiden, ob sie Zahlungen annehmen. KI überwacht permanent alle Zahlungsströme in Echtzeit, erkennt Muster und auch, ob bestimmte Aktionen plausibel sind oder nicht. Zudem macht sie automatisch Korrekturvorschläge. Das gilt für Transaktionsdaten ebenso wie für komplexe Vorgänge. Davon profitieren vor allem Firmenkunden, die der Bank häufig komplexe Zahlungsaufträge erteilen. Immer dann, wenn es um repetitive Aufgaben geht, die einem bestimmten Schema folgen, sollte die Bank über KI nachdenken. Aktuell erleben wir dies bei den Adressdaten, die die Banken künftig nur noch strukturiert angeben dürfen. Für viele Institute wäre es in den teilweise engen Zeitfenstern ohne die Hilfe von KI kaum machbar, unstrukturierte Daten in strukturierte zu überführen. «Maschine schlägt Mensch» – das gilt nicht nur beim Schach, sondern auch im Zahlungsverkehr.

Wo kann KI beim Lastschriftverfahren und bei der digitalen Rechnung Vorteile bringen?

Bei Lastschriften sind die Banken an schnellen Ergebnissen interessiert, da das Verfahren bald ausläuft [A.d.R. in der Schweiz ab 2028]. Trotzdem kann KI helfen, unerwünschte oder fälschlicherweise abgelehnte Lastschriften zu identifizieren, insbesondere bei der Variante ohne Widerspruch. Interessanter wird es bei der elektronischen Rechnung, die sich in der EU und in der Schweiz mit eBill durchsetzt. Deutschland beispielsweise führt die E-Rechnung seit Anfang des Jahres sukzessive für alle Unternehmensgrössen ein. Ich gehe davon aus, dass die Banken in den nächsten Jahren verstärkt in den Markt für E-Rechnungen einsteigen werden, denn mit Request to Pay gibt es ein vom European Payments Council spezifiziertes Format, um Zahlungen anzufordern und – das ist der eigentliche Vorteil – zusätzliche Daten zu übermitteln. Damit wird es möglich, eine E-Rechnung direkt an das Bankkonto zu liefern und von der zahlenden Partei freigeben zu lassen. KI könnte zusätzliche, stärker personalisierte Services ermöglichen. Zum Beispiel: Buy now, pay later. Sie könnte das bisherige Zahlungsverhalten der Kundschaft auswerten, um zu entscheiden, ob sie für solche Angebote in Frage kommt. Für Firmenkunden ist KI bei Supply Chain Finance nützlich, da sie bekannte Muster in diesen komplexen Transaktionen erkennt.

Inwieweit sind heutige KI-Methoden des Datenmanagements für die Nutzung von transaktionsbasierten Echtzeitdaten geeignet?

Das ist eine fast zu zurückhaltende Frage. Wir sehen, dass Zahlungsdienstleister durch die Instant-Payments-Regulierung in der EU immer grössere Datenmengen in immer kürzerer Zeit analysieren müssen. Erste Startups haben bereits angekündigt, auf Basis von Instant Payments ganz neue Ökosysteme aufbauen zu wollen. Ob und wie dies gelingt, wird die Zukunft zeigen. Sicher ist jedoch, dass wir es mit einer regelrechten Datenexplosion zu tun haben. Hinzu kommt, dass die Betrugsraten bei Echtzeittransaktionen vier- bis fünfmal höher sind als bei den klassischen SEPA-Zahlungen, die nach und nach verschwinden werden. Ohne KI-Methoden wird das alles kaum in den Griff zu bekommen sein.

Ich halte es für besonders zielführend, mit spezialisierten, domänenspezifischen KI-Modellen zu arbeiten, die gezielt für die Analyse von Transaktionsmustern und Echtzeitdaten trainiert wurden. Diese fokussierten Modelle sind für den Zahlungsverkehr deutlich effizienter als universelle Systeme. Sie können mit weniger Rechenleistung präzisere Ergebnisse liefern und lassen sich flexibler an die spezifischen Anforderungen des Finanzsektors anpassen.

Der Trend geht hin zu massgeschneiderten KI-Lösungen, die für spezielle Aufgaben im Echtzeit-Zahlungsverkehr optimiert sind.

Insgesamt gehe ich davon aus, dass KI die bisher eingesetzten einfachen regelbasierten Systeme ablösen wird. Sie ist flexibler und viel schneller anpassbar an eine Welt, die sich in immer kürzeren Zyklen verändert.

Welche Rolle wird KI in den nächsten zehn Jahren spielen? 

Payments schreiben wir künftig mit AI, PAIments. Künstliche Intelligenz ist heute schon allgegenwärtig, nicht nur im Backend, sondern auch im Frontend. Wir sind zwar noch weit davon entfernt, dass Kundinnen und Kunden ihre gesamten Finanzgeschäfte mit einem Chatbot erledigen. Aber die Institute arbeiten bereits intensiv an einem KI-gestützten Angebot, das besser auf die individuellen Bedürfnisse zugeschnitten ist. 

Unter der Haube sehen wir, wie KI vor allem bei den ungeliebten Routinetätigkeiten hilft. Schon bald wird KI auch in fachlich anspruchsvollen Bereichen wie dem Cash Management zum Einsatz kommen. Ich gehe davon aus, dass wir den klassischen Hockey-Stick erleben werden. 

Was sind die Haupthindernisse für eine stärkere Nutzung der KI?

Beim Zahlungsverkehr geht es um Vertrauen, Genauigkeit, Zuverlässigkeit und Nachvollziehbarkeit. KI-Lösungen müssen diese Anforderungen erfüllen. Wenn KI skaliert, darf nichts schief gehen. Dafür stehen Konzepte wie Explainable AI oder kurz XAI, die dafür sorgen sollen, dass KI keine Blackbox bleibt, sondern nachvollziehbare Ergebnisse liefert. Warum die Bank eine Zahlung abgelehnt hat, muss auch ein Mensch jederzeit nachvollziehen können. 

Ein weiterer Aspekt ist der Datenschutz. Die Vorschriften sind teilweise so eng gefasst, dass der Regulator selbst vergleichsweise einfache Verfahren wie die logistische Regression als hochriskante KI-Systeme einstufen kann. Das bedeutet für die Banken, dass sie sehr genau dokumentieren und nachweisen müssen, dass ihre KI sauber arbeitet, niemanden diskriminiert und vieles mehr. 

Bei aller Begeisterung für die Möglichkeiten von KI sollten wir nicht blind jedem neuen Hype hinterherlaufen. Manchmal ist der bewährte Weg immer noch der beste. Wenn eine etablierte Methode bereits gut funktioniert, muss ich nicht krampfhaft versuchen, sie durch KI zu ersetzen, nur weil es gerade im Trend liegt.

Welche Risiken bergen KI-gestützte personalisierte Finanzdienstleistungen und wie können wir sie minimieren? 

Der EU AI Act liefert die wichtigsten Kriterien. Bei der Erstellung personalisierter Finanzdienstleistungen arbeiten wir häufig mit personenbezogenen Daten und Merkmalen. Wo wohnt jemand? Was verdient sie oder er? Wie geregelt ist das Einkommen? Das sind Fragen, die bei der Kreditvergabe eine Rolle spielen. Hier müssen die Banken aufpassen, dass sie nicht unbewusst diskriminieren und dass die KI immer nachvollziehbare Entscheidungen trifft. Einige Anwendungsfälle sind für KI von vornherein tabu, etwa ein Social Scoring, das ein bestimmtes, als sozial erwünscht klassifiziertes Verhalten belohnt.

Banken müssen daher darauf achten, dass ihre KI nur das lernt, was sie wirklich wissen muss, um Entscheidungen treffen zu können. «Brunnenvergiftung» nennen wir es, wenn die KI plötzlich Muster erkennt, auf die ein Mensch nicht gekommen wäre. Das kann gewollt oder ungewollt passieren, zum Beispiel wenn auf eingereichten Dokumenten das Geburtsland des Kreditantragsstellers steht. Wenn die KI plötzlich beginnt, diese Daten zu nutzen, obwohl dies nicht vorgesehen ist, kann es zu unerwünschten Verzerrungen kommen.

Daher ist es unerlässlich, den Datenpool, mit dem eine KI arbeitet, zu schützen und sauber zu halten. 

Keine Bank, kein Unternehmen und keine Privatperson sollte blind vertrauen. Studien zeigen, dass Menschen, die KI häufig nutzen, oft weniger kritisch hinterfragen, ob die von der KI gelieferten Informationen wirklich richtig sind. Wir kennen zwar zum Beispiel die offensichtlichen Fehler in einem von KI erzeugten Bild. Aber oft sind die Ungenauigkeiten subtiler. Das Gespür für diese Feinheiten dürfen wir nicht verlieren, wenn wir sicher und effektiv mit KI arbeiten wollen.

Wo stehen wir im KI-Wettrüsten gegen Finanzkriminelle? 

Diese Frage lässt sich kaum seriös beantworten. Es ist ein klassisches Katz-und-Maus-Spiel. Grundsätzlich lauern Cyberkriminelle auf kleine Unachtsamkeiten. Wir kennen das von Zero-Day-Exploits, also Schwachstellen zum Beispiel in Betriebssystemen oder in Software, auf die vorher noch niemand gekommen ist, obwohl sie leicht zu schliessen sind. 

Das wird bei KI nicht anders sein. Denkbar ist, dass es Cyberkriminellen gelingt, eine KI zu «vergiften», indem sie korrupte oder manipulierte Informationen in die Trainingsdaten einspeisen. Oder dass sie durch geschickte Interaktion unberechtigt an sensible Daten gelangen. Cybersicherheit wird also eine grosse Rolle spielen, aber auch methodische Sicherheit. Damit meine ich, dass die Banken merken müssen, wenn sich ihre KI-Algorithmen plötzlich auffällig verhalten.

KI ermöglicht es leider auch, bereits bekannte Betrugsmaschen effizienter auszuführen – etwa noch überzeugendere Phishing-Mails zu versenden oder Deepfakes mit fingierten Anrufen und einer KI zu erstellen, die bereits mit wenigen gesprochenen Worten die Sprache und Stimmlage eines Menschen täuschend echt nachahmt. Eng damit verbunden ist auch die Frage, wer im Schadensfall haftet.

Insgesamt zwingt uns die KI zu dem, was uns schon immer empfohlen wurde: lebenslanges Lernen und Wachsamkeit.

Wie wirken sich Vorschriften wie die DSGVO auf die Nutzung von Daten in der KI für Finanzdienstleistungen aus?

Noch relevanter als die DSGVO ist der EU AI Act, da er erstmals verbindliche Kriterien für den Einsatz von KI schafft. Auch wenn die Schweiz nicht direkt unter diese Verordnung fällt, bleibt sie durch den intensiven Handelsaustausch mit der EU mittelbar betroffen.

Die DSGVO regelt vor allem den Umgang mit Personendaten, die sparsam und zweckgebunden verwendet werden müssen – ein Grundsatz, der den breiten Einsatz von KI bereits heute stark einschränkt. Hinzu kommt das Recht der Betroffenen, sich erklären zu lassen, wie (KI-)Entscheidungen zustande gekommen sind, sowie die Möglichkeit, diese anzufechten.

Der EU AI Act geht noch einen Schritt weiter und teilt KI-Systeme in vier Risikoklassen ein: niedrig, begrenzt, hoch und inakzeptabel. Letztere sind grundsätzlich verboten. Im Finanzsektor werden viele KI-Anwendungen automatisch als Hochrisikosysteme eingestuft – darunter insbesondere Lösungen für Kreditentscheidungen, Betrugsprävention und Geldwäschereibekämpfung. Hier macht der Gesetzgeber klare Vorgaben, insbesondere in Bezug auf Datenqualität, Dokumentation und Transparenz. Vollständig autonome KI-Systeme, die ohne menschliche Kontrolle über die Kreditvergabe entscheiden, sind explizit untersagt.

Für generative KI, wie Chatbots oder Empfehlungssysteme, gelten hingegen weniger strenge Anforderungen. Trotz der regulatorischen Hürden bietet der EU AI Act auch Vorteile: Der klare rechtliche Rahmen schafft Investitionssicherheit. Unternehmen, die sich an die Vorgaben halten, können sicher sein, nicht versehentlich in eine Technologie zu investieren, die später verboten wird. 

Allerdings müssen wir in Europa aufpassen, dass wir es mit der Regulierung nicht übertreiben. Natürlich ist es richtig, hohe Standards für Datenschutz, Transparenz und Fairness zu setzen. Aber wenn das Regelwerk zu komplex und unüberschaubar wird, könnten Unternehmen davon abgehalten werden, KI überhaupt produktiv einzusetzen. Das würde uns im globalen Wettbewerb zurückwerfen – insbesondere gegenüber den USA und China, wo die Entwicklung von KI oft mit weniger regulatorischen Hürden einhergeht.