BANKINGNEWS: Viele Banken experimentieren derzeit mit generativer KI, während gleichzeitig der regulatorische Druck wächst. Wo sehen Sie aktuell das größte Spannungsfeld zwischen dem Innovationstempo und den regulatorischen Schutzmechanismen?
Roderick Crawford: Bei der KI-Governance. Banken müssen dem Regulierer nachweisen können, dass sie ihre agentenbasierten und generativen KI-Lösungen tatsächlich kontrollieren und steuern können. Ein Proof of Concept reicht dafür nicht. Hier befinden sich die Banken noch in einer Lernphase, und das bremst sie aktuell aus. Tatsächlich verfügen – Stand heute – nur 11 Prozent der Banken über ein funktionierendes KI-Governance-Framework. Das hat eine Studie von IDC und SAS im Frühjahr ergeben. Mit einem solchen KI-Governance-Framework sind sie aber deutlich besser aufgestellt, um dem Regulierer nachzuweisen, dass die KI-Modelle deterministisch – also streng berechenbar und jederzeit reproduzierbar – arbeiten und damit die geforderte Auditierbarkeit bieten. Speziell in Europa ist die Lücke zwischen diesem Anspruch und dem heutigen Stand noch groß.
Bei KI-Anwendungen betont die BaFin unter anderem Nachvollziehbarkeit, Risikomanagement, Datenqualität und klare Verantwortlichkeiten. Was bedeutet das konkret für eine nachhaltige KI-Governance in Banken?
Roderick Crawford: Es muss eine zentrale Kontrolle und Auditierbarkeit geben. Genau darauf zielt der SAS AI Navigator, den wir den Finanzinstituten ab dem dritten Quartal dieses Jahres an die Hand geben.
Jonathan Steele: Der KI-Bereich ist aus technologischer Sicht enorm unübersichtlich. Es gibt neue Marktteilnehmer, die noch vor zwölf Monaten völlig unbekannt waren und die den Banken viel an neuen Möglichkeiten versprechen. Die Fähigkeit, Transparenz im Unternehmen darüber herzustellen, was KI-Modelle tun und wie daraus Entscheidungen abgeleitet werden, war deshalb noch nie so wichtig wie heute. Gerade wenn LLMs und generative KI tatsächlich im Kundenkontakt eine Rolle spielen sollen, müssen Banken wissen, was in der Blackbox vorgeht. Und sie müssen es sowohl ihrer internen Revision als auch dem Regulierer nachweisen können.
„In manchen Finanzmärkten können Verantwortliche potenziell im Gefängnis landen, wenn KI außer Kontrolle gerät“
Welche Fehler beobachten Sie in der Praxis am häufigsten, wenn Banken KI-Governance-Strukturen aufbauen? Und woran erkennt man, dass Governance nicht bloß ein Kontrollmechanismus ist, sondern ein Wegbereiter für Skalierung?
Crawford: Banken beginnen bereits, Proof of Concepts zu erstellen und KI-Projekte in Produktion zu bringen, bevor sie überhaupt das Governance-Framework etabliert haben. Noch dazu haben die meisten bislang keine Funktion wie die eines Chief AI Officer installiert, der übergreifend über alle Datensilos der Bank wacht. Ohne diese Verantwortlichkeit ist es sehr schwierig, die Übersicht zu behalten. Idealerweise hätte der Vorstandsvorsitzende ein Dashboard auf seinem Schreibtisch, auf dem er alle KI-Projekte der Bank sieht – was grün, gelb und rot ist – und sofort handeln kann. Die Risiken sind beträchtlich – nicht nur operativ, sondern auch, was die Reputation angeht. In manchen Finanzmärkten können Verantwortliche potenziell im Gefängnis landen, wenn KI außer Kontrolle gerät. Andererseits stehen Banken massiv unter Druck, im KI-Rennen mit ausländischen Wettbewerbern mitzuhalten. Das wird früher oder später zwangsläufig zu Fehlern führen. Diese Fehler aber müssen verhindert oder zumindest abgefedert werden.
Steele: Ermutigend finde ich, dass in meinen Gesprächen mit Chief AI Officers Sicherheit und Verantwortung neben Innovation ganz oben auf der Agenda stehen – wenn es diese Rolle denn bereits gibt. Sie sind sich der Konsequenzen eines Fehlschlags sehr wohl bewusst. Es geht also um die Balance zwischen der Begeisterung für die Möglichkeiten – und was diese an Transformation, Kosteneinsparung, Innovation sowie smarteren, schnelleren Entscheidungen freisetzen können – und der verantwortungsvollen Umsetzung.
Crawford: Ich habe mich kürzlich mit dem CRO einer großen globalen Bank ausgetauscht. Seine Aussage war erstaunlich und gleichzeitig besorgniserregend: „Unter dem Druck, KI-Lösungen einzuführen, bin ich an dem Punkt, an dem ich mir um die Daten gar nicht mehr so viele Gedanken mache. Ich muss KI einfach ins Geschäft bringen.“ Genau dieser Druck baut sich in den Finanzinstituten auf. Wenn die Datenqualität aber nicht zumindest annähernd perfekt ist, dann spielt es keine Rolle, wie viel Sie in künstliche Intelligenz investieren – die Ergebnisse werden schlecht ausfallen.
„Eine Bank muss jederzeit wissen, was ein Modell tut und wie sie es angemessen steuert“
Gehen wir eine Ebene tiefer. Gerade generative KI wirft Fragen zu Modellrisiken, Halluzinationen und menschlicher Aufsicht auf. Welche Anwendungsfälle eignen sich Ihrer Ansicht nach bereits für den Produktiveinsatz, und wo sollten Banken noch besondere Vorsicht walten lassen?
Crawford: Wir sehen KI-Anwendungen in fünf Bereichen: Schaden- und Prozessautomatisierung, Underwriting und Risikobewertung, virtuelle Assistenten und Co-Piloten im Kundenservice, Dokumentenintelligenz und Betriebsautomatisierung sowie Betrugserkennung, Compliance und Monitoring. Aber: Solange wir künstliche Intelligenz und ihre Auswirkungen auf Finanzorganisationen nicht wirklich verstehen, muss in vielen dieser Bereiche der Mensch eingebunden sein, damit wir am Endpunkt sagen können: Ja, diesem Ergebnis vertrauen wir. Genau darauf werden Regulierer pochen, insbesondere in Europa.
Steele: Wir stehen noch ganz am Anfang dieser Reise. Die Anwendungsfälle werden sich in den nächsten 3, 5 oder 10 Jahren dramatisch verändern. Nur ein Beispiel: Es wird auch in Bereiche wie Geldwäschebekämpfung und Compliance gehen, vielleicht in eine automatisierte Compliance gegenüber dem Regulierer, bei der die Zyklen rund um diese anspruchsvollen Aufgaben drastisch verkürzt werden.
Crawford: Aktuell beobachten wir ein weiteres potenzielles Problem: Banken setzen Agenten punktuell ein – ein Agent für dies, ein Agent für das. Jetzt stehen sie vor der Aufgabe, diese zu orchestrieren und miteinander zu verknüpfen. Das ist nicht nur eine Frage der Effizienz, sondern auch der Sicherheit: Wenn etwa ein Fehler in einem Modell auftritt, wird dieser an das nächste Modell weitergegeben und potenziert, dann an das nächste System weitergereicht und erneut potenziert. Diese Verknüpfung muss also in einer kontrollierten, gesteuerten und sicheren Umgebung stattfinden, damit am Ende des Prozesses die vom Regulierer geforderte Auditierbarkeit gewährleistet ist. Jede Bank geht das bislang anders an – aber wenn es darum geht, dies zu skalieren, werden die Institute nicht auf Plattformen wie SAS Intelligent Decisioning verzichten können, um Abhängigkeiten eingesetzter KI-Agenten untereinander transparent zu machen.
Steele: Die Vernetzung eines Modell-Ökosystems ist nicht zu unterschätzen. Eine Bank muss jederzeit wissen, was ein Modell tut und wie sie es angemessen steuert. Mit welchen Datenquellen und weiteren Modellen ist es verbunden. Wir beschäftigen uns seit vielen Jahren mit Model Risk Management, das sehr eng mit KI-Governance verknüpft ist. Es gibt neben SAS am Markt kaum eine andere Plattform für Modellrisiken, die eine Steuerung über das gesamte Modell-Ökosystem hinweg ermöglicht. Das ist komplex – einer einfachen Inventarisierung gelingt das nicht.
Crawford: Aktuell ist es eine sehr herausfordernde Zeit für Chief Risk Officer in Banken. Ja, sie sind für die Risikomodelle eines Finanzinstituts verantwortlich, aber eben nicht nur. Aus Sicht des Regulierers sind sie vermutlich für sämtliche Modelle innerhalb der Organisation verantwortlich. Historisch hatten sie über diese Modelle wahrscheinlich gar keinen Überblick. Sie brauchen also unbedingt die Möglichkeit, diese Modelle zu validieren und in ihren Modellbestand aufzunehmen. Mit Bordmitteln geht das quasi nicht.
„Den größten Einfluss auf die Performance von Finanzinstituten wird KI beim Kundenerlebnis haben“
Werfen wir einen globalen Blick darauf. Sie arbeiten mit Kunden im internationalen Bankensektor. Wie unterscheiden sich Banken in Europa, den USA und Asien in ihrem Umgang mit KI? Etwa hinsichtlich Risikobereitschaft, Regulierung, Datenstrategie oder operativer Umsetzung?
Crawford: Es gibt einen klaren Vorreiter bei der KI-Adoption: die Vereinigten Staaten. Sie sind, wie man so sagt, aus den Startlöchern heraus. Erheblich hilft ihnen dabei das abnehmende Regulierungsniveau, was bedeutet, dass sie weniger umsichtig herangehen und KI in hohem Tempo einsetzen. Mit Blick auf Asien ohne Japan: nicht weit hinter den USA. Japan ist, wie erwartet, recht konservativ in seinem Ansatz, obwohl die Regulierung dort nicht so streng ist wie in der Europäischen Union. Die Region, die am wenigsten KI in Produktion gebracht hat, ist Europa. Und das liegt schlicht daran, dass Europa so stark reguliert ist, was kurzfristig ein Nachteil ist. Langfristig wird Europa aufgrund dieses umsichtigeren, vorsichtigeren Ansatzes bei der KI-Einführung – was die Robustheit der eingesetzten Lösungen angeht – meiner Ansicht nach hervorragend abschneiden. Trotzdem: Es bleibt ein Wettrennen. Eines der zentralen Ziele beim Einsatz künstlicher Intelligenz ist die Senkung der Cost-Income-Ratio. Bei den schlanksten Banken – ich denke etwa an einige skandinavische Institute oder an einige der aufkommenden Fintechs – sprechen wir von Cost-Income-Ratios von 25 % oder darunter. Das wird zum Maßstab für den Markt und erhöht für internationale Banken den Druck, ihre KI-Hausaufgaben zu machen.
Bleiben wir bei diesem Blick in die Zukunft. Mit Blick auf die nächsten zwei bis drei Jahre: Wird KI im Bankwesen primär Prozesse in bestimmten Bereichen effizienter machen, oder steht uns eine grundlegende Transformation von Geschäftsmodellen, Kundeninteraktion und Wertschöpfung im Bankensektor bevor?
Crawford: Ich denke, es wird eine grundlegende Transformation geben, vor allem durch KI getrieben. Dazu kommen neue Technologien, die diesen Wandel beschleunigen werden oder sogar die gesamte Diskussion erneut auf den Kopf stellen werden. Eine davon ist Quantencomputing. Wir arbeiten bereits mit großen globalen Banken daran. Eine sehr spannende Zeit für jeden, der im IT-Bereich arbeitet.
Steele: Es wird viel Disruption geben, das werden leider auch die Banken zu spüren bekommen. Nehmen Sie die Bedrohung durch KI im Betrugsbereich: Es war schon immer so, dass sich die Betrüger und die Banken einen Wettstreit geliefert haben. KI hat diesen Wettbewerb dramatisch beschleunigt. Wie wir KI nutzen, um der durch KI ausgehenden Bedrohung in genau diesem Feld zu begegnen, ist eine entscheidende Debatte rund um die Frage der Kundenzufriedenheit.
Crawford: Den größten Einfluss auf die Performance von Finanzinstituten wird KI beim Kundenerlebnis haben. Aber es gibt ein Marktsegment, das weltweit sehr schnell wächst, und das ist die Vermögensverwaltung. Diese Kunden wollen nicht mit Chatbots sprechen und Apps nutzen. Sie wollen jemandem mit Expertise und Erfahrung gegenübersitzen und über ihre persönlichen Finanzen sprechen. Es wird interessant sein zu sehen, wie künstliche Intelligenz im Wealth-Segment der Banken angenommen wird.
Roderick Crawford ist Senior Vice President des Geschäftsbereichs Financial Services von SAS. Damit ist er global für einen Geschäftsbereich verantwortlich, der rund 2.700 Großkunden aus dem Banken- und Versicherungssektor bei ihren Risiko-, Betrugs- und Compliance-Prozessen mit Lösungen von SAS unterstützt. Dazu gehören Anwendungen wie KI-gestützte Entscheidungssysteme, Customer Intelligence, Kreditrisikomodellierung oder Betrugs- und Geldwäschebekämpfung. Crawford und sein Team sind auch an frühen Testphasen von Quanten-KI mit einigen der größten Banken der Welt beteiligt.
Jonathan Steele ist bei SAS als Vice President für Finanzdienstleister in Nordeuropa, dem Nahen Osten und Afrika verantwortlich. Er hat rund 30 Jahre Branchenerfahrung und arbeitet direkt mit führenden Banken zusammen, um Innovationen in einem zunehmend datengesteuerten und regulierten Umfeld voranzutreiben.
