Die Diskussion über die Nutzung von künstlicher Intelligenz und maschinellem Lernen (Machine Learning) in Banken gewinnt an Fahrt. Mehrere neue Veröffentlichungen von Bundesbank und BaFin verleihen dem Thema jetzt Schub. Für die Institute birgt die Technologie großes Potenzial. Denn durch den standardisierten Einsatz von Machine Learning kann die Finanzindustrie die Qualität von Prozessen erhöhen, das Risikomanagement stärken und bekommt so die Chance, an Effizienzniveaus anderer Branchen aufzuschließen.

Im November 2020 veröffentlichte die Bundesbank unter dem Titel “The Use of Artificial Intelligence and Machine Learning in the Financial Sector” ein Positionspapier mit insgesamt zwölf Thesen, unter anderem zur Governance und Erklärbarkeit von Machine-Learning-Ansätzen. Ende April 2021 hat die europäische Kommission einen branchenübergreifenden Gesetzentwurf zur Regulierung von Artificial Intelligence vorgelegt.

Im Sommer 2021 folgte eine weitere Veröffentlichung der BaFin („Principles for the Use of Algorithms in Decision-making Processes“), sowie eine gemeinschaftliche Konsultation der Bundesbank und BaFin („Maschinelles Lernen in Risikomodellen“). Darüber hinaus verdichten sich Stimmen im Markt, dass die EBA eine Veröffentlichung zur Regulierung von Machine-Learning-Methoden in Rahmen von Säule-I-Modellen – also Risikomodellen zur Ermittlung regulatorischer Kapitalanforderungen – für Ende 2021 plant.

 „Was aussieht wie ein Machine-Learning-Algorithmus, ist ein Machine-Learning-Algorithmus“

Bei der Definition von Machine Learning wird durch die Bundesbank/BaFin keine allgemeingültige Abgrenzung vorgenommen. Insgesamt wird das Prinzip verfolgt „Was aussieht wie ein Machine-Learning-Algorithmus, ist ein Machine-Learning-Algorithmus“. Es zeigt sich, dass eine klare Abgrenzung klassischer Modelle (z.B. logistische Regressionen) von Machine-Learning-Ansätzen nicht immer möglich ist. Eine frühzeitige Bestandsaufnahme der bereits genutzten Methoden sei daher unerlässlich, um den Einfluss der neuen Regulierung frühzeitig zu erkennen. Bei der Einführung neuer Methoden sollte eine Bewertung, ob es sich um einen Machine-Learning-Ansatz handelt, obligatorisch sein. Nur auf dieser Basis können laut den Aufsichtsorganen weitere Maßnahmen abgeleitet werden.

Darüber hinaus gehen die Regulatoren auf die Nutzung und die Herausforderungen von Explainable Artificial Intelligence (XAI) ein. Sie verstehen sie als geeignete Möglichkeit, um die „Black-Box“-Eigenschaften von Machine-Learning-Algorithmen abzumildern.

Data Governance und mögliche Modelländerung durch Trainings

Bei den Anforderungen bezüglich der Data Governance sind keine wesentlichen Neuerungen bzw. Verschärfungen zu bisherigen Veröffentlichungen in dem Themengebiet zu erkennen. So erwarten Bundesbank und BaFin, dass Banken zusätzliche Anstrengungen unternehmen, um die Qualität der Datengrundlage sicherzustellen. Zudem sei zu gewährleisten, dass Trainingsdaten frei von systematischen Verzerrungen sind. Bedingt durch die besondere Beschaffenheit und Eigenschaften von Trainingsdaten für Machine-Learning-Methoden, müssen sich Banken auf zusätzliche Aufwände und neue Methoden zur Datenqualitätssicherung einstellen. Das kann auch zu Anpassungen in den IT-Systemen führen und zusätzliches fachliches Know-how erfordern.

Ein wichtiger Aspekt, auf welchen die bisherigen regulatorischen Veröffentlichungen nicht oder nur sporadisch eingegangen sind, ist das Thema, wann Modelländerungen im Sinne der internen und regulatorischen Vorgaben vorliegen. Eine wesentliche Eigenschaft von Machine-Learning- Algorithmen ist, dass das Modell regelmäßig mit neuen Daten trainiert werden muss. Durch dieses Training können sich Eigenschaften des Modells jedoch wesentlich ändern, was im Extremfall einer Modelländerung gleichkommt. Diese Eigenschaften gibt es in dem Maße bei traditionellen Ansätzen, zum Beispiel bei Rekalibrierungen, nicht.

Regulatorik als Katalysator – Potenzial für große Effizienzgewinne

Im Ergebnis kann das Konsultationspapier so zusammengefasst werden, dass sich Banken bei der Nutzung von Machine-Learning-Ansätzen auf Anpassungen ihrer Organisationsstruktur, Modell-Governance, IT-Infrastruktur und den Ausbau des fachlichen Know-hows vorbereiten müssen.

Um diesen Herausforderungen zu begegnen, ist ein gesamtheitlicher Ansatz, auch über die Risikomodelle hinaus, notwendig. Es gilt, Methoden für Machine Learning bankweit zu identifizieren sowie Risiken einzuschätzen und zu minimieren. Das unterstützt das Erfüllen von regulatorischen Vorschriften und führt zu einer Evolution in der Entwicklung und Anwendung von Machine Learning in Banken.

Deshalb lässt sich die Regulatorik auch als Katalysator interpretieren: In den Banken entsteht vermehrt Aufmerksamkeit für das Thema. Es ist absehbar, dass es in Zukunft zentrale Funktionen geben wird, die für Machine Learning übergreifend verantwortlich sind. Sie stellen sicher, dass ein einheitliches organisatorisches und prozessuales Rahmenwerk zur Verfügung steht – und dass einheitliche Mindeststandards etwa auf Basis von umfänglichen Prüfkatalogen eingehalten werden. Ein Vorbild für diese Funktionen könnten Modellrisikofunktionen in Banken sein, die heute schon Governance, Überprüfungsregeln und -frequenzen sowie ein dezidiertes Management-Reporting verantworten.

Die jüngsten Veröffentlichungen der Behörden sind von enormer Relevanz für Banken und sorgen für große Herausforderungen. Trotzdem sollten sie als Chance verstanden werden. Denn sie bieten den Rahmen, um die Entwicklung, Governance und Anwendung von Machine Learning auf ein neues Niveau zu heben. Die potenziellen Vorteile für Effizienzgewinne bei hoher Ergebnisqualität können damit erreicht werden.