Inv. 05 · Saal 5 · Raum 1.05 · Technik und KI
Künstliche Intelligenz in der Finanzbranche einordnen
Wo setzen Banken, Versicherer und Finanzdienstleister lernende Systeme ein, was können diese Verfahren leisten, und wo liegen ihre Grenzen?
Künstliche Intelligenz ist in der Finanzbranche kein neues Thema. Statistische Modelle zur Einschätzung von Kreditrisiken gibt es seit Jahrzehnten. Neu sind die Menge der verfügbaren Daten, die Rechenleistung und Verfahren, die Muster in Texten, Bildern und Zahlenreihen erkennen, ohne dass jede Regel von Hand festgelegt werden muss.
Dieser Text ordnet ein, was mit künstlicher Intelligenz in diesem Zusammenhang gemeint ist, beschreibt typische Einsatzfelder, benennt Grenzen und Fehlerquellen und gibt einen Überblick über die Regeln, die in der Europäischen Union dafür gelten. Er bewertet keine Anbieter und keine Produkte.
Das Wichtigste
- Lernende Systeme erkennen Muster in Daten; sie verstehen Zusammenhänge nicht im menschlichen Sinn.
- Ihre Ergebnisse sind nur so gut wie die Daten, mit denen sie trainiert wurden.
- Für risikoreiche Anwendungen, etwa bei Kreditentscheidungen, gelten in der EU besondere Pflichten.
Was mit KI gemeint ist
Unter künstlicher Intelligenz werden sehr unterschiedliche Verfahren zusammengefasst. In der Finanzbranche geht es meist um maschinelles Lernen: Ein Modell wird mit vielen Beispielen trainiert und passt dabei seine inneren Parameter so an, dass es für neue, ähnliche Fälle eine Einschätzung abgeben kann. Ein Modell, das mit tausenden abgeschlossenen Kreditverträgen trainiert wurde, schätzt etwa, wie wahrscheinlich es ist, dass ein neuer Kredit planmäßig zurückgezahlt wird.
- Modell
- Eine mathematische Funktion, die aus Eingangsdaten eine Ausgabe berechnet, etwa eine Wahrscheinlichkeit oder eine Kategorie.
- Trainingsdaten
- Die Beispiele, aus denen ein Modell lernt. Fehler und Verzerrungen in diesen Daten übernimmt das Modell.
- Sprachmodell
- Ein Modell, das auf großen Textmengen trainiert wurde und Texte zusammenfassen, beantworten oder erzeugen kann.
Typische Einsatzfelder
In Banken und Versicherungen werden lernende Systeme vor allem dort eingesetzt, wo große Mengen gleichartiger Vorgänge anfallen. Sie unterstützen Menschen bei Routinearbeiten, priorisieren Fälle oder machen auf Auffälligkeiten aufmerksam. Die abschließende Entscheidung liegt in vielen Bereichen weiterhin bei Mitarbeitenden.
- Kreditwürdigkeitsprüfung: Einschätzung, ob ein Kredit voraussichtlich zurückgezahlt werden kann.
- Betrugserkennung: Hinweise auf ungewöhnliche Kartenzahlungen oder Überweisungen, die geprüft werden sollten.
- Schadenbearbeitung bei Versicherungen: Sortieren und Vorprüfen eingereichter Unterlagen.
- Kundenservice: Sprachassistenten beantworten Standardfragen und leiten komplexe Anliegen weiter.
- Dokumentenanalyse: Auswertung von Verträgen, Berichten oder regulatorischen Texten.
An den Kapitalmärkten werden seit Langem computergestützte Handelsverfahren eingesetzt, die Aufträge nach festgelegten Regeln ausführen. Wie viel davon auf lernenden Systemen beruht, ist von außen schwer zu beurteilen. Für Privatpersonen ist wichtig zu wissen, dass auch solche Verfahren keine verlässlichen Vorhersagen über Kursentwicklungen liefern können.
Grenzen und Fehlerquellen
Ein Modell kann nur Muster erkennen, die in seinen Trainingsdaten enthalten sind. Ändern sich die Verhältnisse, etwa durch eine Wirtschaftskrise, neue Gesetze oder ein verändertes Kaufverhalten, können seine Einschätzungen schnell an Aussagekraft verlieren. Fachleute sprechen dann von einer Verschiebung der Datenverteilung.
Ein zweites Problem sind Verzerrungen. Wurden bestimmte Gruppen in der Vergangenheit seltener berücksichtigt oder anders behandelt, kann ein Modell diese Ungleichbehandlung übernehmen, auch wenn Merkmale wie Geschlecht oder Herkunft gar nicht als Eingangsdaten verwendet werden. Andere Merkmale können als Ersatz wirken, ohne dass das sofort auffällt.
Schließlich sind viele Modelle schwer nachvollziehbar. Bei einem einfachen Punktesystem lässt sich erklären, welche Angabe wie stark ins Gewicht fiel. Bei komplexen Modellen ist das oft nur näherungsweise möglich. Sprachmodelle können zudem überzeugend formulierte, aber falsche Aussagen erzeugen.
Welche Regeln gelten
In der Europäischen Union gilt seit 2024 die KI-Verordnung. Sie teilt Anwendungen nach ihrem Risiko ein und knüpft daran unterschiedliche Pflichten. Systeme, die die Kreditwürdigkeit natürlicher Personen bewerten, gelten grundsätzlich als Anwendungen mit hohem Risiko. Für sie verlangt die Verordnung unter anderem ein Risikomanagement, Anforderungen an die Datenqualität, Dokumentation und menschliche Aufsicht. Die Pflichten treten schrittweise in Kraft.
Daneben gelten bestehende Regeln weiter. Die Datenschutz-Grundverordnung gibt Betroffenen bei ausschließlich automatisierten Entscheidungen mit erheblicher Wirkung besondere Rechte, darunter das Recht auf Darlegung des eigenen Standpunkts und auf Überprüfung durch einen Menschen. In Deutschland beaufsichtigt die Bundesanstalt für Finanzdienstleistungsaufsicht die Institute auch beim Einsatz solcher Verfahren.
- KI-Verordnung der EU: Pflichten nach Risikoklassen.
- Datenschutz-Grundverordnung: Rechte bei automatisierten Einzelentscheidungen.
- Aufsichtsrecht: Anforderungen an Risikomanagement und Dokumentation bei Banken und Versicherern.
Wie man Aussagen über KI einordnet
Über künstliche Intelligenz in der Finanzwelt wird viel geschrieben, oft mit großen Versprechen. Hilfreich ist es, bei jeder Aussage zu fragen: Welche Aufgabe übernimmt das System genau? Mit welchen Daten wurde es trainiert? Wer prüft die Ergebnisse, und was passiert bei Fehlern?
Besondere Vorsicht ist bei Angeboten geboten, die mit KI gestützte Gewinne in Aussicht stellen. Kein Verfahren kann künftige Kurse verlässlich vorhersagen, und die Finanzaufsicht warnt regelmäßig vor unseriösen Angeboten, die mit solchen Begriffen werben. Ob ein Angebot zugelassen ist, lässt sich in der öffentlichen Unternehmensdatenbank der Aufsicht nachsehen.
Künstliche Intelligenz verändert Abläufe in Banken und Versicherungen spürbar. Sie ersetzt aber weder das Verständnis grundlegender Begriffe noch die eigene Abwägung bei finanziellen Entscheidungen. Genau dieses Verständnis wollen die Texte in diesem Haus vermitteln.
Hinweis: Dieser Text dient ausschließlich der Bildung und stellt keine Finanzberatung oder Handlungsaufforderung dar. Entscheidungen über Geld, Kredite oder Anlagen treffen Sie selbst und in eigener Verantwortung.