Der Einsatz von Künstlicher Intelligenz (KI) in der Finanzwelt hat in den letzten Jahren enorm an Dynamik gewonnen. Ob automatische Zu- oder Absagen bei Krediten, KI-gestützte Risikobewertungen bei Versicherungsabschlüssen oder der Einsatz von Chatbots im Kundenservice – Algorithmen entscheiden immer häufiger über die finanziellen Belange von Verbraucherinnen und Verbrauchern. Mit dem Inkrafttreten des deutschen Durchführungsgesetzes zur europäischen Verordnung über Künstliche Intelligenz (EU AI Act) erhält die Bundesanstalt für Finanzdienstleistungsaufsicht (Bafin) ein erweitertes Mandat. Als zentrale Marktüberwachungsbehörde ist sie ab sofort für die staatliche KI-Überwachung im Finanzsektor zuständig und stellt den Schutz der Bürgerinnen und Bürger in den Mittelpunkt ihrer Aufsicht.
Warum die KI-Überwachung im Finanzsektor zum Verbraucherschutz notwendig wird
Künstliche Intelligenz bietet Banken und Versicherern zwar erhebliche Effizienzgewinne, birgt für Kundinnen und Kunden jedoch ernsthafte Risiken. Wenn Algorithmen über die Kreditwürdigkeit einer Privatperson entscheiden oder Versicherungstarife berechnen, muss garantiert sein, dass dies gerecht, nachvollziehbar und frei von unzulässigen Verzerrungen abläuft.
Die Gesetzgebung schiebt unkontrollierten Computerentscheidungen einen Riegel vor und stellt die Wahrung der Verbraucherrechte in den Vordergrund. Bafin-Präsident Mark Branson bringt den Zukunftsauftrag der Behörde auf den Punkt:
„Die KI-Verordnung ergänzt die bestehende Regulierung des Finanzmarktes. Sie schafft einen Rahmen, in dem Unternehmen Innovationen verantwortungsvoll vorantreiben können.“
Da finanzielle Kernentscheidungen im Alltag von Verbrauchern zunehmend automatisiert werden, ist eine konsequente KI-Überwachung im Finanzsektor unverzichtbar.
Schutz der Grundrechte: Wer entscheidet über den Kredit?
Im Fokus der Aufsichtsbehörde steht der Schutz der Bürgerinnen und Bürger vor digitaler Benachteiligung. Wenn KI-Systeme mit fehlerhaften Daten trainiert werden oder historische Vorurteile spiegeln, droht eine systematische Benachteiligung einzelner Personen- oder Bevölkerungsgruppen – etwa bei Kreditvergaben oder beim Zugang zu Versicherungsleistungen.
Branson hebt die Schutzfunktion für Verbraucher ausdrücklich hervor:
„Die Menschen müssen sich darauf verlassen können, dass ihre Grundrechte beim Einsatz von KI geschützt werden. Die Bafin wird zum Beispiel dafür sorgen, dass alle einen fairen Zugang zu Finanzdienstleistungen haben und niemand durch KI diskriminiert wird.“
Eine lückenlose KI-Überwachung im Finanzsektor garantiert, dass Chancengleichheit und Waffengleichheit zwischen Finanzinstituten und Verbrauchern gewahrt bleiben.
Wie die Bafin die KI-Überwachung im Finanzsektor konkret umsetzt
Das Mandat der Bafin erstreckt sich auf alle Kreditinstitute, Versicherungsunternehmen und sonstigen Finanzdienstleister. Die Behörde integriert die KI-Kontrollen direkt in ihre laufende Aufsichtstätigkeit.
Für Verbraucher sind vor allem drei Kontrollbereiche relevant:
- Transparenz bei Chatbots und KI-Systemen: Wenn Kunden mit einer KI interagieren (z. B. Chatbots im Online-Banking oder automatisierte Telefonsysteme), muss dies für den Verbraucher sofort klar und eindeutig erkennbar sein.
- Verbot unzulässiger KI-Praktiken: Systeme, die Menschen manipulieren oder gezielt benachteiligen, werden strikt untersagt.
- Schärfere Kontrollen bei Hochrisiko-Anwendungen: Dazu zählen Algorithmen, die tief in das Leben von Menschen eingreifen – etwa bei Bonitätsprüfungen (Credit Scoring) oder Risikobewertungen in der Lebens- und Krankenversicherung.
Durch die gezielte KI-Überwachung im Finanzsektor wird verhindert, dass Verbraucher zum Spielball undurchsichtiger Scoring-Modelle werden.
Verantwortung der Geschäftsleitung und das Recht auf menschliche Korrektur
Ein wesentlicher Gewinn für den Verbraucherschutz: Algorithmen dürfen menschliche Entscheidungen zwar unterstützen, aber nicht unkontrolliert ersetzen. Bafin-Präsident Mark Branson unterstriegt die Anforderungen an die Geldinstitute:
„Beim Einsatz von KI sind Transparenz, Diskriminierungsfreiheit und ein wirksames Risikomanagement zentral.“
Für Verbraucher bedeutet dies: Entscheidungen einer KI dürfen nicht endgültig sein. Es gilt das Prinzip der menschlichen Kontrolle („Human-in-the-Loop“). Fehleinschätzungen einer KI müssen durch qualifizierte Mitarbeiterinnen und Mitarbeiter geprüft, korrigiert und im Zweifel rückgängig gemacht werden können.
Zudem stellt die Aufsicht klar, dass sich Geldinstitute nicht hinter Programmierfehlern verstecken können. Branson betont:
„Die Verantwortung für den Einsatz von KI liegt bei den beaufsichtigten Unternehmen und ihren Geschäftsleitungen.“
Geschäftsleitungen haften somit direkt für die Einhaltung des Verbraucherschutzes, wenn ihre KI-Systeme der Prüfung im Rahmen der KI-Überwachung im Finanzsektor unterzogen werden.
Zeitplan: Wann greifen die Schutzrechte für Verbraucher?
Der Schutz durch die europäische KI-Verordnung und das deutsche Durchführungsgesetz wird schrittweise aufgebaut:
- 2. Februar 2025: Verbot besonders risikoreicher KI-Praktiken, darunter Systeme, die schützenswerte persönliche Daten auswerten und zu ungerechtfertigten Benachteiligungen führen können.
- 2. August 2026: Erste verbindliche Transparenzpflichten treten in Kraft. Verbraucher müssen informiert werden, wenn sie mit KI interagieren.
- 2. Dezember 2027: Volle Anwendung der strengen Regeln für Hochrisiko-KI-Systeme (z. B. automatisierte Kreditentscheidungen und Versicherungseinstufungen).
Branson fordert von der Finanzbranche eine zügige Umsetzung im Sinne der Kunden:
„Wir erwarten von den Unternehmen, dass sie sich ausführlich mit der KI-Verordnung auseinandersetzen. Wir alle haben das gleiche Ziel: KI soll einen Mehrwert stiften. Dafür müssen die Modelle sicher und fair gestaltet sein.“
Ergänzende Details zum konkreten Kontrollansatz der Behörde erläutert Jens Obermöller, Leiter der Abteilung Cyberrisiken und Technologie im Finanzsektor, in einem Interview auf der Bafin-Website.
Abgrenzung der Zuständigkeiten und Bußgelder bei Verstößen
Die Bafin überwacht ausschließlich KI-Systeme mit direktem Bezug zu Finanzdienstleistungen. Andere Anwendungen in Finanzunternehmen – wie KI im internen Personalwesen – werden von der Bundesnetzagentur kontrolliert.
Setzen Banken oder Versicherer rechtswidrige KI-Systeme ein, die Verbraucher schädigen oder diskriminieren, kann die Bafin empfindliche Bußgelder verhängen. Die Aufsicht stellt damit sicher, dass Verbraucherschutz kein Papiertiger bleibt, sondern spürbar durchgesetzt wird.
Fazit: Was die KI-Überwachung im Finanzsektor für Verbraucher bedeutet
Mit der neuen Rolle der Bafin erhalten Verbraucherinnen und Verbraucher eine starke Fürsprecherin im Zeitalter der Digitalisierung. Eine funktionierende KI-Überwachung im Finanzsektor schützt Bürger vor Benachteiligung durch Algorithmen, schafft Transparenz bei Finanzprodukten und sichert das Vertrauen in faire digitale Bank- und Versicherungsdienstleistungen.