Banken und Versicherung
Ein streng beaufsichtigter Bereich: was zulässig ist, wo Anhang III greift und welche Nachweise die Aufsicht erwartet.
Was wo steht
| Vorgang | Einordnung |
|---|---|
| Unterlagen auf Vollständigkeit prüfen | unbedenklich |
| Korrespondenz entwerfen | unbedenklich, mit Prüfung |
| Bedingungswerke vergleichen | unbedenklich |
| Betrugsmuster erkennen | begrenzt, ausdrücklich von Anhang III ausgenommen |
| Kreditwürdigkeit bewerten | Hochrisiko |
| Risiko in Lebens- und Krankenversicherung bewerten | Hochrisiko |
| Beschwerden einordnen | begrenzt, mit Fristensteuerung |
Was zusätzlich zum AI Act gilt
| Regelungskreis | Gegenstand |
|---|---|
| Aufsichtsrecht | Auslagerung, Governance, Meldewesen |
| DORA | Digitale Betriebsstabilität, Drittanbieterrisiko, Vorfallsmeldung |
| DSGVO | Rechtsgrundlage, Art. 22, Betroffenenrechte |
| Geldwäscherecht | Sorgfaltspflichten, Aufbewahrung |
| Verbraucherschutz | Verständlichkeit, Begründungspflichten |
Der zweite Punkt hat unmittelbare Folgen für die Werkzeugwahl: Ein KI-Dienstleister, der eine kritische Funktion unterstützt, ist ein IKT-Drittanbieter mit entsprechenden Vertrags- und Ausstiegsanforderungen.
Einführung
- 01
Im Verwaltungsbereich beginnen
Unterlagenprüfung und Korrespondenz. Unmittelbarer Nutzen, überschaubare Pflichtenlage.
- 02
Rolle und Klasse festlegen
Bevor ein System mit Entscheidungswirkung geplant wird, nicht danach.
- 03
Erklärbarkeit von Anfang an
Eine Entscheidung, die sich nicht in einem Satz begründen lässt, ist gegenüber Kundinnen und Kunden nicht haltbar.
- 04
Auslagerung anzeigen
Bevor die erste Verarbeitung stattfindet, nicht bei der nächsten Prüfung.
Was bei Hochrisiko nachzuweisen ist
- Zweck, Abgrenzung und Grenzen des Systems, schriftlich.
- Datensätze mit Herkunft, Repräsentativität und Untersuchung auf Verzerrungen.
- Güte und Fehlerraten, aufgeschlüsselt nach Kundengruppen.
- Menschliche Aufsicht: wer, mit welcher Befugnis, auf welcher Grundlage.
- Protokolle je Entscheidung, mit Modellversion und Eingabedaten.
- Verfahren zur Behandlung von Beschwerden gegen eine Entscheidung.
Die Erklärbarkeit gegenüber der Person
Art. 22 DSGVO gibt bei automatisierter Einzelentscheidung Ansprüche auf menschliches Eingreifen, Darlegung des Standpunkts und Anfechtung. Praktisch heißt das: Es muss eine Begründung geben, die eine Person versteht, und eine Person, die sie vertreten kann.
Eine Zuschreibung wie „Merkmal X trug 0,3 bei“ genügt dafür nicht. Brauchbar ist eine Aussage in Fachsprache: welche Angaben ausschlaggebend waren und was sich ändern müsste. Genau deshalb sind lineare Modelle in diesem Bereich weiterhin verbreitet, siehe Regression.
Einstiegsbogen: Banken und Versicherung
KOSTENLOSES KONTO
Einstiegsbogen: Banken und Versicherung
Die Vorgänge dieser Branche nach Risikoklasse, die Punkte, die vorher geklärt sein müssen, und die Messgrößen, an denen sich der Nutzen zeigt.
Checkliste3 Elemente