KI-Kompetenz
Die Pflicht, die für alle gilt und am häufigsten übersehen wird: was verlangt ist, für wen, und wie sie sich nachweisen lässt.
Was verlangt ist
Anbieter und Betreiber sorgen dafür, dass ihr Personal und andere Personen, die in ihrem Auftrag mit KI-Systemen umgehen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei sind technische Kenntnisse, Erfahrung, Ausbildung und der Einsatzkontext zu berücksichtigen.
Was das praktisch heißt
| Gruppe | Worauf es ankommt |
|---|---|
| Alle Beschäftigten mit Zugang | Was das Werkzeug tut, was nicht, was nicht hineingehört |
| Fachlich Verantwortliche | Grenzen, typische Fehler, Prüfschritte, Meldewege |
| Aufsichtführende Personen | Wie eine Ausgabe zu bewerten und wann sie zu verwerfen ist |
| Einkauf und Recht | Rollen, Klassen, Pflichten, Vertragsanforderungen |
| Leitung | Verantwortung, Risiko, Nachweispflichten |
Ein Programm, das trägt
- 01
Grundlage für alle
Eine Stunde: was die Werkzeuge tun, die zwei Regeln, wo man fragt, wie man Fehler meldet. Bezogen auf die freigegebenen Werkzeuge.
- 02
Vertiefung je Rolle
Für Fachbereiche mit eigenen Vorgängen: die typischen Fehler dieses Vorgangs, die Prüfschritte, die Messgrößen.
- 03
Aufsicht gesondert
Wer Aufsicht führt, braucht mehr: Kenntnis der Systemgrenzen, Automation Bias, Befugnis zum Abbruch.
- 04
Auffrischung mit Anlass
Bei neuem Werkzeug, neuer Version, neuem Vorgang. Nicht jährlich aus Gewohnheit.
Der Nachweis
- Wer wurde befähigt, bezogen auf welches System?
- Welche Inhalte, mit welcher Fassung des Materials?
- Wann, und wann wurde aufgefrischt?
- Wie wurde festgestellt, dass die Befähigung wirkt? Etwa über eine kurze Anwendungsaufgabe.
Der letzte Punkt unterscheidet einen Nachweis von einer Anwesenheitsliste.
Inhalte, die tragen
Ein Programm, das die Pflicht erfüllt und zugleich nützlich ist, deckt sechs Punkte ab:
- Was das System tut und nicht tut. Bezogen auf die konkreten Werkzeuge, mit Beispielen aus dem eigenen Haus.
- Typische Fehlerbilder. Erfundene Angaben, Zustimmungsneigung, veraltete Stände, falsche Voraussetzungen.
- Was nicht hineingehört. Konkrete Liste, keine abstrakte Kategorie.
- Wie geprüft wird. Welcher Schritt, durch wen, mit welcher Tiefe.
- Wie gemeldet wird. Der Weg, wenn etwas schiefgegangen ist, ausdrücklich ohne Nachteil.
- Was rechtlich gilt. Rolle, Klasse, die eigenen Pflichten, in der für die Rolle nötigen Tiefe.
Die Verbindung zur Aufsichtspflicht
KI-Kompetenz und menschliche Aufsicht hängen zusammen: Eine Aufsicht ohne Kompetenz ist keine Aufsicht. Wer eine Person als aufsichtführend benennt, muss belegen können, dass sie die Grenzen des Systems kennt und die Ausgabe bewerten kann. Die Benennung allein trägt nicht.
Umgekehrt gilt: Wer eine Ausgabe prüfen soll, aber keine Zeit dafür eingeplant bekommt, kann die Pflicht nicht erfüllen. Die Prozessgestaltung ist damit Teil der Pflichterfüllung, nicht ihr Umfeld. Siehe Pflichten nach Rolle und Schulung.