Freigabeprozess
Wie ein KI-Einsatz geprüft, entschieden und dokumentiert wird, ohne dass daraus ein Verfahren wird, das Schatten-KI erzeugt.
Zwei Wege
| Weg | Wann | Dauer | Entscheidung |
|---|---|---|---|
| Schnell | Keine personenbezogenen Daten, kein Anhang III, freigegebenes Werkzeug | Tage | Fachbereich mit Checkliste |
| Gründlich | Personenbezug, neuer Anbieter, Anhang III, Beschäftigtendaten | Wochen | Benannte Stelle mit Recht und Datenschutz |
Der schnelle Weg ist der wichtigere. Wenn er fehlt, laufen auch die risikoarmen Fälle am Verfahren vorbei, und das Inventar wird unvollständig.
Die Checkliste für den schnellen Weg
- Welcher Vorgang, wie häufig, mit welchem erwarteten Ergebnis?
- Welche Daten fließen tatsächlich in die Eingabe?
- Ist das Werkzeug freigegeben, und für diese Datenart?
- Wer prüft die Ausgabe, bevor sie das Haus verlässt?
- Wer ist verantwortlich, namentlich?
Fünf Fragen, eine Seite, eine Entscheidung. Wenn eine Antwort „unklar“ lautet, geht der Fall in den gründlichen Weg.
Der gründliche Weg
- 01
Zweck und Abgrenzung schriftlich
Was das System tun soll und was ausdrücklich nicht. Das bestimmt die Einstufung.
- 02
Rolle und Klasse bestimmen
Anbieter oder Betreiber, Klasse nach AI Act, mit Begründung.
- 03
Datenschutz prüfen
Rechtsgrundlage, Zweckbindung, Auftragsverarbeitung, Drittlandbezug, Folgenabschätzung falls nötig.
- 04
Beteiligung klären
Betriebsrat oder Personalvertretung, wo Beschäftigte betroffen sind.
- 05
Entscheiden und eintragen
Mit Auflagen, Prüfzyklus und benannter Verantwortung.
Der Inventareintrag
| Feld | Inhalt |
|---|---|
| System und Version | Was genau, in welchem Stand |
| Zweck und Abgrenzung | Wofür, und ausdrücklich wofür nicht |
| Rolle | Anbieter oder Betreiber, mit Begründung |
| Klasse | Nach AI Act, mit Begründung und Datum |
| Datenkategorien | Was tatsächlich verarbeitet wird |
| Rechtsgrundlage | Mit Verweis auf die Abwägung, falls einschlägig |
| Anbieter und Verträge | AV-Vertrag, Standorte, Unterauftragnehmer |
| Verantwortliche Person | Namentlich |
| Aufsichtführende Person | Namentlich, bei Hochrisiko |
| Auflagen | Was gilt, damit die Freigabe trägt |
| Prüfzyklus und Datum | Wann erneut zu prüfen ist |
Diese Tabelle ist zugleich die Antwort auf eine Aufsichtsanfrage. Wer sie führt, muss im Ernstfall nichts zusammensuchen.
Auslöser für eine erneute Prüfung
- Wechsel des zugrundeliegenden Modells, auch durch den Anbieter ohne Ankündigung.
- Erweiterung des Einsatzzwecks oder des Nutzerkreises.
- Neue Datenkategorien in der Eingabe.
- Wechsel des Anbieters oder eines Unterauftragnehmers.
- Vorfall oder auffällige Verschlechterung der Güte.
- Ablauf des Prüfzyklus.
Die erste Zeile verlangt eine vertragliche Vorkehrung: Der Anbieter muss verpflichtet sein, Modelländerungen anzukündigen. Ohne diese Klausel ist der Auslöser nicht bemerkbar.
Schatten-KI einfangen
- 01
Suchen statt fragen
Netzwerkprotokolle und Ausgabenabrechnungen auf Anbieterzugriffe prüfen. Das findet mehr als jede Umfrage.
- 02
Amnestie
Wer meldet, bekommt geprüft statt sanktioniert. Ohne diese Zusage meldet niemand.
- 03
Schnell entscheiden
Die gemeldeten Fälle innerhalb von zwei Wochen bescheiden, sonst verpufft die Amnestie.
- 04
Alternative anbieten
Ein Verbot ohne Ersatz erzeugt nur besser versteckte Schatten-KI.
Passende Kurse und Quellen
Fraunhofer IAIS zu künstlicher Intelligenz
Deutschsprachige Leitfäden zu Prüfung, Zertifizierung und Betrieb von KI-Systemen, aus anwendungsnaher Forschung.
Für deutschsprachige Prüf- und Zertifizierungsfragen, wo englische Quellen nicht weiterhelfen.
NIST AI RMF Playbook
Die praktische Ausarbeitung des Risikorahmens: je Funktion konkrete Vorschläge, was zu tun und zu dokumentieren ist.
Für alle, die eine interne Risikobetrachtung aufbauen und eine Gliederung suchen, die schon durchdacht ist.