Der EU AI Act im Überblick
Was die Verordnung regelt, wen sie trifft, wie sie aufgebaut ist und welche vier Fragen jede Organisation für sich beantworten muss.
Die vier Fragen
- 01
Welche Systeme setzen wir ein?
Ohne ein Inventar ist keine der folgenden Fragen beantwortbar.
- 02
Sind wir Anbieter oder Betreiber?
Betreiber im Regelfall. Anbieter, wer entwickelt, wesentlich verändert oder unter eigenem Namen anbietet.
- 03
In welche Klasse fällt jedes System?
Verboten, hochriskant, mit Transparenzpflicht oder ohne besondere Pflichten.
- 04
Welche Pflichten folgen daraus, und wer erfüllt sie?
Mit Namen, nicht mit Abteilungen.
Der Aufbau in einem Bild
| Klasse | Beispiel | Folge |
|---|---|---|
| Verboten | Soziale Bewertung, Emotionserkennung am Arbeitsplatz | Einsatz unzulässig |
| Hochrisiko | Bewerberauswahl, Kreditwürdigkeit, Prüfungsbewertung | Volle Pflichtenlage |
| Transparenzpflicht | Chatbot, erzeugte Bilder und Texte | Offenlegen und kennzeichnen |
| Übrige | Rechtschreibprüfung, Ticketeinordnung | Keine besonderen Pflichten |
Wen die Verordnung trifft
| Rolle | Wer das ist |
|---|---|
| Anbieter | Entwickelt oder bringt unter eigenem Namen in Verkehr |
| Betreiber | Setzt in eigener Verantwortung ein |
| Einführer und Händler | Bringt Systeme aus Drittländern in den Binnenmarkt |
| Bevollmächtigter | Vertritt einen Anbieter aus einem Drittland |
Der räumliche Anwendungsbereich ist weit: Die Verordnung greift auch, wenn ein Anbieter außerhalb der EU sitzt, das Ergebnis aber in der EU verwendet wird.
Was für Betreiber gilt
- KI-Kompetenz der einsetzenden Personen sicherstellen, gilt für alle Systeme.
- Bei Hochrisiko: Gebrauchsanweisung befolgen, menschliche Aufsicht durch geeignete Personen, Eingabedaten prüfen, Protokolle aufbewahren.
- Betroffene informieren, wenn ein Hochrisikosystem sie betrifft.
- Bei Transparenzpflicht: offenlegen, dass ein System spricht oder ein Inhalt erzeugt ist.
- Ernsthafte Vorfälle dem Anbieter und der Marktüberwachung melden.
Modelle mit allgemeinem Verwendungszweck
Für GPAI-Modelle gilt ein eigener Abschnitt. Anbieter solcher Modelle müssen unter anderem technische Dokumentation führen, Informationen für nachgelagerte Anbieter bereitstellen, eine Urheberrechtspolitik unterhalten und eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte veröffentlichen.
Oberhalb eines Schwellenwerts an Trainingsrechenleistung gelten zusätzliche Anforderungen wegen systemischer Risiken: Modellbewertung, Risikominderung, Vorfallsmeldung und Cybersicherheit.
Das Zusammenspiel mit anderem Recht
| Recht | Verhältnis |
|---|---|
| DSGVO | Gilt daneben. Der AI Act ersetzt keine Rechtsgrundlage. |
| Produktsicherheitsrecht | Anhang I verweist darauf; Konformitätsbewertung wird integriert |
| Maschinenverordnung | Zusätzliche Anforderungen an Sicherheitsfunktionen |
| Urheberrecht | Text- und Data-Mining-Schranke, Vorbehalt des Rechteinhabers |
| Arbeitsrecht | Mitbestimmung und Beschäftigtendatenschutz bleiben unberührt |
Was zuerst zu tun ist
- Ein Inventar aller eingesetzten Systeme aufbauen, einschließlich der über Fachanwendungen eingebetteten.
- Rolle je System bestimmen und dokumentieren.
- Klasse je System bestimmen, mit Begründung.
- KI-Kompetenz nachweisbar herstellen, weil diese Pflicht unabhängig von der Klasse gilt.
- Einen Freigabeprozess einführen, damit neue Systeme nicht am Inventar vorbeilaufen.
Passende Kurse und Quellen
Der Regulierungsrahmen der Kommission
Die offizielle Übersicht zum AI Act mit Zeitplan, Leitlinien und Verweisen auf die Durchführungsrechtsakte. Der Ausgangspunkt für jede Fristenfrage.
Für jede Fristenfrage der Ausgangspunkt, weil hier der amtliche Zeitplan steht.
EU AI Act, der amtliche Volltext
Verordnung (EU) 2024/1689 im Volltext, in allen Amtssprachen. Die Primärquelle für jede Rechtsfrage.
Unsere Governance-Artikel fassen zusammen und ordnen ein. Wo es auf den Wortlaut ankommt, gilt dieser Text.
OECD-Grundsätze für KI
Der internationale Bezugsrahmen, auf den sich auch die europäische Definition stützt.
Für die Einordnung nationaler Regelwerke in einen internationalen Rahmen.