Bildung
Unterricht vorbereiten, Rückmeldungen geben, Barrieren senken: was in Schulen und Hochschulen möglich ist und was der AI Act ausdrücklich verbietet.
Worum es geht
| Vorgang | Einordnung |
|---|---|
| Unterrichtsmaterial vorbereiten und differenzieren | unbedenklich |
| Texte in einfache Sprache übertragen | unbedenklich, mit Prüfung |
| Übungsaufgaben erzeugen | unbedenklich, mit Prüfung |
| Rückmeldung zu Entwürfen geben | unbedenklich, wenn nicht benotend |
| Prüfungsleistungen bewerten | Hochrisiko, Anhang III |
| Über Zulassung entscheiden | Hochrisiko, Anhang III |
| Emotionen erkennen | verboten |
Der ertragreiche Bereich
- 01
Differenzierung von Material
Denselben Inhalt in drei Schwierigkeitsstufen, mit Beispielen aus unterschiedlichen Lebenswelten. Das ist Arbeit, die sonst liegen bleibt.
- 02
Barrieren senken
Einfache Sprache, Übersetzung, Vorlesen, Untertitel. Der Nutzen für Lernende mit Förderbedarf ist unmittelbar.
- 03
Formative Rückmeldung
Hinweise zu einem Entwurf, ohne Note. Das entlastet und greift nicht in die Bewertung ein.
- 04
Erst danach über Bewertung nachdenken
Und dann mit vollem Bewusstsein für die Pflichten, die daran hängen.
Umgang mit KI in Leistungen
- Eine schriftliche Regel, was erlaubt ist: recherchieren ja, formulieren lassen nein, oder umgekehrt. Ohne Regel ist jede Sanktion angreifbar.
- Aufgabenformate, die Prozess statt Produkt bewerten: Zwischenstände, mündliche Erläuterung, Bezug auf den Unterricht.
- Keine Erkennungswerkzeuge als Beweismittel. Ihre Fehlerrate bei Nichtmuttersprachlern ist dokumentiert hoch, und ein falscher Vorwurf richtet erheblichen Schaden an.
- Offenlegungspflicht statt Verbot: Lernende geben an, wo und wie sie KI genutzt haben.
Anhang III im Bildungsbereich
Als Hochrisiko gelten unter anderem Systeme für:
- Zugang, Zulassung oder Zuweisung zu Bildungseinrichtungen.
- Bewertung von Lernergebnissen, einschließlich der Steuerung des Lernwegs daraus.
- Bewertung des angemessenen Bildungsniveaus einer Person.
- Überwachung und Erkennung unerlaubten Verhaltens bei Prüfungen.
Der letzte Punkt trifft Prüfungsaufsicht per Kamera unmittelbar. Solche Systeme sind nicht verboten, unterliegen aber der vollen Pflichtenlage für Hochrisikosysteme, einschließlich Grundrechte-Folgenabschätzung bei öffentlichen Stellen.
Pflichten des Betreibers
| Pflicht | Konkret |
|---|---|
| Menschliche Aufsicht | Eine benannte Person, die die Ausgabe überprüfen kann und darf |
| Information | Betroffene erfahren, dass ein Hochrisikosystem eingesetzt wird |
| Protokollierung | Aufbewahrung der automatisch erzeugten Protokolle |
| Eingabedaten | Sicherstellen, dass sie für den Zweck geeignet und repräsentativ sind |
| KI-Kompetenz | Ausreichende Schulung des einsetzenden Personals |
Siehe Pflichten nach Rolle und KI-Kompetenz.
Datenschutz bei Minderjährigen
- Einwilligung von Kindern unter 16 Jahren bedarf der Zustimmung der Sorgeberechtigten; einzelne Mitgliedstaaten senken die Grenze auf 13 Jahre.
- Im schulischen Bereich ist die Einwilligung selten die passende Grundlage, weil Freiwilligkeit im Pflichtverhältnis fraglich ist. Landesrechtliche Grundlagen gehen vor.
- Lernstandsdaten sind besonders schutzbedürftig und dürfen nicht in Profile einfließen, die über den Bildungszweck hinausgehen.
- Werkzeuge, die Nutzungsdaten von Lernenden an Anbieter außerhalb der EU übermitteln, sind ohne geprüfte Grundlage nicht einsetzbar.
Einstiegsbogen: Bildung
KOSTENLOSES KONTO
Einstiegsbogen: Bildung
Die Vorgänge dieser Branche nach Risikoklasse, die Punkte, die vorher geklärt sein müssen, und die Messgrößen, an denen sich der Nutzen zeigt.
Checkliste3 Elemente