Glossar

Ein Agent bekommt ein Ziel statt einer einzelnen Anweisung und entscheidet selbst über die Zwischenschritte — etwa eine Suche, einen Rechenschritt, einen Abruf. Das erhöht die Reichweite und zugleich das Risiko: Wer selbstständig handelt, braucht klar begrenzte Rechte und ein Protokoll, das jede Handlung festhält.

Wer personenbezogene Daten für Sie verarbeitet, ist Auftragsverarbeiter, und das Verhältnis braucht einen Vertrag nach Artikel 28 DSGVO. Bei KI-Anbietern gehören zwei Punkte ausdrücklich hinein: die Liste der Unterauftragsverarbeiter und der Ausschluss der Trainingsnutzung Ihrer Eingaben.

Siehe auch: Datenresidenz, Zweckbindung

Der EU AI Act unterscheidet Anbieter, Betreiber, Einführer und Händler. Wer ein zugekauftes System einsetzt, ist Betreiber und hat deutlich schlankere Pflichten als ein Anbieter — aber keineswegs keine: Zweckbindung, menschliche Aufsicht, Information der Betroffenen und Aufbewahrung der Protokolle bleiben.

Siehe auch: Hochrisiko

Verarbeitungsort und Speicherort können auseinanderfallen, und beide sind vertraglich festzulegen, nicht auf einer Produktseite nachzulesen. Unterauftragsverarbeiter zählen mit — auch für Protokolldaten. Supportzugriffe aus Drittstaaten sind eine Verarbeitung.

Siehe auch: Auftragsverarbeitung

Im Prüfungsfall zählt nicht die Beschreibung eines Vorgangs, sondern der Beleg dafür, dass er so gelaufen ist. Ein brauchbares Protokoll beantwortet vier Fragen ohne Nacharbeit: welcher Vorgang, mit welchem Modellstand, auf welchen Daten, unter wessen Kontrolle.

Ein bestehendes Modell wird mit eigenen Beispielen weitertrainiert, um Stil oder Format zuverlässiger zu treffen. Für Faktenwissen ist Feinabstimmung meist das falsche Mittel — dafür ist RAG geeigneter, weil sich Quellen dann benennen und aktualisieren lassen.

Sprachmodelle erzeugen Text, der wahrscheinlich klingt — nicht Text, der belegt ist. Wo dem Modell Wissen fehlt, füllt es die Lücke mit einer plausiblen Formulierung. Das Ergebnis ist sprachlich einwandfrei und inhaltlich falsch. Genau deshalb gehören Quellenangaben und ein zweites Augenpaar zu jedem Vorgang, dessen Ergebnis nach außen geht.

Der EU AI Act stuft einen Vorgang als hochriskant ein, wenn er erheblichen Einfluss auf Rechte oder Chancen von Personen hat — Personalauswahl, Kreditvergabe, Zugang zu Bildung oder Sozialleistungen etwa. Die Einstufung löst Risikomanagement, Datenqualitätsanforderungen, menschliche Aufsicht und Dokumentationspflichten aus.

Siehe auch: Betreiber

Artikel 4 des EU AI Act verlangt von Anbietern und Betreibern, dass die Personen, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Gemeint ist kein Zertifikat, sondern nachweisbares Verständnis: was das System tut, worauf man sich verlassen kann und woran man einen Fehler erkennt.

Jedes Modell kann nur eine begrenzte Menge Text gleichzeitig verarbeiten — Eingabe und Ausgabe zusammengerechnet. Was darüber hinausgeht, fällt weg, meist am Anfang. Bei langen Dokumenten ist das der Grund, warum ein Modell den Anfang „vergisst".

Menschliche Aufsicht bedeutet mehr, als dass jemand danebensitzt. Verlangt ist, dass eine Person die Ausgabe beurteilen kann, dazu die nötigen Informationen erhält und die Befugnis hat, einzugreifen oder abzubrechen — und dass genau dieser Eingriff im Protokoll sichtbar wird.

Siehe auch: Evidenz

Ein Prompt ist die Anweisung, die ein Sprachmodell erhält. Ein brauchbarer Prompt nennt vier Dinge: die Aufgabe, den nötigen Kontext, das gewünschte Format und die Grenzen. Fehlt eines davon, ist das in der Praxis die häufigste Ursache für unbrauchbare Ergebnisse.

Siehe auch: Kontextfenster

Retrieval-Augmented Generation: Bevor das Modell antwortet, wird in einer eigenen Dokumentensammlung nach passenden Stellen gesucht; diese werden der Anfrage beigelegt. Das Modell antwortet dann auf Grundlage dieser Stellen statt aus dem Gedächtnis. Der praktische Gewinn ist nicht bessere Sprache, sondern die Möglichkeit, eine Quelle zu nennen.

Der Grundsatz gilt unverändert auch dann, wenn ein Sprachmodell im Spiel ist. Kundendaten, die für die Vertragsabwicklung erhoben wurden, dürfen nicht ohne Weiteres in eine Auswertung fließen — der neue Zweck braucht eine eigene Rechtsgrundlage.