Glossar

Die Ableitung ist eine rein lokale Auskunft. Sie sagt, was ein winziger Schritt bewirkt, nicht wohin der Weg führt.

Siehe auch: Gradient, Kettenregel

Adam hält je Parameter zwei zusätzliche Zustände. Bei sieben Milliarden Parametern sind das 56 Gigabyte allein für den Optimierer.

Siehe auch: Momentum, LoRA

Ein Agent ist eine Schleife: denken, Werkzeug aufrufen, Ergebnis lesen, wiederholen. Die Zuverlässigkeit fällt exponentiell mit der Anzahl der Schritte.

Siehe auch: Werkzeugaufruf, Prompt Injection

Es erreicht dieselbe Güte mit 30 bis 60 Prozent der Annotationen, macht den Datensatz aber unbrauchbar als Testsatz.

Siehe auch: Annotation, Testsatz

Alignment bringt Vorlieben bei, nicht Wissen und nicht Wahrheit. Die Bewertungsanweisung an die Bewertenden ist die eigentliche Spezifikation des Verhaltens.

Siehe auch: RLHF, DPO

Wer ein fremdes Modell wesentlich verändert oder unter eigenem Namen anbietet, kann dadurch selbst zum Anbieter werden.

Siehe auch: Betreiber, EU AI Act

Von wenigen Sekunden je Fall bei einer Klassifikation bis zu einer Viertelstunde bei Segmentierung. Der Faktor dazwischen ist rund 200.

Siehe auch: Label, Cohens Kappa

Pseudonymisierung ist keine Anonymisierung: pseudonymisierte Daten bleiben personenbezogen und unterliegen weiter der DSGVO.

Siehe auch: Pseudonymisierung, Differenzielle Privatheit

Jedes Token fragt mit seiner Query bei allen Keys nach und mischt die Values entsprechend. Der Aufwand wächst quadratisch mit der Länge.

Siehe auch: Transformer, KV-Cache

Sie braucht einen Vertrag mit den Pflichtangaben aus Art. 28 Abs. 3, einschließlich Unterauftragnehmern, Löschung und Auditrechten.

Siehe auch: DSGVO, Datenresidenz

Nach Art. 22 DSGVO bestehen dann Ansprüche auf menschliches Eingreifen, Darlegung des Standpunkts und Anfechtung.

Siehe auch: Menschliche Aufsicht, DSGVO

Der Rückwärtsdurchlauf kostet etwa das Doppelte des Vorwärtsdurchlaufs, braucht aber ein Vielfaches an Speicher für Zwischenwerte.

Siehe auch: Kettenregel, Gradient

Ein Basismodell ist kein Assistent. Erst das Fine-Tuning auf Anweisungen und das Alignment machen daraus ein System, das antwortet statt fortzusetzen.

Siehe auch: Fine-Tuning, Alignment

Die Basisrate zu ignorieren ist der häufigste Fehler bei der Bewertung von KI-Ergebnissen. Bei seltenen Ereignissen entscheidet sie alles.

Siehe auch: Satz von Bayes, Präzision

Kontinuierliches Batching nimmt eine neue Anfrage auf, sobald eine fertig ist, und erhöht den Durchsatz oft um den Faktor fünf bis zwanzig.

Siehe auch: Durchsatz, Latenz

Unterschiede unter drei Prozentpunkten auf einem allgemeinen Benchmark sind für eine Entscheidung wertlos.

Siehe auch: Kontamination, Eval-Set

Sie geht über den Datenschutz hinaus: Ein Auftragsverarbeitungsvertrag allein genügt nicht, der Dienstleister muss verpflichtet und belehrt sein.

Siehe auch: Auftragsverarbeitung, DSGVO

Betreiberpflichten sind schlanker als Anbieterpflichten, aber sie bestehen: menschliche Aufsicht, Information, Protokollierung, geeignete Eingabedaten.

Siehe auch: Anbieter, Menschliche Aufsicht

Ein geschütztes Merkmal wegzulassen beseitigt die Verzerrung nicht, sondern nur ihre Messbarkeit.

Siehe auch: Fairness, Repräsentativität

Die Gegenmittel sind gegenläufig. Wer die falsche Diagnose stellt, macht es schlimmer statt besser.

Siehe auch: Varianz, Overfitting

Auch der aus einem Gesicht erzeugte Vektor ist ein biometrisches Datum, selbst wenn das Bild gelöscht wurde.

Siehe auch: Embedding, Hochrisiko

BM25 sättigt die Worthäufigkeit: das zwanzigste Vorkommen trägt kaum mehr bei als das zehnte. Das entspricht der Wirklichkeit.

Siehe auch: Hybridsuche

Der Hystereseschritt verbindet unterbrochene Linien und unterdrückt gleichzeitig isolierte Störpunkte.

Siehe auch: Sobel, Kontur

Das Chunking entscheidet über die Güte eines RAG-Systems mehr als die Wahl des Modells. Getrennt wird an Überschriften, nicht nach Zeichenzahl.

Siehe auch: RAG, Embedding

Damit lässt sich ein Bild mit einem Satz vergleichen, ohne dass für diese Klasse je trainiert wurde.

Siehe auch: Embedding, Vision Transformer

Ein CNN bringt zwei Annahmen mit, die für Bilder zutreffen: Nachbarschaft zählt, und ein Muster bedeutet überall dasselbe.

Siehe auch: Faltung, Vision Transformer

Unter 0,6 heißt: die Anleitung ist unklar. Ein Modell kann in einer solchen Aufgabe keine hohe Genauigkeit erreichen.

Siehe auch: Annotation, Label

Sie ist Pflichtdokument, nicht Kür: Für Hochrisikosysteme verlangt der AI Act genau diese Angaben.

Siehe auch: Repräsentativität, Hochrisiko

In den meisten Projekten bringt Datenbereinigung mehr als ein Modellwechsel, und sie wirkt auf jedes künftige Modell weiter.

Siehe auch: Duplikat, Cohens Kappa

Der Serverstandort allein genügt nicht: entscheidend ist auch, ob ein Mutterkonzern aus einem Drittland Zugriff nehmen kann.

Siehe auch: Auftragsverarbeitung, Drittlandtransfer

Sie ist bei umfangreicher Verarbeitung besonderer Kategorien, systematischer Überwachung und Profilbildung mit erheblicher Wirkung erforderlich.

Siehe auch: Hochrisiko, Grundrechte-Folgenabschätzung

Ein guter Deskriptor bleibt bei Drehung und Helligkeitsänderung gleich und macht so eine Zuordnung über Bilder hinweg möglich.

Siehe auch: Homographie, RANSAC

Dice und IoU erzeugen dieselbe Ordnung und sind ineinander überführbar, aber ihre Werte sind nicht vergleichbar.

Siehe auch: Segmentierung, IoU

Nur mit einer solchen Garantie und einem dokumentierten Budget lässt sich Anonymität gegenüber einer Aufsichtsbehörde begründen.

Siehe auch: Synthetische Daten, Anonymisierung

Anders als ein Transformer arbeitet es nicht sequenziell, sondern verfeinert das gesamte Ergebnis in jedem Schritt.

Siehe auch: Transformer

Der Tiefenfehler wächst mit dem Quadrat der Entfernung: ein System mit einem Zentimeter Genauigkeit auf zwei Metern liegt auf zehn Metern 25 Zentimeter daneben.

Siehe auch: Kalibrierung

Distillation senkt Kosten und Latenz erheblich und kostet messbar Qualität. Wie viel, hängt von der Aufgabe ab und muss gegen ein eigenes Eval-Set gemessen werden.

Siehe auch: Inferenz

Da sich die optimale Policy geschlossen durch das Belohnungsmodell ausdrücken lässt, fällt dieses aus der Rechnung heraus. Übrig bleibt stabiles überwachtes Training.

Siehe auch: RLHF, Alignment

Der häufigste Ausfall ist kein Absturz, sondern stille Verschlechterung. Ohne Messung fällt sie erst nach Wochen auf.

Siehe auch: Population Stability Index, Modellregister

Sie braucht eine eigene Grundlage: Angemessenheitsbeschluss, Standardvertragsklauseln mit Folgenabschätzung oder eine Ausnahme.

Siehe auch: Datenresidenz, Auftragsverarbeitung

Beim Vortraining großer Modelle hilft es meist nicht, weil die Daten ohnehin nur einmal gesehen werden. Beim Fine-Tuning sehr wohl.

Siehe auch: Regularisierung

Der AI Act ersetzt die DSGVO nicht. Beide gelten nebeneinander, mit unterschiedlichen Auslösern und unterschiedlichen Pflichten.

Siehe auch: Rechtsgrundlage, Zweckbindung

Duplikate sind die häufigste stille Fehlerquelle: derselbe Fall kann in Training und Test landen.

Siehe auch: Leakage, Label

Latenz und Durchsatz stehen im Zielkonflikt: Batching erhöht den Durchsatz und verlangsamt die einzelne Anfrage.

Siehe auch: Latenz, Batching

Auf dem Gerät zu rechnen ist zuerst ein rechtlicher Vorteil und erst danach ein technischer.

Siehe auch: Quantisierung, Datenresidenz

Ein Embedding ist kein anonymisiertes Datum: Aus einem Satzembedding lässt sich der Ausgangstext teilweise rekonstruieren.

Siehe auch: Vektor, Kosinusähnlichkeit, Vektordatenbank

Übersetzung und Spracherkennung nutzen ihn, weil dort die ganze Eingabe vorliegt, bevor die Ausgabe beginnt. Sprachmodelle nutzen dagegen meist nur den Decoder, weil sie fortlaufend weiterschreiben.

Siehe auch: Transformer, Attention, Embedding

Ein Würfel hat mehr Entropie als eine Münze, weil mehr passieren kann. Bei Modellen zeigt hohe Ausgabeentropie an, dass geraten wird.

Siehe auch: Kreuzentropie, Perplexität

Entzerrung hebt die OCR-Trefferquote bei Handyfotos typischerweise von unter 60 auf über 90 Prozent.

Siehe auch: OCR, Homographie

Der AI Act reguliert nicht Technik, sondern Verwendung. Dasselbe Modell kann je nach Zweck unbedenklich oder hochriskant sein.

Siehe auch: Hochrisiko, Anbieter, Betreiber

Fünfzig eigene Fälle sind aussagekräftiger als jede fremde Rangliste. Das Eval-Set wird versioniert und eingefroren.

Siehe auch: Benchmark, Kreuzvalidierung

F1 gewichtet beide gleich. Das sind sie praktisch nie: Kosten je Fehlerart gehören in die Kennzahl, nicht in eine Fußnote.

Siehe auch: Präzision, Recall

Mehrere gängige Fairnesskriterien sind nachweislich nicht gleichzeitig erfüllbar. Die Wahl ist normativ und begründungspflichtig.

Siehe auch: Bias

Je nachdem welche Zahlen in der Matrix stehen, zeichnet das Ergebnis Kanten nach, zeichnet weich oder hebt Muster hervor.

Siehe auch: CNN, Kernel

Der Farbraum ist eine Entscheidung, keine Eigenschaft des Bildes. Für Farbfilter ist HSV fast immer richtig.

Siehe auch: Pixel

Fine-Tuning bringt Form bei, nicht Wissen. Für Wissen ist Abruf billiger, aktueller und belegbar.

Siehe auch: LoRA, RAG

Der Speicherbedarf sinkt von quadratisch auf linear in der Sequenzlänge. Ohne das wären Kontexte über 8.000 Token nicht bezahlbar.

Siehe auch: Attention, KV-Cache

Ohne Freigabeprozess entsteht Schatten-KI: Werkzeuge im Einsatz, von denen niemand weiß und für die niemand verantwortlich ist.

Siehe auch: Nachweis, KI-Inventar

float16 läuft bei 65.504 über, bfloat16 nicht. Deshalb hat sich bfloat16 fürs Training durchgesetzt.

Siehe auch: Quantisierung

Beim Kauf entscheidet der Speicher zuerst, die Bandbreite zweitens und die Rechenleistung erst drittens.

Siehe auch: VRAM, Speicherbandbreite

Lernen heißt: alle Parameter ein Stück entgegen dem Gradienten verschieben und das millionenfach wiederholen.

Siehe auch: Ableitung, Lernrate

Grounding ist der wirksamste Hebel gegen erfundene Angaben. Es besteht aus Abruf, Zitierpflicht und einer Nachprüfung, ob die Aussagen tatsächlich gedeckt sind.

Siehe auch: RAG, Halluzination

Bei 32 Query-Heads und 8 Key-Value-Köpfen ist der KV-Cache ein Viertel so groß, bei kaum messbarem Qualitätsverlust.

Siehe auch: KV-Cache, Attention

Sie tritt neben die Datenschutz-Folgenabschätzung und ersetzt sie nicht; die Prüfgegenstände überschneiden sich nur teilweise.

Siehe auch: Hochrisiko, Datenschutz-Folgenabschätzung

Ein Sprachmodell erzeugt die wahrscheinlichste Fortsetzung. Wo keine Information vorliegt, entsteht trotzdem eine plausible, und Plausibilität ist nicht Wahrheit.

Siehe auch: Grounding, Temperatur

Das Histogramm verrät Belichtungsprobleme in einer Sekunde und ist die billigste Qualitätsprüfung, die es gibt.

Siehe auch: Pixel, Otsu-Schwellwert

HNSW findet bei einer Million Vektoren rund 96 Prozent der wirklich nächsten Nachbarn in etwa einer Millisekunde statt in 380.

Siehe auch: Vektordatenbank, Recall

Hochrisiko ergibt sich aus Anhang I bei Sicherheitsbauteilen und Anhang III bei benannten Einsatzfeldern wie Beschäftigung und Bildung.

Siehe auch: EU AI Act, Grundrechte-Folgenabschätzung

Vier Punktpaare bestimmen sie eindeutig. Sie ist das Werkzeug, mit dem ein schräg fotografiertes Dokument geradegezogen wird.

Siehe auch: Deskriptor, RANSAC

Reine Vektorsuche versagt bei Aktenzeichen und Eigennamen. Die Kombination hebt Recall@10 regelmäßig um 5 bis 15 Punkte.

Siehe auch: RAG, BM25

Bei der Inferenz ändert sich nichts am Modell. Sie ist deutlich billiger als Training je Vorgang, in Summe über die Lebensdauer aber oft teurer.

Siehe auch: Latenz, Durchsatz

IoU ist strenger als es aussieht: zwei sichtbar überlappende Rechtecke können weit unter der üblichen Schwelle von 0,5 liegen.

Siehe auch: mAP, Non-Maximum Suppression

Eine Kalibrierung gilt nur für diesen Aufbau. Jede Verschiebung einer Kamera macht sie ungültig.

Siehe auch: Disparität

In der klassischen Bildverarbeitung wählt ein Mensch die Werte, in einem CNN werden sie gelernt.

Siehe auch: Faltung

Aus der Produktform der Kettenregel folgt unmittelbar, warum Gradienten in tiefen Netzen verschwinden oder explodieren.

Siehe auch: Gradient, Backpropagation

Ohne Inventar ist keine Pflichtenprüfung möglich, weil unbekannt ist, worauf sie sich beziehen soll.

Siehe auch: Freigabeprozess, Hochrisiko

Die Pflicht trifft Anbieter und Betreiber gleichermaßen und ist an den konkreten Einsatz gebunden, nicht an eine allgemeine Schulung.

Siehe auch: Betreiber, Menschliche Aufsicht

Bei RLHF misst sie, wie weit sich ein Modell vom Ausgangszustand entfernt hat, und begrenzt genau das.

Siehe auch: Kreuzentropie, RLHF

Es sagt, wie genau die Messung ist, nicht wie gut das Modell. Eine Genauigkeitsangabe ohne Intervall ist eine Momentaufnahme.

Siehe auch: Standardfehler

Ein Modell, das eine bekannte Aufgabe löst und dieselbe Aufgabe mit anderen Zahlen nicht, hat sie nicht verstanden, sondern gesehen.

Siehe auch: Leakage, Benchmark

Das Fenster umfasst Systemanweisung, Verlauf, angehängte Dokumente und die bisherige Antwort. Ein größeres Fenster heißt nicht, dass alles darin gleich gut genutzt wird.

Siehe auch: Token, KV-Cache

Ohne Kontingent bestimmt der aktivste Nutzer die Antwortzeit für alle. Es gehört in die erste Fassung, nicht in die zweite.

Siehe auch: Durchsatz, Latenz

Konturen erlauben Zählen, Vermessen und Formprüfung, ganz ohne trainiertes Modell.

Siehe auch: Canny, Morphologie

Zwei Texte über dasselbe Thema zeigen in dieselbe Richtung, auch wenn einer zehnmal länger ist.

Siehe auch: Skalarprodukt, Embedding

Die Kreuzentropie enthält die Entropie der wahren Verteilung als konstanten Sockel; nur der Rest hängt vom Modell ab.

Siehe auch: Entropie, KL-Divergenz, Verlustfunktion

Bei mehreren Fällen je Person muss nach Gruppen aufgeteilt werden, sonst steht dieselbe Person in Training und Test.

Siehe auch: Leakage, Testsatz

Ein Sammelbegriff, kein einzelnes Verfahren. Im heutigen Sprachgebrauch sind fast immer Systeme gemeint, die aus Daten lernen statt nach aufgeschriebenen Regeln zu arbeiten.

Der Cache wächst linear mit Kontextlänge und Anzahl gleichzeitiger Anfragen und überholt bei langem Kontext das Modell selbst.

Siehe auch: Attention, Kontextfenster

Die Qualität der Labels begrenzt die erreichbare Modellgüte nach oben. Fünf Prozent falsche Labels heißen höchstens 95 Prozent Genauigkeit.

Siehe auch: Annotation, Cohens Kappa

Über zwei Sekunden bis zum ersten Zeichen wird als Hängen empfunden, unabhängig davon wie schnell es danach geht.

Siehe auch: Durchsatz, Batching

Anders als BatchNorm ist LayerNorm unabhängig von der Batch-Größe und funktioniert deshalb auch bei Batch eins.

Siehe auch: Residualverbindung

Leakage erzeugt hervorragende Messwerte und ein wertloses Modell. Ein Ergebnis, das zu gut ist, ist fast immer ein Leck.

Siehe auch: Kreuzvalidierung, Kontamination

Zu klein heißt: das Training kriecht. Zu groß heißt: der Verlust explodiert innerhalb weniger Schritte.

Siehe auch: Gradient, Warmup

Die Temperatur teilt die Logits, bevor daraus Wahrscheinlichkeiten werden. Deshalb wirkt sie auf die Schärfe der Verteilung.

Siehe auch: Softmax, Temperatur

Der Speicherbedarf sinkt um den Faktor fünf bis zehn, und das Ergebnis ist eine Datei von wenigen zehn Megabyte.

Siehe auch: Fine-Tuning, Adam

Aufbewahrungspflicht und Löschpflicht kollidieren regelmäßig. Beide gehören je Datenkategorie getrennt festgelegt.

Siehe auch: Zweckbindung, Auftragsverarbeitung

mAP bei 0,5 bis 0,95 ist strenger als mAP bei 0,5 und deshalb der übliche Vergleichswert.

Siehe auch: IoU, Präzision

Eine 4096 mal 4096 Matrix hat 16,8 Millionen Einträge und belegt in 16-Bit-Darstellung rund 33 Megabyte.

Siehe auch: Vektor, Parameter

Die Erzeugung eines einzelnen Tokens ist memory-bound. Batching ist der Weg, das zu ändern.

Siehe auch: Speicherbandbreite, Batching

Aufsicht ist kein Hinweis in einer Richtlinie. Sie braucht Befugnis, Zeit, Kompetenz und einen Weg, tatsächlich einzugreifen.

Siehe auch: Betreiber, Hochrisiko

Das spart Rechenzeit, nicht Speicher: alle Experten müssen im Speicher liegen. Für Edge-Geräte ist die Bauform deshalb ungeeignet.

Siehe auch: Parameter, Quantisierung

Ein Modell ist kein Programm im üblichen Sinn. Es besteht aus einer Architektur und den darin abgelegten Parametern, die im Training entstanden sind.

Siehe auch: Parameter, Training

Ohne Register lässt sich weder ein Rollback durchführen noch belegen, welcher Stand eine bestimmte Ausgabe erzeugt hat.

Siehe auch: Drift, Rollback

Momentum hilft, flache Plateaus und Sattelpunkte zu verlassen, die in hohen Dimensionen viel häufiger sind als lokale Minima.

Siehe auch: Gradient, Adam

Morphologie repariert, was der Schwellwert kaputt gemacht hat: Löcher schließen, Fransen entfernen, Verbindungen trennen.

Siehe auch: Otsu-Schwellwert

Bilder werden in Token übersetzt und wie Text in den Kontext gelegt. Ein Bild kann dabei mehr Token kosten als eine Seite Text.

Siehe auch: Token, Embedding

Nachweis entsteht nicht rückwirkend. Was nicht im Betrieb protokolliert wurde, lässt sich später nicht belegen.

Siehe auch: Protokollierung, Modellregister

Die NMS-Schwelle entscheidet über die gezählte Anzahl und gehört deshalb in die Betriebsdokumentation.

Siehe auch: IoU

Die Norm herauszurechnen ist der Unterschied zwischen wie ähnlich und wie ähnlich und wie lang.

Siehe auch: Vektor

Fehler zeigen sich als Doppelzählung: eine unterbrochene Spur wird zu zwei Objekten.

Siehe auch: Optischer Fluss, Non-Maximum Suppression

Bei 98 Prozent Zeichengenauigkeit ist eine 22-stellige IBAN nur in 64 Prozent der Fälle vollständig richtig.

Siehe auch: Entzerrung

Open Weights ist nicht dasselbe wie Open Source: Trainingsdaten und Trainingscode fehlen meist, und die Lizenz kann die Nutzung einschränken.

Siehe auch: Modell

Aus einem einzelnen Punkt lässt sich nur die Bewegung quer zur Kante bestimmen. Das nennt man Aperturproblem.

Siehe auch: Objektverfolgung

Otsu funktioniert gut, wenn das Histogramm zwei erkennbare Berge hat, und wählt sonst einen willkürlichen Punkt.

Siehe auch: Histogramm, Morphologie

Erkennbar daran, dass der Trainingsverlust fällt, während der Validierungsverlust steigt.

Siehe auch: Bias und Varianz, Regularisierung

Parameter werden im Training angepasst und liegen danach fest. Die Anzahl bestimmt den Speicherbedarf unmittelbar: zwei Byte je Parameter in 16-Bit-Darstellung.

Siehe auch: Modell, Quantisierung

Perplexität 8 heißt: so unsicher wie beim Raten unter acht gleich guten Fortsetzungen. Zwischen Tokenizern ist sie nicht vergleichbar.

Siehe auch: Kreuzentropie, Tokenizer

Ein Farbbild ist ein dreidimensionales Zahlenfeld aus Höhe, Breite und Kanälen. Mehr ist es nicht.

Siehe auch: Farbraum, Histogramm

Unter 0,1 gilt als unauffällig, über 0,2 als deutliche Verschiebung, die eine Prüfung auslösen sollte.

Siehe auch: Drift

Bei seltenen Ereignissen entscheidet die Präzision über die Brauchbarkeit, nicht die Trefferquote.

Siehe auch: Recall, Basisrate

Prefill lastet die Karte voll aus und bestimmt die Zeit bis zum ersten Token. Decode danach lastet sie kaum aus.

Siehe auch: Latenz, KV-Cache

Ein Prompt ist mehr als eine Frage. Er enthält Rolle, Aufgabe, Zusammenhang, Beispiele und Vorgaben zur Form. Die Qualität der Antwort hängt daran stärker als am Modell.

Siehe auch: Kontextfenster, Systemprompt

Sobald ein System fremde Inhalte liest, kann darin eine Anweisung an das System stehen. Gelesener Inhalt ist immer Daten und niemals Anweisung.

Siehe auch: Agent, Werkzeugaufruf

Ohne Bibliothek erfindet jede Person ihre eigenen Prompts neu, und niemand weiß, welche Fassung wo im Einsatz ist. Sie gehört versioniert wie Code.

Siehe auch: Prompt, Systemprompt

Der unveränderliche Teil muss ganz an den Anfang, sonst greift der Cache nicht. Ersparnis in der Praxis 30 bis 60 Prozent der Eingabekosten.

Siehe auch: KV-Cache, Kontextfenster

Ein vollständiges Protokoll aller Eingaben ist verlockend und regelmäßig eine eigene Verarbeitung mit eigener Rechtsgrundlage.

Siehe auch: Nachweis, Löschfrist

Eine Pseudonymisierung vor dem Modellaufruf ist der wirksamste einzelne Hebel zur Risikosenkung und meist ohne Nachteil möglich.

Siehe auch: Anonymisierung, Zweckbindung

Ein PUE von 1,3 bedeutet 30 Prozent Aufschlag für Kühlung und Verluste. Er gehört in jede Verbrauchsangabe.

Siehe auch: Edge

int8 kostet meist unter einem Prozent Qualität, int4 ein bis drei. Bei Rechenaufgaben ist der Verlust überproportional.

Siehe auch: Gleitkomma, VRAM

Der praktische Gewinn ist nicht bessere Sprache, sondern die Möglichkeit, eine Quelle zu nennen und sie nachprüfen zu lassen.

Siehe auch: Grounding, Vektordatenbank, Chunking

Ohne RANSAC verdirbt ein einziger Fehltreffer die berechnete Transformation vollständig.

Siehe auch: Homographie, Deskriptor

Bei einer Vektorsuche misst Recall, wie viele der wirklich nächsten Nachbarn eine Näherungssuche gefunden hat.

Siehe auch: Präzision, F1-Wert

Ohne Rechtsgrundlage ist eine Verarbeitung unzulässig, unabhängig davon wie nützlich sie ist. Einwilligung ist im Beschäftigungsverhältnis angreifbar.

Siehe auch: DSGVO, Zweckbindung

Der wirksamste Regularisierer sind mehr und vielfältigere Daten. Jede algorithmische Maßnahme ist ein Ersatz dafür.

Siehe auch: Overfitting, Dropout

Abweichungen sind normal, unbemerkte Abweichungen sind das Problem. Art. 10 AI Act verlangt für Hochrisikosysteme eine Prüfung.

Siehe auch: Stichprobe, Bias

Sobald der Abruf mehr als zehn Kandidaten liefert, hebt ein Cross-Encoder auf 50 Kandidaten die Präzision deutlich.

Siehe auch: RAG, Recall

Ohne Residuen muss jede Schicht ihre Ausgabe neu erzeugen. Mit ihnen muss sie nur sagen, was sie ändern will.

Siehe auch: Transformer, Layer Normalization

Menschen wählen zwischen zwei Antworten, daraus entsteht ein Belohnungsmodell, und die Policy wird dagegen optimiert. DPO erreicht Ähnliches ohne diesen Umweg.

Siehe auch: Alignment, DPO

Bei sehr ungleichen Klassen wirkt ROC-AUC optimistisch; die Precision-Recall-Kurve ist dann aussagekräftiger.

Siehe auch: Präzision, Recall

Ein ungeprobter Rollback dauert im Ernstfall erfahrungsgemäß dreimal so lange wie geschätzt.

Siehe auch: Modellregister

Liegt die arithmetische Intensität unter dem Verhältnis von Spitzenleistung zu Bandbreite, hilft mehr Rechenleistung nicht.

Siehe auch: Speicherbandbreite

Weil RoPE relative Abstände kodiert, lässt sich der Kontext nachträglich durch Streckung der Frequenzen verlängern.

Siehe auch: Transformer, Kontextfenster

Wie oft ein Test anschlägt wenn jemand betroffen ist, hat wenig damit zu tun, wie wahrscheinlich Betroffenheit ist wenn der Test anschlägt.

Siehe auch: Basisrate

Der Schattenbetrieb ist die einzige Möglichkeit, eine neue Version an echtem Verkehr zu messen, bevor sie Wirkung entfaltet.

Siehe auch: Rollback, Modellregister

Segmentierung kostet in der Annotation ein Vielfaches der Objekterkennung und ist meist der Engpass eines Vorhabens.

Siehe auch: Dice-Koeffizient, IoU

Das Skalarprodukt ist der Grund, warum Ähnlichkeitssuche und Attention überhaupt funktionieren.

Siehe auch: Kosinusähnlichkeit, Vektor

Er machte aus einer Forschungsfrage eine Investitionsentscheidung: die Wirkung von zehnfachem Aufwand lässt sich abschätzen, ohne zu bauen.

Siehe auch: Training, Parameter

Aus beiden Richtungsableitungen ergeben sich Betrag und Richtung der Kante wie bei einem Vektor.

Siehe auch: Canny, Faltung

Softmax wird nie ohne Abzug des Maximums gerechnet, sonst läuft der Exponent über und das Ergebnis wird NaN.

Siehe auch: Temperatur, Logit

Das Verfahren ist verlustfrei: die Ausgabeverteilung bleibt exakt die des großen Modells.

Siehe auch: Batching, Distillation

Bei einer einzelnen Anfrage begrenzt die Bandbreite, nicht die Rechenleistung: das Rechenwerk ist zu über 99 Prozent unbeschäftigt.

Siehe auch: VRAM, Roofline-Modell

Um die Messgenauigkeit zu verdoppeln, braucht man die vierfache Datenmenge. Das ist die betriebswirtschaftlich wichtigste Zahl der Statistik.

Siehe auch: Varianz, Konfidenzintervall

Gezielt gesammelte schwierige Fälle verbessern das Training und machen einen Testsatz unbrauchbar.

Siehe auch: Testsatz, Repräsentativität

Sie ersetzen keinen Testsatz. Bewertet wird immer gegen echte Daten, und Anonymität ist ohne formale Garantie nicht belegbar.

Siehe auch: Differenzielle Privatheit, Datenkarte

Der Systemprompt legt Verhalten, Ton und Grenzen fest und ist für die nutzende Person meist nicht sichtbar. Er gehört versioniert und dokumentiert.

Siehe auch: Prompt

Bei null wird immer der wahrscheinlichste Token gewählt. Eine hohe Temperatur erzeugt keine Kreativität, sondern Streuung.

Siehe auch: Softmax, Top-p

Sie greifen nur bei passenden Formaten und Dimensionen. Eine Breite von 4095 statt 4096 kostet spürbar Leistung.

Siehe auch: GPU, Gleitkomma

Sobald der Testsatz mehrfach zur Auswahl zwischen Varianten dient, ist er ein zweiter Validierungssatz und seine Zahl zu optimistisch.

Siehe auch: Kreuzvalidierung, Eval-Set

Rechtmäßiger Zugang ist Voraussetzung. Außerhalb der Forschung greift die Schranke nur, wenn kein maschinenlesbarer Vorbehalt erklärt ist.

Siehe auch: Urheberrecht

Kosten, Kontextlänge und Perplexität werden in Token gemessen. Deutsch braucht für denselben Inhalt rund 20 bis 40 Prozent mehr Token als Englisch.

Siehe auch: Kontextfenster, Tokenizer

Ein Modell ist untrennbar an seinen Tokenizer gebunden. Zwei Modelle mit verschiedenen Vokabularen haben keine vergleichbaren Perplexitätswerte.

Siehe auch: Token

Deutsch braucht für denselben Inhalt rund 20 bis 40 Prozent mehr Token und kostet damit entsprechend mehr.

Siehe auch: Token, Kontingent

Top-p ist Top-k überlegen, weil sich die Kandidatenmenge an die Situation anpasst statt fest zu sein.

Siehe auch: Temperatur

Training bedeutet: eine Vorhersage machen, den Fehler messen, alle Parameter ein winziges Stück in die Richtung verschieben, die den Fehler senkt, und das millionenfach wiederholen.

Siehe auch: Gradient, Verlustfunktion

Der Durchbruch von 2017 liegt nicht in Intelligenz, sondern in Parallelisierbarkeit: die ganze Sequenz wird gleichzeitig verarbeitet.

Siehe auch: Attention, Residualverbindung

Nach Art. 50 AI Act müssen Anbieter maschinenlesbar kennzeichnen und Betreiber Deepfakes offenlegen.

Siehe auch: EU AI Act, Wasserzeichen

Training stützt sich in der EU auf die Text- und Data-Mining-Schranke; ein rein maschinell erzeugtes Werk genießt regelmäßig keinen eigenen Schutz.

Siehe auch: Text- und Data-Mining

Ohne Streuungsangabe ist ein Vergleich zweier Modelle nicht von Rauschen zu unterscheiden.

Siehe auch: Standardfehler, Bias und Varianz

Wörter, Sätze und Bilder werden in Vektoren übersetzt, damit Ähnlichkeit zu einer Abstandsfrage wird.

Siehe auch: Skalarprodukt, Embedding

Unter etwa 100.000 Vektoren genügt eine Erweiterung in der vorhandenen Datenbank; ein eigenes System lohnt erst darüber.

Siehe auch: Embedding, HNSW, Recall

Dazu gehören soziale Bewertung, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie biometrische Kategorisierung nach sensiblen Merkmalen.

Siehe auch: EU AI Act, Biometrisches Merkmal

Sie ist der Ort, an dem fachliche Prioritäten in das Modell gelangen. Wer sie nicht bewusst wählt, überlässt das dem Standardwert der Bibliothek.

Siehe auch: Kreuzentropie, Gradient

Ohne die eingebauten Annahmen eines CNN braucht ein ViT mehr Daten, skaliert dafür aber besser.

Siehe auch: CNN, Transformer

Ein Modell mit sieben Milliarden Parametern braucht 14 Gigabyte in float16, 7 in int8 und 3,5 in int4, plus Kontextspeicher.

Siehe auch: Quantisierung, KV-Cache

Jede Ausgabe eines Sprachmodells ist eine Wahrscheinlichkeitsverteilung über das gesamte Vokabular.

Siehe auch: Basisrate, Satz von Bayes

Bei Transformern ist ein Warmup über 2 bis 5 Prozent der Schritte faktisch Standard.

Siehe auch: Lernrate

Ein Wasserzeichen ist eine Sorgfaltsmaßnahme, kein Schutz: es hilft bei kooperativen Anbietern und nicht gegen absichtlichen Missbrauch.

Siehe auch: Transparenzpflicht

Das Modell erzeugt strukturierten Text, der als Funktionsaufruf gelesen wird. Die Beschreibung eines Werkzeugs ist selbst ein Prompt und entscheidet über die Trefferquote.

Siehe auch: Agent

Der Gegenbegriff ist Few-Shot, bei dem zwei bis fünf Beispiele im Prompt stehen. Wo eine Aufgabe zero-shot misslingt, ist ein Beispiel fast immer billiger als ein Fine-Tuning.

Siehe auch: Prompt, Fine-Tuning

Daten aus der Vertragsabwicklung sind damit nicht automatisch für Modelltraining nutzbar. Ein Zweckwechsel ist zu prüfen und zu begründen.

Siehe auch: Rechtsgrundlage, Löschfrist