LERNPFADE
IM DETAIL
Sprachmodelle verstehen
Wie aus einer Matrixmultiplikation ein Sprachmodell wird, Schicht für Schicht nachgerechnet.
ca. 5 Stunden
12 Artikel
- 01Neuronale Netze2 min
- 02Tokenisierung2 min
- 03Embeddings2 min
- 04Attention2 min
- 05Die Transformer-Architektur3 min
- 06Wie ein Sprachmodell trainiert wird2 min
- 07RLHF und Alignment2 min
- 08Sampling und Temperatur2 min
- 09Das Kontextfenster, technisch2 min
- 10Warum Modelle halluzinieren2 min
- 11Reasoning-Modelle · optional2 min
- 12Mixture of Experts · optional2 min