GEPRÜFT
Kurse und Quellen
Kurse, Werkzeuge und Quellen, die die Redaktion selbst angesehen hat. Jeder Eintrag nennt Sprache, nötige Vorkenntnisse und Preis.
Kurs & Artikel
Adam
Das Optimierungsverfahren, mit dem praktisch jedes heutige Netz trainiert wird. Kurz und gut lesbar.
Kurz und gut lesbar; das Verfahren, mit dem praktisch jedes heutige Netz trainiert wird.
AI Act Explorer
Durchsuchbare, verlinkte Fassung des EU AI Act. Springt von einem Artikel direkt zu den zugehörigen Erwägungsgründen.
Deutlich angenehmer zu lesen als das PDF, aber keine amtliche Fassung. Im Zweifel den Volltext heranziehen.
AI Austria, Netzwerk und Veranstaltungen
Österreichisches Netzwerk aus Forschung und Wirtschaft, mit regelmäßigen Veranstaltungen.
Für den österreichischen Markt die naheliegendste Anlaufstelle, wenn man Menschen statt Dokumente sucht.
AI for Everyone
Nicht-technischer Einstiegskurs von Andrew Ng. Etwa sechs Stunden, gut geeignet für Führungskräfte.
Für Führungskräfte ohne technischen Hintergrund, die entscheiden müssen statt bauen.
AI Index Report
Jährlicher Bericht mit belegten Zahlen zu Modellen, Kosten, Einsatz und Regulierung. Nützlich, wenn eine Aussage eine Quelle braucht statt eines Eindrucks.
Wenn eine Aussage eine Quelle braucht statt eines Eindrucks.
An Image is Worth 16x16 Words
Bilder als Folge von Feldern, verarbeitet wie Text. Die Arbeit, die Transformer in die Bildverarbeitung gebracht hat.
Für alle, die Bild und Text in einem Modell verarbeiten wollen.
Attention Is All You Need
Die Arbeit von 2017, die den Transformer einführte. Alles, was heute Sprachmodell heißt, steht auf diesen acht Seiten.
Die acht Seiten, auf denen alles steht, was heute Sprachmodell heißt.
Batch Normalization
Warum das Normalisieren von Zwischenwerten tiefes Training überhaupt erst stabil macht.
Für alle, die wissen wollen, warum Normalisierung tiefes Training erst möglich macht.
BERT
Vortraining auf maskiertem Text, danach Fine-Tuning je Aufgabe. Das Muster, das die Sprachverarbeitung vor den großen Modellen geprägt hat.
Für das Verständnis dessen, was vor den großen Modellen die Sprachverarbeitung geprägt hat.
BSI zur Sicherheit von KI-Systemen
Technische Leitfäden zum sicheren Betrieb von KI-Systemen, kostenlos und ungewöhnlich konkret.
Für IT-Sicherheit und Betrieb im deutschsprachigen Raum; ungewöhnlich konkret für eine Behördenquelle.
Chain-of-Thought Prompting
Zwischenschritte im Prompt verbessern mehrstufige Aufgaben deutlich. Die Grundlage der heutigen Modelle mit Denkschritten.
Für alle, die Prompts bauen: die Arbeit hinter dem Muster mit den Zwischenschritten.
CNIL zu künstlicher Intelligenz
Die französische Aufsichtsbehörde veröffentlicht die praxisnächsten Handreichungen zu KI und Datenschutz in Europa, jeweils auch auf Englisch.
Für Datenschutzverantwortliche, die eine aufsichtsnahe Auslegung brauchen und nicht nur den Gesetzestext.
Common Crawl
Der offene Abzug des Webs, aus dem ein großer Teil der Trainingsdaten von Sprachmodellen stammt. Zeigt konkret, was in einem Vortraining tatsächlich steckt.
Für alle, die wissen wollen, woher ein Modell sein Wissen hat, und für die Frage nach dem Nutzungsvorbehalt.
Datasheets for Datasets
Herkunft, Zusammensetzung und Einschränkungen eines Datensatzes dokumentieren. Die Vorlage, aus der die heutigen Dokumentationspflichten stammen.
Für alle, die Datensätze dokumentieren müssen; die Vorlage der heutigen Pflichten.
Deep Learning
Das Standardwerk von Goodfellow, Bengio und Courville, frei lesbar. Mathematisch dicht, vollständig, und in den Grundlagenteilen zeitlos.
Für den systematischen Zugang. Als Nachschlagewerk stark, als Einstieg zu dicht.
Deep Learning Specialization
Fünf Kurse von den Grundlagen neuronaler Netze bis zu Sequenzmodellen. Ausführlich, mit Programmierübungen, und in Teilen älter als die aktuelle Praxis.
Für alle mit Programmierkenntnissen, die den Bereich vollständig durcharbeiten wollen.
Deep Residual Learning
Die Abkürzung über Schichten hinweg, die Netze mit hundert Schichten trainierbar machte. Heute in jeder Architektur enthalten.
Für das Verständnis, warum Netze überhaupt tief werden konnten.
Denoising Diffusion Probabilistic Models
Rauschen schrittweise entfernen statt Bilder in einem Zug erzeugen. Die Grundlage aller heutigen Bildmodelle.
Für das Verständnis aller heutigen Bildmodelle, vom Rauschen her gedacht.
Der Regulierungsrahmen der Kommission
Die offizielle Übersicht zum AI Act mit Zeitplan, Leitlinien und Verweisen auf die Durchführungsrechtsakte. Der Ausgangspunkt für jede Fristenfrage.
Für jede Fristenfrage der Ausgangspunkt, weil hier der amtliche Zeitplan steht.
Distilling the Knowledge in a Neural Network
Ein großes Modell bringt einem kleinen bei, was es kann. Die Grundlage der kleinen Modelle, die heute im Betrieb laufen.
Für alle, die kleine Modelle im Betrieb einsetzen wollen und die Grundlage dazu suchen.
Dive into Deep Learning
Lehrbuch mit ausführbarem Code neben jeder Herleitung. Jedes Kapitel lässt sich als Notebook öffnen und nachrechnen.
Für alle, die beim Lesen mitrechnen wollen; jedes Kapitel lässt sich als Notizbuch öffnen.
Dropout
Zufälliges Abschalten von Neuronen als Regularisierung. Einfach, wirksam und bis heute im Einsatz.
Einfach, wirksam und bis heute im Einsatz; gut lesbar auch ohne tiefe Vorkenntnis.
Efficient Estimation of Word Representations
Die Arbeit, die Wörter erstmals als Vektoren mit rechenbarer Bedeutung etablierte. Der Ursprung aller Embeddings.
Der Ursprung aller Embeddings; kurz und bis heute erhellend.
Elements of AI
Kostenloser Grundlagenkurs der Universität Helsinki, auf Deutsch, ohne Vorwissen. Etwa 30 Stunden, mit Zertifikat.
Wenn Sie nach dem Einsteigerpfad hier weitermachen wollen: das ist der naheliegende nächste Schritt. Deckt sich in Teilen mit unseren Grundlagen, geht aber deutlich tiefer in die Funktionsweise.
ENISA-Veröffentlichungen
Berichte der EU-Agentur für Cybersicherheit, unter anderem zur Absicherung von KI-Systemen und zur Bedrohungslage. Kostenlos und in europäischem Bezug.
Für Sicherheitsverantwortliche, die einen europäischen Bezugsrahmen brauchen statt eines amerikanischen.
Essence of Linear Algebra
Fünfzehn kurze Filme, die zeigen, was eine Matrix mit dem Raum macht. Wer Vektoren bisher nur als Zahlenlisten kannte, sieht danach etwas anderes.
Für alle, die Vektoren bisher nur als Zahlenlisten kannten und eine Anschauung brauchen.
EU AI Act, der amtliche Volltext
Verordnung (EU) 2024/1689 im Volltext, in allen Amtssprachen. Die Primärquelle für jede Rechtsfrage.
Unsere Governance-Artikel fassen zusammen und ordnen ein. Wo es auf den Wortlaut ankommt, gilt dieser Text.
FlashAttention
Aufmerksamkeit berechnen, ohne die quadratische Matrix je vollständig abzulegen. Die Voraussetzung für lange Kontexte.
Für alle, die lange Kontexte betreiben und wissen müssen, woran der Speicher hängt.
Fraunhofer IAIS zu künstlicher Intelligenz
Deutschsprachige Leitfäden zu Prüfung, Zertifizierung und Betrieb von KI-Systemen, aus anwendungsnaher Forschung.
Für deutschsprachige Prüf- und Zertifizierungsfragen, wo englische Quellen nicht weiterhelfen.
Gender Shades
Die Untersuchung, die zeigte, wie stark Gesichtserkennung je nach Hautton und Geschlecht danebenliegt. Der Auslöser der heutigen Regeln.
Für jede Diskussion über Gesichtserkennung: die Untersuchung, die die heutigen Regeln ausgelöst hat.
Generative Adversarial Networks
Zwei Netze, die gegeneinander lernen. Der erste Ansatz, der überzeugende Bilder erzeugte, heute weitgehend abgelöst.
Historisch wichtig; heute weitgehend abgelöst, aber für das Verständnis der Entwicklung nützlich.
High-Resolution Image Synthesis
Diffusion nicht im Bild, sondern in einem kleineren Zwischenraum. Der Schritt, der Bildgenerierung auf gewöhnlicher Hardware möglich machte.
Für alle, die Bildgenerierung selbst betreiben wollen; erklärt, warum es auf üblicher Hardware läuft.
Hugging Face Agenten-Kurs
Werkzeugaufrufe, Planung und die Absicherungen, ohne die ein Agent im Betrieb nicht tragbar ist. Praktisch, mit lauffähigem Code.
Für alle, die einen Agenten bauen wollen und wissen müssen, welche Absicherungen dazugehören.
Hugging Face Audio-Kurs
Vom Signal über Spektrogramme bis zu Erkennung und Synthese, durchgehend mit Code. Die praktische Ergänzung zu den Artikeln über Sprache und Audio.
Für alle, die Sprachtechnik selbst bauen wollen; setzt Python und etwas Signalwissen voraus.
Hugging Face Computer-Vision-Kurs
Von der Bildvorverarbeitung über Faltungsnetze bis zu Vision Transformern, mit lauffähigen Beispielen zu Erkennung und Segmentierung.
Für Entwicklung mit Bilddaten; setzt Python voraus, liefert dafür lauffähige Beispiele.
Hugging Face Datensätze
Offene Datensätze mit Beschreibung, Lizenz und Vorschau. Nützlich für Bewertungssätze, riskant als Trainingsgrundlage ohne Herkunftsprüfung.
Für Bewertungssätze gut, als Trainingsgrundlage nur mit Herkunfts- und Lizenzprüfung.
Hugging Face LLM Course
Technischer Kurs zu Sprachmodellen, kostenlos. Setzt Python-Kenntnisse voraus.
Für den Übergang von der Anwendung zum eigenen Betrieb offener Modelle.
Hugging Face Modell-Hub
Hunderttausende offene Modelle mit Lizenz, Modellkarte und Gewichten. Die erste Adresse, wenn geprüft werden soll, ob ein lokales Modell für eine Aufgabe reicht.
Die Lizenz steht auf der Modellkarte und ist nicht bei jedem offenen Modell kommerziell nutzbar.
Hugging Face NLP-Kurs
Tokenisierung, Transformer, Fine-Tuning und Bereitstellung, durchgehend mit Code. Setzt Python voraus, dafür arbeitet man am Ende mit echten Modellen.
Für Entwicklung mit Sprachmodellen, wenn es über das Aufrufen einer Schnittstelle hinausgehen soll.
Hugging-Face-Kurs zu Reinforcement Learning
Belohnung, Politik und Erkundung an spielbaren Umgebungen. Nützlich, um zu verstehen, was beim Alignment von Sprachmodellen eigentlich passiert.
Für alle, die verstehen wollen, was beim Alignment von Sprachmodellen tatsächlich passiert.
ImageNet
Der Datensatz, an dem sich Bildverarbeitung über ein Jahrzehnt gemessen hat. Historisch wichtig und in seinen Verzerrungen gut dokumentiert.
Für alle, die Benchmarks lesen wollen: fast jede Zahl zur Bilderkennung bezieht sich hierauf.
Interpretable Machine Learning
Was Verfahren zur Erklärbarkeit leisten und wo sie überinterpretiert werden. Die nüchternste Darstellung des Themas, frei verfügbar.
Für alle, die Erklärbarkeit versprechen müssen und wissen sollten, was Verfahren wirklich leisten.
Jupyter
Notizbücher, in denen Text, Code und Ergebnis nebeneinander stehen. Das übliche Werkzeug, um Rechnungen nachvollziehbar festzuhalten.
Für die ersten eigenen Rechnungen; hält Text, Code und Ergebnis an einer Stelle nachvollziehbar.
Kaggle Learn
Kurze Einheiten mit ausführbaren Notebooks, von Python über Pandas bis zu ersten Modellen. Ohne Installation, direkt im Browser.
Für den allerersten Einstieg ohne Installation, direkt im Browser.
Kaggle-Datensätze
Echte, unaufgeräumte Daten zum Üben. Genau das macht sie wertvoll, weil aufbereitete Beispiele die eigentliche Arbeit verstecken.
Zum Üben an unaufgeräumten Daten, weil aufbereitete Beispiele die eigentliche Arbeit verstecken.
Kurzkurse zu KI-Werkzeugen
Einheiten von etwa einer Stunde zu Prompting, Abruf eigener Dokumente, Agenten und Bewertung. Kostenlos und nah an dem, was gerade eingesetzt wird.
Für Praktiker mit einer konkreten Frage; eine Einheit dauert etwa eine Stunde.
LangChain-Dokumentation
Bausteine für Abruf, Werkzeugaufrufe und Agenten. Nützlich als Katalog der Muster, auch wenn man am Ende ohne das Rahmenwerk baut.
Als Musterkatalog nützlich, auch wenn man am Ende ohne das Rahmenwerk baut.
Language Models are Few-Shot Learners
Die Arbeit, die zeigte, dass Beispiele im Prompt ein Fine-Tuning ersetzen können. Der Ursprung dessen, was heute Prompting heißt.
Für das Verständnis, warum Beispiele im Prompt ein Fine-Tuning ersetzen können.
Learning Transferable Visual Models
Bilder und Texte in einem gemeinsamen Raum. Die Grundlage der Suche nach Bildern per Beschreibung und der Bildgenerierung.
Für das Verständnis von Bildsuche über Beschreibungen und von Bildgenerierung.
Leitlinien des Europäischen Datenschutzausschusses
Die Auslegung der DSGVO durch das Gremium der Aufsichtsbehörden. Bei Streit über eine Rechtsgrundlage die belastbarste Quelle nach dem Gesetzestext.
Für Rechtsabteilungen und Datenschutzbeauftragte, wenn eine Auslegung belastbar sein muss.
llama.cpp
Ausführung quantisierter Modelle auf gewöhnlicher Hardware, bis hinunter zu einzelnen Karten und Kleinrechnern. Die Referenzimplementierung für den Betrieb ohne Rechenzentrum.
Für den Betrieb ohne Rechenzentrum, bis hinunter zu einzelnen Karten und Kleinrechnern.
LoRA
Anpassung über wenige zusätzliche Parameter statt vollständigem Training. Der Grund, warum Fine-Tuning heute bezahlbar ist.
Für alle, die feinabstimmen wollen und ein Budget haben; die Grundlage der bezahlbaren Anpassung.
Machine Learning Specialization
Der Kurs von Andrew Ng in überarbeiteter Fassung. Regression, Klassifikation, neuronale Netze und die Fehler, die in der Praxis tatsächlich passieren. Rechnen inbegriffen.
Kostenlos anzusehen, das Zertifikat kostet. Wer nur verstehen will, braucht es nicht.
Mathematics for Machine Learning
Genau die Mathematik, die maschinelles Lernen braucht, ohne den Rest. Lineare Algebra, Analysis und Wahrscheinlichkeit in einem Band, frei als PDF.
Für alle, die genau die Mathematik wollen, die maschinelles Lernen braucht, und nicht mehr.
MIT 18.06 Lineare Algebra
Gilbert Strangs Vorlesung, vollständig als Video mit Übungen. Wer Vektoren, Matrizen und Projektionen einmal wirklich verstehen will, findet hier die Referenz.
Für alle, die lineare Algebra einmal wirklich verstehen wollen statt sie nachzuschlagen.
MIT 18.065 Matrixmethoden
Singulärwertzerlegung, Hauptkomponenten und Optimierung, angewandt auf Daten. Die Brücke zwischen linearer Algebra und dem, was Modelle tatsächlich rechnen.
Für den Schritt von der reinen Mathematik zu dem, was Modelle tatsächlich rechnen.
MIT 6.036 Einführung in Machine Learning
Formaler als die meisten Onlinekurse, mit Herleitungen statt Rezepten. Passt gut nach einem praktischen Kurs, wenn die Frage nach dem Warum offen bleibt.
Für alle, denen nach einem Praxiskurs die Frage nach dem Warum offen geblieben ist.
Model Cards for Model Reporting
Der Vorschlag, zu jedem Modell Zweck, Grenzen und geprüfte Gruppen zu dokumentieren. Heute praktisch Voraussetzung jeder Prüfung.
Für alle, die eine Prüfung vorbereiten; Modellkarten sind faktisch Voraussetzung geworden.
Modellbewertung in scikit-learn
Die vollständige Übersicht der Bewertungsmaße mit ihren Fallstricken. Die kürzeste Antwort auf die Frage, warum Genauigkeit meist die falsche Zahl ist.
Die kürzeste Antwort auf die Frage, warum Genauigkeit meist die falsche Zahl ist.
Netron
Öffnet eine Modelldatei und zeichnet ihren Aufbau. Die schnellste Art zu sehen, was in einem gelieferten Modell tatsächlich steckt.
Für den schnellen Blick in ein geliefertes Modell, bevor man es in Betrieb nimmt.
Neuronale Netze, visuell erklärt
Von der einzelnen Gewichtung über Gradientenabstieg bis zum Aufmerksamkeitsmechanismus. Die beste verfügbare Anschauung für das, was die Formeln beschreiben.
Vor dem ersten Lehrbuch anzusehen, nicht danach. Spart Wochen an Verwirrung.
NIST AI Risk Management Framework
Ein strukturierter Rahmen für die eigene Risikobetrachtung, unabhängig vom AI Act. Nützlich als Gliederung, wenn intern noch keine besteht.
Für den Aufbau einer eigenen Risikobetrachtung, unabhängig vom AI Act.
NIST AI RMF Playbook
Die praktische Ausarbeitung des Risikorahmens: je Funktion konkrete Vorschläge, was zu tun und zu dokumentieren ist.
Für alle, die eine interne Risikobetrachtung aufbauen und eine Gliederung suchen, die schon durchdacht ist.
NumPy
Die Grundlage aller Rechnung mit Feldern in Python. Wer lineare Algebra nachrechnen will, braucht sonst nichts weiter.
Für alle, die Formeln aus den Technikartikeln selbst nachrechnen wollen.
OECD-Grundsätze für KI
Der internationale Bezugsrahmen, auf den sich auch die europäische Definition stützt.
Für die Einordnung nationaler Regelwerke in einen internationalen Rahmen.
Ollama
Offene Modelle lokal ausführen, mit einem Befehl je Modell. Der einfachste Weg, den Betrieb ohne Anbieter überhaupt einmal auszuprobieren.
Für den ersten Versuch mit einem lokalen Modell, ohne Anbieter und ohne Konto.
opencv-python
Das Paket, das OpenCV in eine Python-Umgebung bringt. Ein Befehl, und die klassische Bildverarbeitung steht zur Verfügung.
Ein Befehl, und die klassische Bildverarbeitung steht in der eigenen Umgebung bereit.
OpenCV-Tutorials
Die offiziellen Anleitungen zu Filtern, Kanten, Merkmalen und Kalibrierung, jeweils mit lauffähigem Python-Code.
Für alle, die Bildverarbeitung selbst schreiben; jedes Beispiel ist lauffähig.
Österreichische Datenschutzbehörde
Die zuständige Aufsicht für Österreich, mit Formularen, Entscheidungen und Hinweisen zur Meldung von Verletzungen.
Für österreichische Verantwortliche: die zuständige Stelle für Meldungen und Auskünfte.
Österreichischer Rechtsanwaltskammertag
Die Standesvertretung veröffentlicht, was berufsrechtlich gilt. Für den Einsatz von KI im Mandat ist das die maßgebliche Stelle, nicht der Werkzeuganbieter.
Für österreichische Kanzleien: berufsrechtlich maßgeblich, nicht der Werkzeuganbieter.
OWASP Top 10 für Anwendungen mit Sprachmodellen
Die Liste der Schwachstellen, die in Systemen mit Sprachmodellen tatsächlich auftreten, von Prompt-Injection bis zu unsicherer Werkzeuganbindung.
Für alle, die selbst bauen. Die Liste ersetzt keine Prüfung, ist aber der beste Ausgangspunkt dafür.
Practical Deep Learning for Coders
Beginnt mit einem lauffähigen Modell in der ersten Stunde und liefert die Theorie danach. Der kürzeste Weg von Python-Grundkenntnissen zum eigenen trainierten Modell.
Für Ungeduldige mit Python-Kenntnissen: das erste eigene Modell läuft in der ersten Stunde.
Probabilistic Machine Learning
Kevin Murphys Bände, die maschinelles Lernen konsequent aus der Wahrscheinlichkeitsrechnung heraus aufbauen. Umfangreich und frei verfügbar.
Für alle, die maschinelles Lernen konsequent aus der Wahrscheinlichkeitsrechnung aufbauen wollen.
PyTorch-Dokumentation
Die Referenz zu Autograd, Datentypen, Speicherverhalten und Determinismus. Die Stelle, an der sich Fragen zur Reproduzierbarkeit tatsächlich klären lassen.
Die Stelle, an der sich Fragen zu Determinismus und Speicherverhalten tatsächlich klären lassen.
PyTorch-Tutorials
Die offiziellen Anleitungen, von der ersten Tensoroperation bis zum verteilten Training. Kurz, lauffähig und laufend aktualisiert.
Für den Einstieg in die Bibliothek, in der der Großteil der Forschung geschrieben ist.
Retrieval-Augmented Generation
Die Arbeit, die Abruf und Erzeugung verbunden hat. Der Ursprung des Musters, mit dem eigene Dokumente belegbar nutzbar werden.
Für alle, die eigene Dokumente nutzbar machen wollen; der Ursprung des Musters.
Robust Speech Recognition
Spracherkennung, die mit Störgeräuschen, Akzenten und Sprachwechsel umgeht. Der Stand, an dem sich Diktatlösungen messen lassen.
Für alle, die Diktat oder Transkription einführen und einen Maßstab brauchen.
scikit-learn Benutzerhandbuch
Kein Handbuch, sondern ein Lehrbuch mit Code. Zu jedem Verfahren steht dabei, wann es nicht passt, was in Lehrbüchern selten so deutlich steht.
Für alle, die klassische Verfahren einsetzen; nennt zu jedem auch, wann es nicht passt.
Segment Anything
Segmentierung ohne aufgabenspezifisches Training, gesteuert über Punkte und Kästen. Verändert die Vorarbeit in der Bildanalyse deutlich.
Für Bildanalyse mit wenig eigenen Daten; verändert die Vorarbeit spürbar.
spaCy
Bibliothek für klassische Sprachverarbeitung. Für Erkennung von Namen, Wortarten und Struktur oft schneller, billiger und prüfbarer als ein Sprachmodell.
Wenn Namen, Wortarten oder Struktur gebraucht werden: oft schneller, billiger und prüfbarer als ein Sprachmodell.
Speech and Language Processing
Jurafsky und Martin, das Standardwerk der Sprachverarbeitung, kapitelweise frei. Deckt klassische Verfahren und Sprachmodelle in einem Bogen ab.
Für alle, die Sprachverarbeitung systematisch lernen wollen, klassisch und modern in einem Bogen.
Switch Transformers
Nur ein Bruchteil der Parameter rechnet je Token mit. Die Arbeit, die Mixture-of-Experts in die Breite gebracht hat.
Für das Verständnis, warum große Modelle nicht alle Parameter je Token mitrechnen.
Teachable Machine
Im Browser ein Bildklassifikationsmodell trainieren, ohne Code, in zehn Minuten. Zeigt Overfitting schneller als jede Erklärung.
Für die erste Anschauung ohne Code; zeigt Overfitting in zehn Minuten.
TensorFlow Playground
Ein neuronales Netz im Browser, mit Reglern für Schichten, Aktivierung und Lernrate. Man sieht in Sekunden, was jede Stellschraube tut.
Für alle, die sehen wollen, was Lernrate, Schichten und Aktivierung tatsächlich bewirken.
The Elements of Statistical Learning
Die statistische Sicht auf maschinelles Lernen, seit zwanzig Jahren die Referenz für Bias, Varianz und Modellwahl. Anspruchsvoll, frei als PDF.
Für alle mit statistischem Vorwissen; ohne dieses ist der Einstieg mühsam.
Training Compute-Optimal Large Language Models
Die Rechnung, die zeigte, dass die meisten großen Modelle mit zu wenig Daten trainiert waren. Seither ist Datenmenge kein Nebenpunkt mehr.
Für alle, die Modellgrößen vergleichen und wissen müssen, warum Datenmenge zählt.
Training Language Models to Follow Instructions
Wie aus einem Textfortsetzer ein Assistent wird. Die Arbeit hinter dem Alignment durch menschliche Rückmeldung.
Für alle, die wissen wollen, wie aus einem Textfortsetzer ein Assistent wird.
U-Net
Segmentierung mit wenigen Beispielen, entstanden in der Bildgebung der Medizin. Bis heute die erste Wahl für Segmentierung.
Für Segmentierung mit wenigen Beispielen; bis heute die erste Wahl.
Understanding Deep Learning
Modernes Lehrbuch mit ungewöhnlich klaren Abbildungen, das Transformer und Diffusionsmodelle bereits vollständig behandelt. Frei als PDF.
Für den modernen Einstieg; behandelt Transformer und Diffusion bereits vollständig.
Very Deep Convolutional Networks
Die Arbeit, die zeigte, dass Tiefe mit kleinen Filtern schlägt. Der Aufbau, an dem Faltungsnetze üblicherweise erklärt werden.
Für den Einstieg in Faltungsnetze; der Aufbau, an dem sie üblicherweise erklärt werden.
vLLM
Server für hohen Durchsatz mit fortlaufendem Batching und Seitenspeicher für den Zwischenspeicher. Der Grund, warum Eigenbetrieb bei Volumen wirtschaftlich wird.
Für den Eigenbetrieb bei Volumen; der Grund, warum er sich überhaupt rechnen kann.
You Only Look Once
Erkennung in einem einzigen Durchlauf statt in Vorschlägen und Prüfungen. Der Grund, warum Objekterkennung in Echtzeit möglich wurde.
Für Objekterkennung in Echtzeit; erklärt, warum sie überhaupt möglich wurde.