Kursbeschreibung
Wenn Du vortrainierte Modelle nutzt, entscheidet nicht die Modellgröße über den Erfolg, sondern Deine Strategie: Daten, Training, Evaluierung und Betrieb müssen zusammenpassen. In diesem Aufbaukurs entwickelst Du genau diese End-to-End-Sicht auf Transfer Learning. Du lernst, die Ausgangslage zu bewerten: Datenmenge, Domänen-Shift, Qualitätsanforderungen und Kostenrahmen. Darauf basierend wählst Du zwischen Feature Extractor, Fine-Tuning und PEFT und setzt konkrete Maßnahmen wie Layer Freezing, Differential Learning Rates und geeignete Regularisierung um. Du arbeitest außerdem an den Faktoren, die in Projekten oft unterschätzt werden: Dataset Curation, Deduplizierung und saubere Splits. Du lernst, wie Du Data Leakage erkennst, wie Du Sampling gegen Klassenungleichgewicht einsetzt und wie Du mit data-centric Debugging systematisch zu besseren Daten kommst. Danach vertiefst Du PEFT-Ansätze wie LoRA und Adapter und bewertest die Konsequenzen für Speicher, Latenz und Wartung. Quantisierung und Speicherplanung werden dabei als Engineering-Entscheidungen behandelt, nicht als nachträgliche Optimierung. Ein eigener Block widmet sich der Evaluierung, die Produktentscheidungen trägt: passende Metriken, Calibration, Robustheitstests und qualitative Reviews. Abschließend planst Du Deployment und Betrieb: Serving-Varianten, Kosten pro Anfrage, Monitoring, Drift und Retraining-Trigger. Du verlässt den Kurs mit einem Vorgehensmodell, das Du auf neue Use Cases übertragen kannst, inklusive Checklisten für Training, Evaluierung und Produktion.
Die wichtigsten Themen im Überblick
- Transfer-Learning-Strategie passend zum Use Case wählen
- Fine-Tuning mit LoRA, Adaptern und Layer Freezing umsetzen
- Trainingskosten durch PEFT und Quantisierung senken
- Datenqualität sichern und Leakage im Dataset vermeiden
- Robuste Evaluierung mit F1, AUC und OOD-Tests aufbauen
- Overfitting erkennen und Experimente reproduzierbar tracken
- Deployment für Batch, Realtime und Drift-Monitoring planen
- Latenz, Durchsatz und Kosten pro Anfrage bewerten
Zielgruppe
- Machine-Learning Engineers und Data Scientists
- AI Product Ownerinnen und AI Product Owner mit Modellverantwortung
- Software Engineers, die Modelle deployen und betreiben
- Data Engineers mit Schnittstelle zu Training und Datenqualität
- Alle, die Transfer Learning planbar in Produkte bringen wollen
Voraussetzung für die Schulung
- Grundkenntnisse in Machine Learning und Modelltraining (Train/Validation/Test, Overfitting, Metriken).
- Erfahrung mit mindestens einem ML-Framework ist hilfreich, aber nicht zwingend, da Übungen angeleitet werden.
Kursinhalte
- Transfer-Learning-Strategien, die wirklich passen
- Feature Extractor vs. Fine-Tuning: Entscheidungskriterien
- Layer Freezing, Differential Learning Rates, Adapter
- Domänen-Shift erkennen und begrenzen
- Compute-, Zeit- und Qualitätsabschätzung
- Datenarbeit für effizientes Fine-Tuning
- Dataset Curation: Filtern, Deduplizieren, Label-Qualität
- Augmentation und Sampling gegen Klassenungleichgewicht
- Train/Validation/Test richtig schneiden (Leakage vermeiden)
- Data-Centric Debugging mit Fehlerkategorien
- Parameter-Efficient Fine-Tuning (PEFT)
- LoRA und Adapter-Konzepte: wann sinnvoll, wann nicht
- Quantization-aware Ansätze und Speicherplanung
- Prompt Tuning und Prefix Tuning im Vergleich
- Trade-offs: Latenz, Genauigkeit, Wartbarkeit
- Training, Monitoring und Reproduzierbarkeit
- Hyperparameter, Early Stopping, Regularisierung
- Experiment-Tracking und Model Registry
- Determinismus, Seeds, Versionierung von Daten
- Overfitting erkennen: Lernkurven richtig lesen
- Evaluierung, die Produktentscheidungen trägt
- Passende Metriken: Accuracy, F1, AUC, Calibration
- Robustheitstests: OOD, Stress- und Slice-Tests
- Baseline-Design und Ablations, die Klarheit schaffen
- Fehleranalyse: Confusion, Top-K, qualitative Reviews
- Deployment und Betrieb von transferierten Modellen
- Export, Serving, Batch vs. Realtime
- Latency-Budgets, Throughput, Kosten pro Anfrage
- Drift-Monitoring und Retraining-Trigger
- Governance: Dokumentation, Freigaben, Risiken
