Kursbeschreibung
Sicheres KI-Training bedeutet mehr als verschlüsselte Festplatten. Es geht um kontrollierte Datenflüsse, nachvollziehbare Entscheidungen und technische Schutzmaßnahmen, die auch unter Zeitdruck in Experimenten funktionieren. In diesem Seminar lernst Du, wie Du Datensicherheit beim Training eigener KI-Modelle systematisch aufbaust, ohne die Entwicklungsgeschwindigkeit zu zerstören. Du startest mit einem Security-by-Design-Ansatz: Bedrohungsmodell, Schutzbedarf und messbare Sicherheitsziele für Dein ML-Projekt. Du erkennst, wo Daten abfließen können, wie Data Poisoning entsteht und warum Supply-Chain-Risiken in ML besonders relevant sind. Danach verankerst Du Datenschutz und Compliance in der Praxis: Datenklassifizierung, PII-Handling, Zweckbindung, Datenminimierung und Löschung werden in konkrete Prozess- und Dokumentationsanforderungen übersetzt, die auch in Audits standhalten. Im nächsten Schritt setzt Du technische Controls entlang der Pipeline: Maskierung, Pseudonymisierung und Tokenisierung in der Datenaufbereitung, sichere Abläufe für Labeling, sowie Prüfungen, die Datenqualität und Manipulationen adressieren. Für Trainingsumgebungen behandelst Du Isolation, Least-Privilege-IAM, Secrets-Management, Logging und Monitoring. Du lernst außerdem, wie Du Container-Images und Dependencies über SBOM, Signierung und Scans absicherst und reproduzierbare Trainingsläufe etablierst. Zum Abschluss definierst Du Policies für Modellartefakte, Versionierung und Freigaben und bewertest Leakage-Risiken wie Membership Inference. Damit kannst Du KI-Training verantwortbar, nachvollziehbar und robust betreiben.
Die wichtigsten Themen im Überblick
- KI-Trainingsdaten mit Maskierung und Tokenisierung schützen
- Bedrohungsmodelle für sichere ML-Pipelines erstellen
- Data Poisoning, Exfiltration und Insider-Risiken erkennen
- DSGVO, TOMs und Audit-Nachweise im Training umsetzen
- Trainingsjobs mit IAM, Secrets und Least Privilege absichern
- Supply-Chain-Risiken in Paketen und Containern reduzieren
- Model Leakage vor Deployment mit Red-Teaming prüfen
- Sichere Freigaben für Modelle und Artefakte definieren
Zielgruppe
- ML Engineers und Data Scientists mit Trainingsverantwortung
- IT-Security-Verantwortliche, die ML-Pipelines absichern
- Data Engineers und Plattform-Teams (MLOps)
- Datenschutzbeauftragte und Compliance-Funktionen mit KI-Bezug
- Für alle, die eigene KI-Modelle trainieren und Daten, Modelle sowie Pipelines belastbar schützen wollen
Voraussetzung für die Schulung
- Grundverständnis von ML-Workflows (Datenaufbereitung, Training, Artefakte).
- Basiswissen zu Zugriffskontrolle und Logs ist hilfreich, aber nicht zwingend.
Kursinhalte
- Bedrohungsmodell für KI-Training
- Angriffsflächen: Daten, Pipeline, Artefakte, Zugriffe
- Threat Modeling mit konkreten Abuse-Cases
- Risiken: Data Poisoning, Exfiltration, Insider
- Security-KPIs für ML-Projekte
- Datenschutz und Compliance im Trainingskontext
- DSGVO-Grundlagen: Zweckbindung, Minimierung, Löschung
- PII-Erkennung und sensible Datenklassen
- Auftragsverarbeitung, TOMs, Audit-Nachweise
- Umgang mit Daten aus Drittsystemen
- Datenaufbereitung mit Schutzmechanismen
- Maskierung, Pseudonymisierung, Tokenisierung
- Sampling-Strategien und Datenminimierung
- Labeling-Prozesse: sichere Rollen und Freigaben
- Qualitätschecks gegen Poisoning
- Sichere Trainingsumgebungen und Zugriffskontrolle
- Isolierung: Netzwerksegmente, Secrets, IAM
- Least Privilege für Daten, Jobs und Artefakte
- Logging, Monitoring, Anomalieerkennung
- Backup, Restore und sichere Löschkonzepte
- Supply-Chain-Security für ML
- Risiken in Python-Paketen, Container-Images, Base-Images
- Signierung, SBOM, Vulnerability Scans
- Reproduzierbare Trainingsläufe
- Freigabeprozesse für Dependencies
- Modellartefakte, Leakage und sichere Veröffentlichung
- Model Inversion und Membership Inference verstehen
- Prompt- und Output-Leakage bei GenAI-Workflows
- Policies für Sharing, Registry, Versionierung
- Red-Teaming-Checks vor Deployment
