Kursbeschreibung
Green AI bedeutet, dass du KI-Produkte so entwickelst, dass sie wirtschaftlich bleiben und gleichzeitig Energie- und CO2e-Ziele erreichbar werden. In diesem Seminar gehst du den Weg von der ersten Use-Case-Idee bis zum Betrieb und lernst, welche Entscheidungen den größten Effekt haben. Du startest mit Transparenz: Welche Messpunkte du brauchst, um Training, Inferenz und Datenpipelines sauber zu bewerten, und wie du Kennzahlen wie kWh, CO2e, PUE sowie Token- und Request-Kosten in ein praktikables Monitoring bringst. Darauf folgt die strategische Ebene: Du priorisierst Use Cases mit einem Scoring nach Nutzen, Risiko, Energieprofil und Datenreife. So vermeidest du Projekte, die sich nur durch Rechenleistung „durchsetzen“. Du triffst fundierte Make-or-Buy-Entscheidungen zwischen Foundation Model, Fine-Tuning, RAG oder klassischem ML und definierst Governance, die Budgets, Freigaben und Green-KPIs zusammenführt. In der technischen Vertiefung arbeitest du an Effizienzhebeln: Quantization, Distillation, LoRA, kleinere Modelle, sowie Inference-Optimierung durch Batching, Caching und Kontext-Reduktion. Du lernst außerdem, wie Datenhaltung nachhaltiger wird: Retention-Regeln, Storage-Tiering, Embedding-Reuse und Drift-Checks. Abschließend baust du ein Reporting auf, das Management-tauglich ist und Audit-Trails ermöglicht, inklusive Modell- und Daten-Dokumentation. Nach dem Seminar kannst du Green AI als wiederholbares Vorgehen etablieren und konkrete Maßnahmen priorisieren, die sofort Wirkung zeigen.
Die wichtigsten Themen im Überblick
- KI-Workloads mit kWh, CO2e und Kosten transparent messen
- Use Cases nach Nutzen, Risiko und Energieprofil bewerten
- RAG, Fine-Tuning und klassisches ML effizient auswählen
- Inferenz mit Batching, Caching und kleineren Modellen optimieren
- Datenmengen mit Retention, Tiering und Reuse reduzieren
- Cloud-FinOps und GreenOps mit klaren Budgets verbinden
- Carbon-Aware Computing nach Standort und Strommix planen
- CO2e pro Use Case, Request und Monat belastbar reporten
Zielgruppe
- IT- und Digitalverantwortliche, die KI-Portfolios steuern
- Data Science und ML Engineering, die Modelle produktiv betreiben
- Cloud-, Plattform- und DevOps-Teams mit Kosten- und Performanceverantwortung
- Produktmanagement und Tech Leads, die KI-Features priorisieren
- Für alle, die KI messbar nachhaltiger und wirtschaftlicher machen wollen
Voraussetzung für die Schulung
- Grundverständnis von KI-Use-Cases und typischen Cloud- oder IT-Betriebsmodellen.
- Hilfreich sind Erfahrungen mit Metriken, Monitoring oder Kostenstellenlogik, aber nicht zwingend.
Kursinhalte
- Green AI Grundlagen und Messbarkeit
- Warum KI-Workloads so viel Energie ziehen: Training, Inferenz, Datenpipelines
- Wichtige Kennzahlen: kWh, CO2e, PUE, WUE, GPU-Auslastung, Token- und Request-Kosten
- Mess-Setup: Cloud-Metering, On-Prem-Telemetrie, Modell- und Pipeline-Logging
- Strategie: Von Use Case bis Betriebsmodell
- Use-Case-Scoring: Nutzen, Risiko, Energieprofil, Datenreife
- Make-or-Buy: Foundation Model, Fine-Tuning, RAG, klassisches ML
- Governance: Policies, Freigaben, Budgets, Green-KPIs in OKRs
- Effiziente Modell- und Systemarchitektur
- RAG statt Retraining: Retrieval-Design, Chunking, Caching, Vektordatenbanken
- Modellwahl: kleinere Modelle, Distillation, Quantization, LoRA und Adapter
- Inference-Optimierung: Batching, Streaming, Rate Limits, Prompt- und Kontext-Reduktion
- Daten: Weniger, besser, sauberer
- Datenerhebung und -speicherung: Datenminimierung, Retention, Tiering
- Feature- und Embedding-Strategien: Reuse, Versionierung, Drift-Checks
- Qualität statt Masse: Labeling-Strategien, Sampling, Synthetic Data mit Leitplanken
- Cloud, Rechenzentrum und Beschaffung
- Regionenwahl und Carbon-Awareness: Timing, Standort, Strommix
- Hardware-Entscheidungen: GPU-Generationen, CPU vs GPU, Speicherausbau
- FinOps und GreenOps verzahnen: Budgets, Tagging, Chargeback
- Compliance, Reporting und Kommunikation
- Nachweisfähigkeit: Audit-Trails, Modellkarten, Datenkarten, Dokumentation
- Reporting für Management: CO2e pro Use Case, pro Request, pro Monat
- Change und Enablement: Leitlinien für Teams, Produkt und Einkauf
