Kursbeschreibung
FinOps für KI ist mehr als klassische Cloud-Kostenoptimierung, weil sich Verbrauch und Wertschöpfung anders verhalten: Ein einzelnes Feature kann durch Tokenverbrauch oder GPU-Last die Stückkosten vervielfachen, und Experimente erzeugen schnell schwer zuzuordnende Kosten. In diesem Seminar lernst du, wie du eine FinOps-Praxis aufbaust, die speziell für GenAI-, ML-Training- und Inference-Szenarien funktioniert. Du startest mit einem klaren Bild der Kostentreiber und lernst, welche Messgrößen du brauchst, um Kostenverhalten zu erklären, statt nur zu berichten. Danach entwickelst du Strukturen, die im Alltag tragen: Rollen, Verantwortlichkeiten und Entscheidungswege entlang des FinOps Frameworks. Du arbeitest heraus, wie Showback und Chargeback sinnvoll eingesetzt werden und wie du mit Policies wiederkehrende Entscheidungen standardisierst. Ein Schwerpunkt liegt auf Kosten-Transparenz durch Tagging-Standards, Cost Categories und Allocation für Shared Services, damit Teams ihre Kosten wirklich beeinflussen können. Im nächsten Schritt setzt du Budgets, Alerts und Guardrails auf, die Innovation nicht ausbremsen. Du definierst Budgetlogiken nach Teams, Produkten und Umgebungen, nutzt Forecast- und Anomalie-Alerts und ergänzt Quotas sowie Rate Limits, um besonders bei GenAI-Endpunkten Risiken zu begrenzen. Zum Abschluss verknüpfst du Kosten mit Produktkennzahlen, definierst Unit Economics und erstellst eine Roadmap für kontinuierliche Optimierung, inklusive Quick Wins wie Scheduling, Reservations und Kontext-Strategien. So wird Kostenkontrolle zu einem festen Bestandteil deiner KI-Plattform.
Die wichtigsten Themen im Überblick
- KI-Cloud-Kosten für GenAI, Training und Inference verstehen
- Belastbare Kostenmodelle für KI-Workloads aufbauen
- Budgets, Alerts und Guardrails wirksam umsetzen
- GPU, Storage und Netzwerk mit FinOps optimieren
- Tagging, Allocation und Kostenstellen sauber strukturieren
- FinOps-Rollen für Product, Engineering und Finance klären
- Kosten pro Token, Request und Nutzungseinheit steuern
- Showback, Chargeback und Forecasting praxisnah nutzen
Zielgruppe
- Cloud- und Plattformverantwortliche mit KI-Workloads
- ML Engineers, Data Engineers, MLOps Engineers
- Produktverantwortliche für KI-Funktionen
- IT-Controlling, Finance und FinOps-Practitioner
- Alle, die KI-Cloud-Kosten planbar steuern wollen, ohne Delivery zu blockieren
Voraussetzung für die Schulung
- Grundverständnis von Cloud-Services und Kostenabrechnung (Accounts/Subscriptions, Compute, Storage).
- Hilfreich: erster Kontakt mit ML- oder GenAI-Workloads, ist aber keine Pflicht.
Kursinhalte
- Kostenlogik von KI-Cloud-Services verstehen
- Training vs. Inference: typische Kostentreiber
- GPU, Storage, Netzwerk, Managed Services
- Token, Requests, Kontextfenster bei LLMs
- Warum Tagging bei KI-Projekten oft scheitert
- FinOps-Grundlagen, Rollen und Entscheidungswege
- FinOps Framework: Inform, Optimize, Operate
- Rollenmodell: Product, Engineering, Finance
- Showback, Chargeback, Kostenstellenlogik
- Policy statt Einzelfreigaben
- Kosten-Transparenz aufbauen: Daten, Tags, Allocation
- Tagging-Standards und Naming-Konventionen
- Allocation für Shared Services und Plattformen
- Cost Categories, Labels, Accounts, Subscriptions
- Finanzsicht: CapEx/OpEx, Forecasting-Basics
- Budgets, Alerts und Guardrails für KI-Workloads
- Budget-Strukturen: Teams, Produkte, Umgebungen
- Alerting: Schwellen, Anomalien, Forecast Alerts
- Quotas, Rate Limits, Spend Limits
- Genehmigungsprozesse mit klaren Kriterien
- Optimierung: Quick Wins für GenAI und ML
- Right-Sizing und Scheduling von GPU-Workloads
- Spot/Preemptible, Reservations, Savings Plans
- Caching, Batch-Inference, Kontext-Strategien
- Storage-Lifecycle, Datenhaltung, Egress reduzieren
- KPI-Set: Kosten mit Produktwert verbinden
- Cost per Request, Cost per Token, Cost per User
- Unit Economics und SLOs für Kosten
- FinOps-Reporting: Management-taugliche Views
- Roadmap: von Pilot zu skalierbarem Betrieb
