Kursbeschreibung
Serverless AI ist dann erfolgreich, wenn ein Team KI-Funktionalität wie jede andere Produktfunktion entwickeln, testen, releasen und betreiben kann. Genau darauf ist dieses Specialty-Seminar ausgelegt. Du erarbeitest Dir ein Architektur- und Delivery-Setup, das LLM-Workloads in eine event-driven, serverlose Plattform übersetzt: Trigger über API, Queue oder Stream, getrennte Verarbeitungsschritte und klare Schnittstellen. Du lernst, wie Du die richtigen Grenzen ziehst, damit Latenz und Kosten nicht explodieren und der Betrieb nicht im Dunkeln tappt. Du setzt Dich praxisnah mit den typischen Stolpersteinen auseinander: Cold Starts, Timeouts, Concurrency, Rate Limits und Backpressure. Daraus leitest Du Architekturentscheidungen ab, inklusive Kostenkalkulation für Pay-per-use, Token-Verbrauch und Retrieval. Für die LLM-Integration etablierst Du teamfähige Prompt- und Template-Strategien, robuste Tool-Calling Patterns und RAG-Bausteine mit Embeddings, Retrieval und Re-Ranking. Damit Ergebnisse reproduzierbar werden, baust Du eine Test- und Eval-Strategie auf: Goldens, Rubrics, Regression, Prompt-Unit-Tests und Contract-Tests. Observability wird durch Tracing, Metriken und Log-Korrelation operationalisiert. Sicherheit und Governance deckst Du mit PII-Handling, Secrets, Key-Management, Mandantenfähigkeit und Audit-Logs ab. Am Ende steht ein praxiserprobter Blueprint inklusive CI/CD, Definition of Done, Feature Flags, Canary, Rollback, Runbooks und SLOs, den Du direkt in Deinem Team einsetzen kannst.
Die wichtigsten Themen im Überblick
- Serverless AI Architekturen mit Events und Queues entwerfen
- LLM-Features mit Functions, Containers und Jobs skalieren
- RAG, Prompts und Tool-Calling robust im Team umsetzen
- PII, Secrets und Tokens in GenAI-Workloads schützen
- KI-Features mit Evals und Contract-Tests absichern
- Prompts und Modelle per CI/CD in Produktion bringen
- Kosten, Latenz, Cold Starts und Concurrency optimieren
- Produktionsreifen AI Service im Praxis-Lab bauen
Zielgruppe
- Softwareentwicklerinnen und Softwareentwickler in agilen Produktteams
- Tech Leads, Engineering Managerinnen und Engineering Manager
- Cloud Engineers und Plattform-Teams mit Serverless-Verantwortung
- DevOps- und SRE-nahe Rollen, die GenAI betreiben sollen
- Für alle, die KI-Features als serverlose Services planbar liefern und betreiben wollen
Voraussetzung für die Schulung
- Solide Erfahrung in der Entwicklung von Web-APIs oder Backend-Services sowie Grundverständnis von Cloud-Konzepten.
- Grundkenntnisse zu LLMs sind hilfreich, aber nicht zwingend.
Kursinhalte
- Serverless AI Architektur, die wirklich skaliert
- Event-driven Design: Trigger, Queues, Streams
- Compute-Modelle: Functions, Containers, Jobs
- Cold Starts, Concurrency, Timeouts
- Kostenmodelle: Pay-per-use richtig kalkulieren
- LLM-Integration ohne Monolith
- API-Gateways, Auth, Rate Limits
- Prompt- und Template-Strategien für Teams
- RAG-Bausteine: Retrieval, Embeddings, Re-Ranking
- Tool-Calling und Funktionsaufrufe robust umsetzen
- Datenflüsse, Governance und Sicherheit
- PII, Secrets, Key-Management, Token-Handling
- Mandantenfähigkeit und Datenabgrenzung
- Audit-Logs, Nachvollziehbarkeit, Policies
- Threat Modeling für GenAI-Workloads
- Qualität messbar machen: Evals, Tests, Observability
- Automatisierte Evals: Goldens, Rubrics, Regression
- Prompt-Unit-Tests und Contract-Tests
- Tracing, Metrics, Log-Korrelation
- Guardrails: Output-Filter, Policy-Checks
- Delivery in agilen Teams: von Story bis Release
- Definition of Done für KI-Features
- CI/CD für Prompts, Configs und Modelle
- Feature Flags, Canary, Rollback
- Runbooks, Incident Response, SLOs
- Praxis-Lab: Ein Serverless AI Service als Blueprint
- End-to-End Flow: Ingest, Retrieve, Generate
- Asynchrone Verarbeitung mit Queue/Worker
- Cost- und Latency-Tuning
- Produktionsreife Übergabe an Betrieb
