Kursbeschreibung
Llama ist nicht gleich Llama. Je nach Modell, Kontextfenster, Quantisierung und Betriebsumgebung können sich Qualität, Geschwindigkeit und Kosten drastisch unterscheiden. In diesem Seminar erarbeitest Du Dir einen praxistauglichen Vergleichsrahmen, mit dem Du die passende Llama-Variante für Deinen Use Case auswählst, ohne Dich auf allgemeine Benchmarks zu verlassen. Du verstehst, welche technischen Faktoren die Ergebnisse beeinflussen und wie Du sie in eine Entscheidungsvorlage übersetzt. Du lernst, Anforderungen in überprüfbare Kriterien zu überführen: Welche Antworten müssen faktenbasiert sein, wo ist Kreativität erlaubt, welche Ausgabeformate sind zwingend und welche Fehlerraten sind akzeptabel? Darauf aufbauend erstellst Du ein Testset und definierst einen Review-Prozess, der sowohl manuelle Bewertungen als auch einfache automatisierte Prüfungen nutzt. Ein wichtiger Baustein sind standardisierte Prompt-Templates, damit Modellvergleiche fair bleiben. Du arbeitest mit Few-shot-Beispielen, strukturierter Ausgabe und Szenarien, die später in echten Anwendungen vorkommen. Damit Llama in Wissensaufgaben zuverlässig wird, bekommst Du eine solide RAG-Grundlage: Chunking, Embeddings, Retrieval-Strategien, Kontextbudget und Quellenbelege. Außerdem behandelst Du Sicherheits- und Governance-Themen wie PII, Logging, Prompt Injection und Dokumentation. Am Ende kannst Du Modelle nachvollziehbar vergleichen, Risiken benennen und ein Setup empfehlen, das Kosten, Latenz und Compliance realistisch ausbalanciert.
Die wichtigsten Themen im Überblick
- Vergleiche Llama-Modelle nach Qualität, Kosten und Latenz
- Übersetze Use Cases in belastbare LLM-Testsets
- Erstelle faire Prompts mit Seeds, Sampling und Temperatur
- Bewerte RAG-Setups mit Chunking und Retrieval-Strategien
- Ordne Cloud, On-Premises und Managed Hosting fundiert ein
- Miss Kosten, Latenz und Quality Signals im Betrieb
- Plane Datenschutz, PII und Logging für Llama sauber
- Begrenze Prompt Injection und Retrieval-Leakage wirksam
Zielgruppe
- IT- und Digitalverantwortliche, die Modellentscheidungen treffen
- Data- und AI-Teams, die Llama evaluieren und betreiben
- Product Owner und Business Analysts mit KI-Use-Case-Verantwortung
- Informationssicherheits- und Datenschutzrollen, die LLM-Risiken bewerten
- Alle, die Llama-Modelle anhand von Nutzen, Kosten und Risiken auswählen wollen
Voraussetzung für die Schulung
- Grundverständnis von KI/LLMs und typischen Anwendungsfällen.
- Keine Programmierung erforderlich, technische Begriffe sollten Dir nicht fremd sein.
Kursinhalte
- Was Llama wirklich unterscheidet
- Modellfamilien, Releases, Lizenzlogik
- Parameter, Kontextfenster, Tokenisierung
- Qualität vs. Latenz vs. Kosten als Zielkonflikt
- Bewerten statt raten: Testdesign für LLMs
- Eigene Use Cases in Testsets übersetzen
- Akzeptanzkriterien: Halluzination, Format, Stil
- Automatisierte Checks und manuelle Review-Prozesse
- Prompting, das Vergleiche fair macht
- Prompt-Templates und Systemprompts
- Few-shot, RAG-Stub, Tool-Calls als Szenarien
- Reproduzierbarkeit: Seeds, Sampling, Temperatur
- RAG-Grundlagen für Llama-Setups
- Chunking, Embeddings, Retrieval-Strategien
- Kontextbudget und Quellenbelege
- Fehlerbilder: Over-retrieval, Drift, Leakage
- Deployment-Optionen und Betrieb
- On-Premises vs. Cloud vs. Managed Hosting
- Quantisierung, GPU/CPU, Throughput
- Monitoring: Kosten, Latenz, Quality Signals
- Datenschutz, Sicherheit, Governance
- PII, Datenminimierung, Logging-Strategien
- Prompt Injection und Retrieval-Schutz
- Freigaben, Dokumentation, Modellkarten
