LLM-Entwicklung und Deployment – Kompaktkurs

Sie lernen im kompakten Format, wie moderne LLM-Anwendungen aufgebaut und betrieben werden - von Prompt Design über RAG-Pipelines bis hin zu Deployment mit Docker, Monitoring und Governance. Der Kurs ist praxisnah und durchgängig hands-on.

Grundlagen & Architektur moderner LLMs

• Überblick über Transformer, Kontext und Tokenisierung
• Prompt Design mit Zero-/Few-Shot und System Prompts
• Unterschiede zu klassischen NLP-Verfahren
• Hands-on: effektive Prompts entwickeln

Retrieval-Augmented Generation (RAG) Essentials

• Rolle von Embeddings und Vektorsuche
• Praktische Arbeit mit FAISS und ChromaDB
• Integration externer Quellen über LangChain / LlamaIndex
• Aufbau einer einfachen RAG-Pipeline

Erweiterte RAG-Pipelines in der Praxis

• Datenvorbereitung und semantische Abfragen
• Tool-Ketten in LangChain
• Query-Antwort-System mit API-Anbindung
• Best Practices: Trennung von Modell- und Wissenskomponente

LLMOps - Deployment & Infrastruktur

• Deployment-Strategien: Hosted vs. On-Premise
• Containerisierung mit Docker sowie Frameworks wie FastAPI und BentoML
• Monitoring und Logging mit LangSmith, Weights & Biases und OpenTelemetry
• Prompt- und Model-Management

LLMOps - Governance, Security & Skalierung

• Sicherheit: Prompt Injection, Datenschutz und Auditierbarkeit
• Kostenkontrolle: Token-Tracking, Caching und Request-Management
• CI/CD für LLM-Anwendungen

Abschlussprojekt: Bau einer produktionsreifen Anwendung mit RAG, Logging, Monitoring & Guardrails

Sie können moderne LLM-Anwendungen praxisnah konzipieren und betreiben. Dazu entwickeln Sie effektive Prompts, bauen RAG-Pipelines auf und befassen sich mit Deployment, Monitoring, Governance, Sicherheit und Skalierung von LLM-Anwendungen.

Alle mit technischem Hintergrund, die an der Entwicklung, Integration oder dem Betrieb von LLM-basierten Anwendungen beteiligt sind – z. B. in IT, AI, DevOps oder Produktentwicklung.

Solide Kenntnisse in Python sowie ein Grundverständnis von API-Nutzung, Machine Learning oder Cloud-Infrastruktur sind erforderlich. Erfahrung mit Tools wie Jupyter, VS Code oder Docker ist hilfreich.