Der Kompaktkurs LLM-Entwicklung und Deployment zeigt Ihnen praxisnah, wie Sie moderne LLM-Anwendungen von Prompt Design und RAG-Pipelines bis zum Betrieb gestalten. Sie arbeiten hands-on mit Embeddings, Vektorsuche, Docker, Monitoring und Governance und entwickeln eine produktionsreife RAG-Anwendung.
Kursbeschreibung
Sie lernen im kompakten Format, wie moderne LLM-Anwendungen aufgebaut und betrieben werden – von Prompt Design über RAG-Pipelines bis hin zu Deployment mit Docker, Monitoring und Governance. Der Kurs ist praxisnah und durchgängig hands-on.
Seminarinhalte
Grundlagen & Architektur moderner LLMs
- Überblick über Transformer, Kontext und Tokenisierung
- Prompt Design (Zero-/Few-Shot, System Prompts)
- Unterschiede zu klassischen NLP-Verfahren
- Hands-on: effektive Prompts entwickeln
Retrieval-Augmented Generation (RAG) Essentials
- Rolle von Embeddings und Vektorsuche
- Praktische Arbeit mit FAISS und ChromaDB
- Integration externer Quellen über LangChain / LlamaIndex
- Aufbau einer einfachen RAG-Pipeline
Erweiterte RAG-Pipelines in der Praxis
- Datenvorbereitung und semantische Abfragen
- Tool-Ketten in LangChain
- Query-Antwort-System mit API-Anbindung
- Best Practices: Trennung von Modell- und Wissenskomponente
LLMOps – Deployment & Infrastruktur
- Deployment-Strategien: Hosted vs. On-Premise
- Containerisierung mit Docker sowie Frameworks FastAPI und BentoML
- Monitoring und Logging mit LangSmith, Weights & Biases und OpenTelemetry
- Prompt- und Model-Management
LLMOps – Governance, Security & Skalierung
- Sicherheit: Prompt Injection, Datenschutz und Auditierbarkeit
- Kostenkontrolle: Token-Tracking, Caching und Request-Management
- CI/CD für LLM-Anwendungen
Abschlussprojekt: Bau einer produktionsreifen Anwendung mit RAG, Logging, Monitoring und Guardrails
Lernziele
Sie lernen, moderne LLM-Anwendungen praxisnah aufzubauen und zu betreiben – von Prompt Design und RAG-Pipelines bis zum Deployment mit Docker, Monitoring und Governance. Dabei entwickeln Sie hands-on eine produktionsreife Anwendung mit RAG, Logging, Monitoring und Guardrails.
Zielgruppe
Alle Personen mit technischem Hintergrund, die an der Entwicklung, Integration oder dem Betrieb von LLM-basierten Anwendungen beteiligt sind – z. B. in IT, AI, DevOps oder Produktentwicklung.
Voraussetzungen
Solide Kenntnisse in Python sowie ein Grundverständnis der API-Nutzung, von Machine Learning oder Cloud-Infrastruktur sind erforderlich. Erfahrung mit Tools wie Jupyter, VS Code oder Docker ist hilfreich.
Nächste Termine
Weitere Termine finden Sie online auf der Kursseite.
Persönliche Beratung
Sie möchten klären, ob dieser Kurs zu Ihrem Bedarf passt? Wir beraten Sie persönlich zu Inhalten, Terminen und passenden Formaten für Einzelpersonen oder Teams.