*Wir passen den Kursaufbau und die Inhalte an Ihre spezifischen Anforderungen und relevanten Anwendungsfälle an.
Modul 1: Eine produktionsorientierte RAG Architektur gestalten
- Ingestion, Indexing, Retrieval, Augmentation und Generation in klar abgegrenzte Komponenten aufteilen
- Schnittstellen zwischen Dokumentquellen, Embedding Services, Indizes und Sprachmodellen gestalten
- Zwischen synchroner und asynchroner Verarbeitung für unterschiedliche Systembereiche auswählen
- Dokumentaktualisierung, Reindexing, Versionierung und Fehlerwiederherstellung einplanen
Modul 2: Fortgeschrittene Dokumentvorbereitung und Chunking
- Fixed Size, Recursive, Semantic und Structure Aware Chunking miteinander vergleichen
- Chunk Größe und Overlap anhand von Dokumentstruktur und erwarteten Abfragemustern auswählen
- Überschriften, Dokumenthierarchie und Quellenmetadaten bei der Ingestion erhalten
- Tabellen, Code, lange Abschnitte, doppelte Inhalte und schlecht strukturierte Dokumente behandeln
Modul 3: Embeddings und Vector Index Design
- Embedding Modelle anhand von Sprache, Domäne, Dimensionalität, Kosten und Qualität auswählen
- Similarity Metrics und ihre Auswirkungen auf das Retrieval Verhalten verstehen
- Vector Indizes und Metadatenfelder für skalierbares Filtering und Retrieval gestalten
- Embedding Updates bei Änderungen von Quelldaten oder Embedding Modellen verwalten
Modul 4: Metadatenfilter und Retrieval Architektur
- Metadatenschemas für Berechtigungen, Dokumenttypen, Datum, Kategorien und Ownership gestalten
- Filter vor oder während des Retrieval anwenden, um die Kandidatenmenge einzugrenzen
- Semantische Ähnlichkeit mit Geschäftsregeln und strukturierten Einschränkungen kombinieren
- Irrelevante oder nicht autorisierte Inhalte aus dem Generation Context fernhalten
- Vector Similarity mit Keyword und Full Text Search kombinieren
- Verstehen, warum genaue Kennungen und domänenspezifische Begriffe lexikalisches Retrieval erfordern können
- Ergebnisse verschiedener Retrieval Strategien zu einer gemeinsamen Kandidatenmenge zusammenführen
- Kandidatenanzahl und Retrieval Tiefe im Hinblick auf Qualität, Latenz und Kosten abstimmen
Modul 6: Reranking und Verbesserung der Relevanz
- Eine zweite Ranking Stufe einsetzen, um die Reihenfolge abgerufener Kandidaten zu verbessern
- Modellbasiertes Reranking, Semantic Ranking und einfachere Scoring Ansätze vergleichen
- Eine geeignete Anzahl von Kandidaten für Retrieval und finalen Kontext auswählen
- Verbesserte Relevanz gegen zusätzliche Latenz und Verarbeitungskosten abwägen
Modul 7: Query Transformation und Context Construction
- Mehrdeutige oder konversationelle Fragen in klarere Retrieval Queries umformulieren
- Komplexe Fragen in Teilfragen zerlegen, wenn Informationen aus mehreren Quellen benötigt werden
- Kontext aus den relevantesten Passagen unter Berücksichtigung von Token Limits aufbauen
- Doppelte, widersprüchliche oder wenig relevante Inhalte vor der Generation entfernen
Modul 8: RAG Evaluation und systematische Verbesserung
- Retrieval Qualität und Generation Qualität getrennt voneinander evaluieren
- Prüfen, ob relevante Evidenz gefunden wurde, bevor die endgültige Antwort bewertet wird
- Repräsentative Testfragen mit erwarteten Quellen oder Antwortkriterien erstellen
- Evaluationsergebnisse zur Verbesserung von Chunking, Retrieval, Reranking, Prompts und Modelleinstellungen nutzen
Modul 9: Grounded Generation, Quellen und Antwortkontrolle
- Prompts gestalten, die das Modell anweisen, abgerufene Evidenz zu priorisieren
- Quellenangaben und Zitate aus Retrieval Metadaten erzeugen
- Widersprüchliche Quellen und unzureichende Evidenz explizit behandeln
- Abstention Verhalten gestalten, wenn der verfügbare Kontext keine verlässliche Antwort ermöglicht
Modul 10: Sicherheit und zugriffsgesteuertes Retrieval
- Dokument- und benutzerspezifische Berechtigungen während des Retrieval anwenden
- Identity und Autorisierungsinformationen durch die RAG Pipeline weitergeben
- Sensible Informationen in Indizes, Prompts, Logs und generierten Antworten schützen
- Prompt Injection und schädliche Anweisungen in abgerufenen Dokumenten berücksichtigen
Modul 11: Observability, Performance und Kostenoptimierung
- Queries, abgerufene Dokumente, Scores, Modellantworten und Ausführungsmetadaten protokollieren
- Fehler über Ingestion, Retrieval, Reranking und Generation hinweg nachvollziehen
- Latenz messen und teure Verarbeitungsschritte in der RAG Pipeline identifizieren
- Modellqualität, Context Size, Retrieval Tiefe, Caching und Infrastrukturkosten gegeneinander abwägen
Modul 12: Deployment, Wartung und fortgeschrittene Retrieval Muster
- Separate Development-, Test- und Production-Konfigurationen gestalten
- Dokument Ingestion, inkrementelle Aktualisierung, Reindexing und Validierung automatisieren
- Multi Source Routing und Agentic Retrieval für komplexere Informationsanforderungen kennenlernen
- Eine praktische Production Readiness Checkliste für Qualität, Sicherheit, Monitoring, Ownership und Wartung aufbauen