.NET Meetup Koblenz - Praktische Verbesserungsstrategien für eure RAG-Pipelines

In diesem Vortrag wird Emil Bohleber uns praktische Verbesserungsstrategien für eure RAG-Pipelines vorstellen.

Wir treffen uns wie gewohnt in Koblenz in den Räumen der BRICKMAKERS AG.
Im Anschluss haben wir die Möglichkeit zum gemeinsamen Austausch bei ein paar Getränken.

Inhalt des Vortrags:
Seit große Sprachmodelle (LLMs) in der Tech-Welt an Popularität gewonnen haben, versuchen wir, sie mit eigenen Daten zu erweitern. Die am meisten verbreitete Methode, dies zu tun, nennt sich "Retrieval Augmented Generation", kurz RAG. Aber wie alles andere kommt auch RAG mit eigenen Herausforderungen, wie z.B. zu viele oder zu wenige zurückgegebene Dokumente, geringe Vektorraumdichte oder schwache Vektorsimilarität.
Nach einer kleinen Einleitung zu RAG, werde ich in diesem Vortrag einige Strategien vorstellen, die sich bei der Bewältigung dieser Probleme als vielversprechend erwiesen haben. Wir werden uns Beispiele ansehen, um diese Strategien in Aktion zu sehen. Ebenso wird anhand von Codebeispielen gezeigt, wie diese Lösungen in der Praxis funktionieren und welche Art von Verbesserungen wir von ihnen erwarten können.

Über den Sprecher:
Emil Bohleber ist Softwareingenieur bei BRICKMAKERS AG.