Generation AI - 03/24 - Let's rock

Liebe Teilnehmer des Generation AI Meetups,

Wir möchten uns herzlich bei euch für den fantastischen Start ins neue Jahr und in unsere Eventreihe bedanken! Eure Unterstützung bedeutet uns sehr viel! #CommunityRocks

Nach unserem erfolgreichen Auftakt in Karlsruhe freuen wir uns, das nächste Meetup in Mannheim in der Nähe der Hochschule anzukündigen. Die HotRodCrew lädt uns ein, ihren Hangar am Mittwoch, den 20.3., zu besuchen. Lasst uns gemeinsam eine tolle Zeit verbringen und voneinander lernen!

Agenda
18:00 - Doors open
18:30 - Start des Meetups & Begrüßung
18:45 - Talk #1 & Q&A
19:30 - Networking, Drinks & Pizza
20:00 - Talk #2 & Q&A
21:05 - Networking & have a drink :)

Talk #1 - Jochen Kluger
AI im Unternehmen – Ein Beispiel für die Vereinfachung von Prozessen

Wer hat schon Lust Rechnungen zu sortieren und ordentlich abzulegen?
Wie in vielen anderen Bereichen kann die KI hier viele Aufgaben übernehmen und Abläufe vereinfachen. Am Beispiel der Klassifizierung eingehender Rechnungen werden wir uns anschauen, wie hier eine mögliche Implementierung aussehen kann, ein paar Fallstricke beleuchten und über mögliche Weiterentwicklungen sprechen.
Zum Einsatz kommen hier unter anderem Azure OpenAI, Semantic Kernel und die Microsoft Graph API.

Talk #2 - Marco Frodl
Transparente AI: Tracing- & Debugging-Techniken für LLM-Anwendungen

Wir tauchen tief in die Welt des Tracings und Debuggings von generativen KI-Anwendungen ein, um die oft als "Black Box" wahrgenommenen Prozesse zugänglicher und transparenter zu machen. Mit Fokus auf modernen Large Language Models (LLMs) und deren Anwendungen, werden wir an praktischen Beispielen die effektive Nutzung von Werkzeugen wie LangFuse und LangSmith zur Beobachtung, Analyse und Verbesserung dieser Systeme betrachten.

Los geht es mit einer Einführung in die Herausforderungen beim Debugging von generativen AI-Workflows und wie diese mit den fortschrittlichen Funktionen von LangFuse und LangSmith bewältigt werden können. Der Schwerpunkt liegt dabei auf der zunehmenden Komplexität von LLM-Anwendungen, die umfangreiche Abstraktionen wie dynamische Prompts, Antworten von Retrievern und Tools, komplexe Chains und Agents nutzen. Hier können die verschachtelten Traces in LangFuse oder LangSmith dabei helfen, das Geschehen besser zu verstehen und die Ursachen von Problemen zu ergründen. Anschließend gehen wir auf die Analyse und das Tracking von Metriken wie Kosten, Latenzzeiten und Qualität der LLMs ein.
Ziel des Talks ist es, den Teilnehmern die Werkzeuge und Kenntnisse an die Hand zu geben, um ihre generativen AI-Workflows effizienter zu gestalten und die Transparenz und Kontrolle über ihre KI-Systeme zu erhöhen.

Organisatorisches
Bitte beachtet, dass einige Vorträge aufgenommen und Fotos gemacht werden könnten. Wir weisen beim Event-Start darauf hin, aber wenn ihr nicht auf Bild und/oder Ton aufgenommen werden wollt, sprecht uns bitte direkt an.
Habt ihr Fragen zum Event, sind wir jederzeit für euch da.
Wir freuen uns unheimlich auf unser erstes Event mit euch!
Bis bald bei der HotRodCrew in Mannheim 🤘

Viele Grüße,
Marco & Gøran