LLMs mit Spring AI integrieren, Identity- und Access-Managements mit Keycloak

Seid herzlich willkommen zur kommenden Technology Night Rhein-Main in unserem Büro in der Heyne Fabrik in Offenbach am Main.

18:30 Türen offen, Networking, Snacks und Erfrischungen
19:00 LLMs mit Spring AI integrieren mit Michael Vitz, INNOQ
19:45 Networking
20:00 Betreiben eines hochverfügbaren Identity- und Access-Managements mit Keycloak mit Alexander Schwartz, Red Hat
21:00 Networking

LLMs mit Spring AI integrieren
mit Michael Vitz, INNOQ
KI und vor allem Large Language Models sind das Thema 2024 und fast jeder hat schon einen Prompt geschrieben und abgeschickt. Doch wie können wir LLMs in bestehende Anwendungen integrieren, um dort von diesen zu profitieren? Genau das schauen wir uns in diesem Vortrag, Live on Stage, mit Spring Boot und Spring AI an. Neben der reinen Integration lernen wir dabei auch Ollama, RAG und Function Calling kennen.

Betreiben eines hochverfügbaren Identity- und Access-Management mit Keycloak
mit Alexander Schwartz, Red Hat
Eine Single-Sign-On-Lösung für Kunden und Mitarbeiter sollte auf hohe Verfügbarkeit ohne Single-Point-of-Failure ausgelegt sein. Keycloak bildet hier keine Ausnahme.
Ein geclustertes Keycloak-Deployment an einem Standort bietet ausreichende Verfügbarkeit für viele Szenarien. Immer mehr Organisationen müssen jedoch mehrere Standorte nutzen, um die Ausfallsicherheit zu verbessern oder gesetzliche Anforderungen zu erfüllen. Keycloak hat seine Funktionen in diesem Bereich überarbeitet und stellt der Community nun Blueprints zur Verfügung, wie dies gelingen kann.
In diesem Vortrag zeige ich, wie wir das Problem angegangen sind und welche Herausforderungen wir bewältigen mussten. Dabei geht es um Load Shedding, Cache-Stampedes und automatisiertes Failover. Sehe Werkzeuge wie Gatling, Helm, OpenTelemetry, Kubernetes Operators und Cloud-Infrastruktur in Aktion, und werfe einen Blick auf unsere nächsten geplanten Schritte.
Anschließend hast du Anhaltspunkte, wie du die Verfügbarkeit von Keycloak oder deiner eigenen Anwendungen verbessern und testen kannst, sodass sie hoher Last und Ausfällen standhalten.