Verwendung von Azure-OpenAI-Services in Java-Anwendungen mit Spring AI

Im AI Office der DATEV haben wir kürzlich ein Proof-of-Concept durchgeführt, bei dem wir Azure-OpenAI-Services (wie LLMs) in Verbindung mit LangChain (Framework für die Entwicklung von LLM gestützten Apps) in Python verwendet haben. Python wird für KI-Projekte aufgrund der Fülle an verfügbaren Bibliotheken und Frameworks häufig eingesetzt.

Der weitaus stärker verbreitete Techstack bei DATEV im Backend ist jedoch Java mit Spring-Boot. In dieser Session wird auf Spring AI (neu im Spring-Ökosystem) eingegangen und anhand einer Beispiel-App eine Demo gezeigt, wie sich Azure-OpenAI-Services wie GPT-4 mittels Spring AI nutzen lassen, um damit die Möglichkeiten & Potenziale zu nutzen.

Referent: Sebastian Haßler ist Data Engineer im AI Office und beschäftigt sich dort mit Proof of Concept Vorhaben im KI Umfeld bei DATEV.