Integrare LLM ed agenti intelligenti: AI secondo Quarkus

Questo meetup del JUG Torino è in collaborazione con Zero11.

Live stream: https://www.youtube.com/watch?v=9Cv2MzlZ5PQ

Abstract
Quello che attualmente l'intelligenza artificiale è capace di fare è semplicemente sbalorditivo. Bisogna ammettere che spesso non si riesce a smettere di essere sorpresi e a volte saltare letteralmente dalla sedia pensando: "Non immaginavo che l'AI potesse fare ANCHE questo!".

Ciò che è un po' fuorviante è che oggi quello che tendiamo a identificare con l'intelligenza artificiale è in realtà l'impiego di Large Language Model, che è solo un sottoinsieme di tutte le tecnologie di AI disponibili: ML è una frazione dell'intera AI, mentre gli agenti intelligenti consentono l'implementazione di casi d'uso più generali, come ad esempio l'impiego di AI simbolica per codificare la logica di uno specifico dominio attraverso un insieme di regole leggibili e trasparenti.

In effetti ci sono molte situazioni in cui essere sorpresi è l'ultima cosa che potresti desiderare. Non vuoi saltare dalla sedia quando la tua banca rifiuta il tuo mutuo senza un motivo comprensibile, ma solo perché l'AI ha detto di no. E la stessa banca dovrebbe voler concedere i propri mutui solo a richiedenti che sono considerati affidabili secondo le sue rigide e ben definite regole aziendali.

Con queste premesse, è interessante utilizzare diverse tecnologie complementari per superare la limitata verificabilità e il rischio di allucinazioni implicito nell'uso di un solo Large Language Model.

In questa presentazione discuteremo, con esempi pratici, alcuni dei molteplici pattern emergenti in questo campo come RAG, invocazione di strumenti esterni e guardrail.
Dimostreremo anche perché questa potrebbe essere una scelta architetturale vincente in molte situazioni comuni e come Quarkus attraverso le sue estensioni LangChain4j e Drools rende semplice lo sviluppo di applicazioni che integrano tali tecnologie.

Speakers
Mario Fusco
Mario Fusco è un Java Champion e lavora in Red Hat come senior principal software engineer e project lead di Drools, oltre a contribuire attivamente a molti altri progetti open source come Quarkus e LangChain4j. Mario è anche uno dei coordinatori del JUG di Milano ed il coautore di Modern Java in Action edito da Manning.
Daniele Zonca
Daniele Zonca e' l'architetto della componente di model serving del prodotto Red Hat OpenShift AI. E' uno dei fondatori del progetto TrustyAI e contribuisce a vari progetti open source come KServe, vLLM e Kubeflow. Precedentemente ha diretto il team di sviluppo Big Data di una delle maggiori banche europee disegnando e implementando applicazioni analitiche basate su Big Data e intelligenza artificiale.

Host
Zero11 è l'AI Martech Company che sfrutta l'intelligenza artificiale e le tecnologie J2EE per trasformare i processi di vendita. Specializzata nell'integrazione di LLM, agenti intelligenti e AI conversazionale, Zero11 sviluppa soluzioni avanzate per automatizzare le operazioni di marketing, ottimizzare la customer experience e migliorare la gestione delle vendite. Grazie a un approccio basato su automazione, personalizzazione e analisi predittiva, Zero11 aiuta le imprese a connettere in modo più efficace domanda e offerta, creando esperienze digitali innovative e scalabili.