Crafting Data Science #14: RAGs aux LLMs en production

Envie de concret ? On vous propose deux retours d’expérience passionnants : venez échanger, poser vos questions et partager un apéro convivial avec la communauté !

1️⃣ 🎙️ Routeur sémantique : le must-have d'un système RAG fiable et efficace
Plongez dans les coulisses d'un RAG enrichi d'un routeur sémantique et découvrez comment cette combinaison de deux approches standards nous a permis de maitriser notre déploiement et de renforcer la pertinence des réponses de notre bot. Du besoin fonctionnel à son optimisation technique, nous vous présenterons les grandes étapes qui nous ont permis de mettre en production notre routeur sémantique. 🚀

👱‍♂️ Speakers :
Clément Depraz, Data scientist senior chez SNCF Connect
Clément est Data scientist, professeur intervenant et expert MLOps, passionné par le déploiement et l’industrialisation de pipelines IA automatisées et fiables. Il enseigne et partage les meilleures pratiques de MLOps et soutient activement ZenML, solution open source de MLOps et orchestrateur de stacks ML.

Xavier Charef, Data scientist senior chez SNCF Connect
Depuis 5 ans, Xavier Charef occupe le poste de Data Scientist chez SNCF Connect, où il contribue à la conception et à l’industrialisation de nouveaux produits destinés à la Relation Client, intégrant de l’IA générative. Pragmatique, il privilégie des approches concrètes et pratiques pour développer des solutions efficaces.

2️⃣🎙️ LLMs en Production - Retour d'Expérience sur un Use Case GenAI un an plus tard
L'intégration des Large Language Models (LLMs) en production représente un tournant majeur dans l'application des technologies d'intelligence artificielle. Ce talk vise à partager un retour d'expérience détaillé sur la mise en production d'un use case de génération d'intelligence artificielle (GenAI). On s'attardera sur les défis techniques liés au déploiement de LLM en production et les solutions mises en place pour assurer la scalabilité et la performance.

👱‍♂️ À propos du speaker Pierre Baonla Bassom :
Pierre est Architecte et Senior ML engineer en poste chez Doctolib. Expert dans l’industrialisation et l’opérationalisation des systèmes ML depuis plus de 8 ans maintenant