AI Engineering #15 - Les LLM-elfes de Noël

## Détails

✨ Vous sentez Noël approcher 🎅, le meetup AI Engineering revient pour sa 15è édition !
L'équipe vous a concocté un meetup aux petits oignons avec pour thème les LLM!

18h30 - Ouverture des portes

19h - Nacef Labidi, Head of Infrastructure chez InstaDeep.
Nacef, expliquera comment il a conçu une plateforme de management de workloads d'IA pour aider jusqu'à 200 research scientists en interne à lancer leurs expérimentations de modèles d'IA sur des clusters sur le cloud. Après avoir rappelé les problématiques initiales rencontrées par les research scientists d'InstaDeep, Nacef montrera qu'il a conçu sa plateforme dès le départ comme un produit entièrement géré, encapsulant la complexité technique inhérente à tout déploiement sur le cloud (CI/CD, sécurité, namespace, etc.) et en tirant profit de la philosophie GitOps. Enfin, il lèvera le voile sur la façon dont est conçue la plateforme.

19h45 - Sami Bargaoui, Aubin Mazet (Lead Tech GenAI chez Quantmetry) - "Tout ce que j'ai appris, 6 mois après avoir mis en prod mon chatbot LLM"

Sami et Aubin, ont conçu et déployé un chatbot LLM désormais utilisé par des dizaines de collaborateurs d'une grande société financière. Après 6 mois d'amélioration continue, de mises à jour et d'apprentissage, ils nous livreront leurs secrets pour réussir la mise en prod d'un chatbot LLM. Prompting, évaluation qualité et UI, nous verrons que le mieux n'est pas forcément ce que l'on croit...

20h30 - Apéro-pizza, chat & networking