Sécuriser le développement d'une application GenAI

Cette présentation proposera une exploration approfondie des dix principaux risques de sécurité identifiés par l’OWASP pour les modèles de LLM et la GENAI. Elle s’appuiera sur des exemples concrets et des démonstrations pratiques pour illustrer chaque type de vulnérabilité, notamment :

• Les injections prompt

• La fuite de données sensibles,

• La gestion des entrées et sorties non sécurisées,

L’objectif est de sensibiliser la communauté aux menaces spécifiques à l’IA générative et de proposer des pistes de mitigation adaptées.

La session inclura :

• Un panorama des attaques récentes sur les applications de GENAI (MCP, LLM, Agent AI, ...),

• Une analyse détaillée des éléments du OWASP Top 10 LLM, ainsi que le futur guide a venir OWASP ASVS appliqué à la GENAI

• Des recommandations pratiques pour l’audit et la sécurisation des applications IA.

Plus d'information sur le site du JUG : http://bordeauxjug.org/meetings/20250522-securiser_le_developpement_d'une_application_genai