Garde-fous sur les modèles opensource. Cas d'usage avec la génération d'images

Rejoignez pour cet After Work Niveau Expert (on va discuter modèles de diffusion et apprentissage de filtres) au Bar N5, à Pau, le 19/11 à 18h30

Les modèles de génération d’images et de vidéos à partir de texte sont aujourd’hui encadrés par diverses mesures de sécurité visant à empêcher la création de contenus sensibles ou dangereux. Ces protections reposent sur le filtrage des données d’entraînement, la modération des requêtes utilisateurs, le contrôle des résultats générés, ainsi que des politiques strictes d’utilisation. Cependant, la question de la sécurité se pose différemment dans le cas des modèles open source, où ces garde-fous peuvent être désactivés ou contournés, soulevant ainsi des enjeux majeurs en matière d’éthique et de régulation.

Biographie : Mohammed Sbaihi, élève ingénieur en intelligence artificielle en dernière année à CentraleSupélec. J’ai travaillé sur des sujets liés à l’IA et à la data dans le marketing chez Richemont et Fifty-five. Je suis actuellement en alternance chez Onepoint, où je développe une plateforme d’agents IA pour les entreprises.