Labelia – Meetup #2 : Explicabilité en vision par ordinateur (XAI)
Détails
[nouveau lien pour s'inscrire à l'événement]
datacraft poursuit la relance des Meetups Labelia avec une deuxième rencontre dédiée à l'intelligence artificielle explicable (XAI).
Pour cette édition, Rémi Kazmierczak, docteur en IA de l'Institut Polytechnique de Paris, présentera les avancées récentes de ses travaux en intelligence artificielle explicable (XAI), en particulier dans le domaine de la vision par ordinateur. Ses recherches portent notamment sur l’évaluation et l’amélioration de la fiabilité des explications produites par les modèles d’apprentissage profond.
Il introduira un cadre d’évaluation centré sur l’humain, nommé PASTA, qui propose de mesurer dans quelle mesure les explications générées par les systèmes d’IA correspondent réellement à la perception et au raisonnement humains. Cette approche met en évidence un enjeu clé de la XAI : une explication n’est utile que si elle est à la fois compréhensible par l’utilisateur et fidèle au modèle dont on veut expliquer l'inférence.
En parallèle, il explorera les limites des approches actuelles basées sur des modèles de concepts issus de CLIP (Contrastive Language-Image Pretraining : modèle entraîné à associer images et descriptions textuelles, permettant ainsi de relier des concepts visuels à des mots ou des phrases.) Ses travaux mettent en évidence des phénomènes tels que les « hallucinations de concepts » (le modèle attribue à une image des éléments qui n’y sont pas réellement présents) et les difficultés de localisation précise des régions pertinentes dans l’image. Ces limites posent des questions sur la robustesse et la fiabilité des méthodes actuelles d’explicabilité.
Cette présentation offrira ainsi un éclairage sur les enjeux actuels de l’IA explicable et sur les pistes méthodologiques pour concevoir des systèmes plus transparents, plus interprétables et dignes de confiance.
Comme lors du premier meetup, cette soirée sera aussi un moment de travail collectif autour du label Labelia.
Au programme :
– Intervention de Dr Kazmierczak
– Temps d’échange collectif autour de l’évolution du référentiel Labelia
– Session de brainstorming et constitution de groupes de travail pour réfléchir ensemble à l’intégration des nouveaux enjeux liés à l’IA générative et à l’IA agentique dans le référentiel, afin de maintenir Labelia à la pointe des pratiques et des technologies
Ce meetup est ouvert à toutes les personnes souhaitant contribuer activement à l’évolution d’un référentiel open source dédié à une IA responsable, fiable et auditable.
Rejoignez-nous pour échanger, partager vos idées et participer à la construction des prochaines étapes du label.