Sécurité de l'IA : créer des IA sures pour l'humanité ?

Cette troisième soirée nous permettra de découvrir la Sécurité de l'IA. Ce domaine méconnu du grand public est pourtant passionnant et effervescent : il s'intéresse sans tabou aux risques spécifiques posés par l'Intelligence Artificielle et aux manières de les atténuer ou supprimer.

Lien visio pour rejoindre l'événement : https://teams.live.com/meet/9342869705116?p=Q5BNQNYKbbGeKOImYU

Prise de parole 1 (Charbel-Raphael Segerie / Directeur du Centre pour la Sécurité de l'IA)
Sécuriser l'avenir de l'IA

• Nous allons présenter un cadre pour analyser l’évolution du développement de l’IA, en mettant l'accent sur la montée en puissance de la capacité d’agir et la généralité des modèles d’IA. Cette tendance montre que les prochaines versions pourraient avoir des défaillances inédites, différentes de celles observées aujourd’hui.
• Un aperçu des mesures techniques actuelles pour sécuriser l’IA sera proposé : Comment ces solutions permettent de gérer les problèmes actuels et leur potentiel pour résoudre les défis futurs.
• Nous élargirons ensuite la discussion au-delà des solutions purement techniques en présentant la sécurité comme une caractéristique du système socio-technique dans lequel ces innovations se développent. Nous aborderons des stratégies de défense approfondie, la culture de sécurité des organisations et le rôle des auditeurs externes.
• Enfin, nous introduirons BELLS, un outil pratique d'évaluation pour mesurer la résilience des systèmes de supervision des grands modèles de langage

Prise de parole 2
Panorama des initiatives internationales pour sécuriser l'avenir de l'IA.
Détails à venir.

Programme :
18h15 : accueil des participants
18h30 : lancement du meetup et mot d'accueil
18h45 : Prises de parole
20h15 : networking et échanges
21h30 : clôture de la soirée

L'ENS Ulm nous accueille dans leurs locaux ! Merci à eux :)