Tour d'horizon des enjeux et de la gouvernance en sûreté de l'IA

Nous reprenons les soirées de discussion sur la sûreté de l’Intelligence artificielle !

Nous vous proposons une conférence d'une heure suivie d'une discussion à l'ENS Ulm, Salle Noether.

Les avancées fulgurantes en intelligence artificielle ne montrent aucun signe de ralentissement. GPT-1, GPT-2, GPT-3 et maintenant GPT-4, nous ignorons où nous entraîne cette course à la performance, mais nous savons que des experts alertent sur des risques potentiellement catastrophiques, et nos sociétés n'en prennent pas la mesure.

Les lancements médiatisés de chatbots aux performances spectaculaires ne sont que la pointe émergée de l’iceberg des avancées de ces dernières années. Certains modèles rivalisent avec les humains sur des tâches précises, de DALL·E en génération d’images à Whisper en transcription de texte oral. D’autres, plus généraux, maîtrisent simultanément dialogues, jeux vidéo, et robotique dans le monde réel, voire peuvent réaliser librement des tâches sur internet.

Il y a de quoi s’émerveiller devant ces technologies qui nous permettent de renforcer la recherche biomédicale, de briser les barrières de langue ou encore d’alléger le travail administratif. Cependant, dans cette dernière année, la perspective de développer ces modèles avec de hauts standards de sûreté s’est éloignée. Il y a 5 mois, OpenAI déployait à large échelle ChatGPT, un modèle développé spécifiquement pour être poli et bienveillant envers l’utilisateur. En moins de 24h, ces barrières avaient été renversées. Trois mois plus tard, cette fois de façon beaucoup plus hâtive, Microsoft déployait Bing Chat sur internet. Pire que ChatGPT, le modèle a très rapidement adopté des comportements parfois très agressifs.

Nous expliquerons les principaux problèmes techniques et discuterons de certains paradigmes de solution, ainsi que de la gouvernance générale de l'IA.

Nous serons au 45 bis, rue d'Ulm, en salle Noether, au Département de Mathématique et d'Applications (DMA). Venez un peu en avance, pour passer le contrôle du vigile à l'entrée d'Ulm.

------------------------------------------------------
Retrouvez-nous sur les réseaux et sur notre site internet !
Site : https://www.effisciences.org
Instagram : https://www.instagram.com/ceffisciences/
#effisciences #rechercheimpliquée #sciences #intelligenceartificielle #aisafety