Vous souvenez-vous du robot Tay de Microsoft ? Tay est un robot doté d’une intelligence artificielle et capable de l’accroître en conversant avec des internautes via des tweets. En Mars dernier, ses créateurs ont dû le désactiver au bout de quelques heures car il véhiculait des propos racistes, négationnistes ou encore sexistes. Tay était tombé sous l’influence d’interlocuteurs humains mal intentionnés qui lui apprenaient surtout la violence verbale ! Qui blâmer?? Les internautes qui ont provoqué ces dérives, le robot lui-même ou les développeurs de Tay qui n’avaient pas anticipé le risque??
Avez-vous entendu parler de ProPublica qui a recensé le cas d'un algorithme utilisé pour prédire la probabilité qu'un individu commette un crime dans le futur? En l'occurrence, l'algorithme en question a montré que les noirs étaient plus enclins au crime que les blancs après avoir utilisé des données extrêmement biaisées.
Bref, vous l’aurez compris les développeurs portent sur leurs épaules une lourde responsabilité.
François Royer nous présentera les mécanismes permettant de mettre en place des applications de machine learning transparentes et auditables.
Ulrich Aïvodji évoque les problématiques liées aux données à caractère personnel et la protection de vie privée des utilisateurs. Il nous présentera des solutions pratiques qui mettent en oeuvre le paradigm “privacy by design” recommandé par le GDPR (General Data Protection Regulation) dans le contexte d’une application de covoiturage.
Vincent Grégoire-Delory conclura cette soirée "éthique et algorithme".
