Data Science responsable et de confiance

Pour comprendre la démarche participative sur le thème « data science responsable et de confiance » que nous avons initiée à l’été 2019 et que nous animons depuis, vous pouvez lire cet article de blog : Comment résoudre la tension entre potentiel de l’IA et craintes associées ? https://www.labelia.org/fr/blog/evaluation-data-science-responsable

Une tension grandit entre l’intérêt pour les techniques d’IA et les craintes qu’elles suscitent
L’intérêt pour l'IA, la science des données en général, est en pleine croissance depuis plusieurs années. Aujourd’hui, cette déferlante ne s’est pas encore tout à fait matérialisée dans les systèmes informatiques en production. Mais elle s’en rapproche et l’accélération est notable.
Mais là où l’IA semble prometteuse et génère un intérêt grandissant pour de nombreux cas d’usage, elle suscite également des craintes et chaque mois qui passe voit son lot de lancements ratés et de scandales de plus ou moins grande ampleur. La liste des “Awful AI” maintenue par David Dao en est remplie. Dans ce contexte, il devient de plus en plus délicat pour une organisation de mettre en œuvre des approches de data science dans ses produits et services et de l’assumer publiquement… Pour résoudre cette tension, il faut faire émerger un cadre y répondant.
C’est en se posant ces questions et en y travaillant que nous avons, à partir de début 2019, commencé à imaginer l’intérêt qu’il y aurait à explorer ce thème et élaborer un outil qui soit à destination des praticiens, utile et actionnable dès que possible. Ces échanges préliminaires se sont mués en un vrai projet, qui s’est imposé comme une évidence compte tenu de la raison d’être de Labelia Labs (ex Substra Foundation) : développer la data science collaborative, responsable et de confiance.
C’est ainsi que nous avons lancé une démarche participative et itérative.
Plus d’une année plus tard, ponctuée de sept ateliers participatifs et d’innombrables échanges, tests avec des entreprises partenaires/intéressées, présentations, l’objet indéfini “cadre utile et actionnable” a pris forme. 
C’est devenu :
- une évaluation des approches responsables et de confiance de la data science ;
- à destination des organisations, pour évaluer leur maturité ;
- composée d’une trentaine de points d’évaluation regroupés en 5 sections thématiques ;
- qui fournit en sortie un score synthétique sur 100 points (maximum théorique), sachant qu’à la date -d’aujourd’hui 50/100 est un niveau de maturité très avancé ;
- qui se complète des ressources techniques pour chaque point d’évaluation, constituant de bons points d’entrée pour les organisations qui souhaitent s’y former.

Retrouvez dès maintenant sur Github nos premiers travaux et la plateforme.
Nous lançons un nouveau cycle d'ateliers en 2021 avec l'ambition d'aller encore plus loin dans les différentes thématiques, partager des bonnes pratiques et des retours d'expérience, et identifier de nouveaux risques et sujets à traiter, en partenariat avec Data For Good.