Techno La Cnil présente un rapport sur les enjeux éthiques des algorithmes

La Commission nationale de l'informatique et des libertés (Cnil) présente vendredi un rapport visant à sensibiliser développeurs, entreprises et utilisateurs sur les enjeux éthiques des algorithmes et de l'intelligence artificielle.

Ce document est le produit d'un vaste débat organisé par la Cnil entre janvier et octobre, la loi pour une République numérique de 2016 lui ayant donné mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevés par l'évolution des technologies numériques.

Pour son premier opus, la Commission s'est emparé des algorithmes, omniprésents dans l'univers numérique, parce qu'ils suscitent "un réel intérêt du grand public, et aussi un malaise du fait de l'incompréhension autour de cet objet technique", a indiqué sa présidente Isabelle Falque-Pierrotin à l'AFP.

Dans son rapport, la Cnil définit simplement un algorithme comme "une suite finie et non ambiguë d'instructions permettant d'aboutir à un résultat à partir de données fournies en entrée", ce qui permet par exemple "fournir des résultats sur un moteur de recherche, proposer un diagnostic médical, conduire une voiture d'un point à un autre, détecter des suspects de fraude parmi les allocataires de prestations sociales, etc"

L'intelligence artificielle désigne principalement "une nouvelle classe d'algorithmes, paramétrés à partir de techniques dites d'apprentissage", explique-t-elle aussi: les instructions à exécuter ne sont plus programmées explicitement par un développeur humain, elles sont générées par la machine elle-même, qui "apprend" à partir des données qui lui sont fournies. Cela permet d'accomplir des tâches dont sont incapables les algorithmes classiques.

"Mais leur logique reste incompréhensible et opaque, y compris à ceux qui les construisent", souligne la Commission.

"Deux principes nouveaux apparaissent comme fondateurs", selon le rapport.

Le premier, "substantiel", est le principe de loyauté: l'algorithme ne doit pas trahir l'utilisateur, ni la communauté. Le second est un principe de vigilance: "On doit constamment créer du doute au niveau de l'algorithme; il doit sans cesse être remis en question" car il est extrêmement complexe et en perpétuelle mutation, insiste Mme Falque-Pierrotin.

La Cnil avance six recommandations: former à l'éthique tous les maillons de la "chaîne algorithmique" --y compris les citoyens--, rendre les systèmes algorithmiques plus compréhensibles en renforçant les droits existants, travailler leur design au service de la liberté humaine, mettre sur pied une "plateforme nationale d'audit des algorithmes", encourager la recherche sur l'intelligence artificielle éthique et enfin "renforcer la fonction éthique au sein des entreprises".