La loi pour une République numérique du 7 octobre 2016 a confié à la CNIL la mission de conduire une réflexion sur les enjeux éthiques et les questions sociétales  soulevés par l’évolution des technologies numériques.

La CNIL a décidé d’initier un vaste processus collectif de discussion (institutions publiques, société civile, entreprises..) pour tous ceux  qui souhaitent y prendre part dans le cadre de débats et manifestations multiformes.

Elle a choisi de consacrer les premières réflexions au thème des algorithmes et de l’intelligence artificielle en initiant un cycle national de débats publics, ateliers ou rencontres, dans une démarche associant de très nombreux partenaires.

Requêtes sur les moteurs de recherche, ordres financiers passés par des robots sur les marchés, diagnostics médicaux automatiques, affectation des étudiants à l’Université : dans tous ces domaines, les algorithmes sont à l’œuvre.

Mais, la mise en œuvre de tels dispositifs pose de nombreuses questions éthiques, notamment en termes d’autonomie de l’individu, qu’il soit l’auteur d’une décision « aidée » par un algorithme ou qu’il en fasse l’objet.

L’algorithme au cœur du quotidien

Si 83 % des Français ont déjà entendu parler des algorithmes, ils sont plus de la moitié à ne pas savoir précisément de quoi il s’agit (52%).

Leur présence est déjà jugée massive dans la vie de tous les jours par 80% des Français qui considèrent, à 65%, que cette dynamique va encore s’accentuer dans les années qui viennent.

Concernant l’opinion sur les algorithmes, une faible majorité (53%) estime qu’ils sont plutôt sources d’erreur contre 47 % qui pensent qu’ils sont fiables.

Les algorithmes et  l’intelligence artificielle : des questions complexes :

-         Sont-ils les « nouveaux décideurs » ?

-         Faut-il repenser, face aux progrès de l’intelligence artificielle, la responsabilité des acteurs publics et privés qui y ont recours ?

-         Les algorithmes ont-ils pour effet de nous enfermer dans une bulle informationnelle, mettant en danger ouverture culturelle et pluralisme démocratique ?

Ou sont-ils au contraire un moyen d’accéder à des idées, contenus, données ou personnes inaccessibles ou invisibles jusqu’alors ?

Quelle autonomie de l’individu dans un monde «algorithmé» ?

Faire des algorithmes l’objet d’un vaste débat public pour faire progresser la connaissance et la réflexion par la société civile s’impose comme une nécessité.

Un débat public initié par la CNIL

Près d’une trentaine de partenaires ont ainsi décidé d’organiser des évènements divers (colloques, séminaires, ateliers), afin de sensibiliser le grand public, ou d’approfondir les questions éthiques soulevées par les algorithmes dans divers secteurs d’activité (santé, justice prédictive, éducation, etc.).

A l’automne 2017, la CNIL rendra publique la synthèse des échanges et des contributions.

L’objectif est d’établir un panorama des défis et enjeux.

Des pistes ou propositions pour accompagner le développement des algorithmes dans un cadre éthique pourront être présentées aux pouvoirs publics.

(Source : communiqué CNIL)