Dans un rapport, l'administration de Barack Obama met en garde contre les décisions automatisées élaborées par des systèmes big data, d'apprentissage machine et d'intelligence artificielle.

Sous l'impulsion et la direction de Megan Smith, directrice technique de l'administration américaine, les USA engagent un plan de réflexion et d'action pour prévenir les décisions liées aux déficiences possibles de l’intelligence artificielle.

Les erreurs de programmation et carences des algorithmes peuvent provoquer de sérieux problèmes.

L'administration de Barack Obama prend un certain recul vis à vis de la montée en puissance des systèmes big data, d'apprentissage machine et d'intelligence artificielle.

Dans un rapport publié cette semaine, la Maison Blanche s'est ainsi penchée sur le problème « lié aux systèmes simplistes débouchant sur des prises de décisions automatiques ».

Des systèmes utilisés dans une multitude de domaines comme l'emploi, l'éducation ou encore l'accès au crédit et plus généralement tout ce qui touche à la prise de décision automatisée.

« Les systèmes d'IA peuvent se comporter de façon surprenante » souligne Ed Felten, directeur technique à la fédération des échanges commerciaux (FTC) :

«Nous comptons de plus en plus sur l'IA pour prendre des décisions et opérer des mécanismes aussi bien physiques que virtuels, ajoutant à l'enjeu de la prédiction et du contrôle la complexité technologique sur laquelle ils reposent ».

Pour le gouvernement américain, les algorithmes ont pris une place très importante dans la vie des citoyens et il est devenu urgent de développer des cadres  éthiques pour encadre ce type de systèmes.

Cela passerait notamment par la mise en place de procédures de test et d'audit. Un autre effort consisterait à examiner l'impact de l'intelligence artificielle sur la société.

Après la tenue de sessions de travail qui débuteront le 24 mai à Seattle, le gouvernement américain doit présenter  un rapport consacré à l'intelligence artificielle avec  des discussions à partir de juillet à Washington, Pittsburgh et New York.

Eviter les mauvaises décisions trop « automatisées »

L'une des principales préoccupations est liée aux systèmes algorithmiques créant des discriminations par inadvertance en raison d'une conception défaillante.

« Les failles difficiles à détecter pourraient proliférer », souligne la Maison Blanche dans son rapport.

Ce rapport n'a pas pour objectif d'apporter des réponses aux problèmes posés mais plutôt, dans un premier temps, « d'identifier les problèmes et pousser les responsables informatiques, académiques, régulateurs et citoyens à discuter, mener des recherches et prendre des actions ».

Une urgence d’autant plus forte que  les systèmes algorithmiques peuvent rapidement  « dérailler » en sélectionnant des données pauvres, incomplètes ou  fausses : autant d’obstacles aux prises de décisions pertinentes.