Algorithms: Bias, Discrimination and Fairness

Algorithmes : Biais, Discrimination et Équité

Patrice Bertail (1) , David Bounie (2, 3) , Stéphan Clémençon (4, 5) , Patrick Waelbroeck (6, 3, 2)

1 MODAL'X - Modélisation aléatoire de Paris X
2 SES - Département Sciences Economiques et Sociales
3 ECOGE - Economie Gestion
4 S2A - Signal, Statistique et Apprentissage
5 IDS - Département Images, Données, Signal
6 Ecole Nationale Supérieure des Télécommunications de Bretagne

Les algorithmes s’immiscent de plus en plus dans notre quotidien à l’image des algorithmes d’aide à la décision (algorithme de recommandation ou de scoring), ou bien des algorithmes autonomes embarqués dans des machines intelligentes (véhicules autonomes). Déployés dans de nombreux secteurs et industries pour leur efficacité, leurs résultats sont de plus en plus discutés et contestés. En particulier, ils sont accusés d’être des boites noires et de conduire à des pratiques discriminatoires liées au genre ou à l’origine ethnique. L’objectif de cet article est de décrire les biais liés aux algorithmes et d’esquisser des pistes pour y remédier. Nous nous intéressons en particulier aux résultats des algorithmes en rapport avec des objectifs d’équité, et à leurs conséquences en termes de discrimination. Trois questions motivent cet article : Par quels mécanismes les biais des algorithmes peuvent-ils se produire ? Peut-on les éviter ? Et, enfin, peut-on les corriger ou bien les limiter ? Dans une première partie, nous décrivons comment fonctionne un algorithme d’apprentissage statistique. Dans une deuxième partie nous nous intéressons à l’origine de ces biais qui peuvent être de nature cognitive, statistique ou économique. Dans une troisième partie, nous présentons quelques approches statistiques ou algorithmiques prometteuses qui permettent de corriger les biais. Nous concluons l’article en discutant des principaux enjeux de société soulevés par les algorithmes d’apprentissage statistique tels que l’interprétabilité, l’explicabilité, la transparence, et la responsabilité.

Domains: Other Statistics [stat.ML]; Quantitative Finance [q-fin]

Patrice Bertail, David Bounie, Stéphan Clémençon, Patrick Waelbroeck. Algorithmes : Biais, Discrimination et Équité. 2019. ⟨hal-02077745⟩