©Tiphanie Tuczapski/ CCAS
Déplacements, justice pénale, éducation, services sociaux… Les algorithmes se sont immiscés partout et décident à notre place. Si nous voulons limiter leur impact, il faut qu’une intervention humaine reste toujours possible.
Connus des seuls informaticiens il y a encore deux décennies, les algorithmes se sont imposés dans notre quotidien avec la révolution numérique et l’essor d’Internet. Ce sont à présent des algorithmes qui affectent les bacheliers à l’université, nous proposent des suggestions de musique ou de films ou encore décident de l’attribution ou non d’un prêt bancaire, pour ne prendre que quelques exemples. Mais une nouvelle étape s’apprête à être franchie : celle qui va confier à des algorithmes des décisions de vie ou de mort sur des individus, soulevant ainsi des questions éthiques vertigineuses.
Les algorithmes face aux dilemmes moraux
Ces algorithmes traitant de dilemmes moraux sont au coeur du développement des voitures autonomes. Ils doivent en effet être prêts à traiter toutes les situations imaginables survenant sur la route, par exemple le surgissement soudain de piétons traversant sans prévenir. La bonne décision est évidemment de freiner, mais il peut arriver que cela ne soit pas possible (par exemple, parce qu’il pleut ou que les piétons sont trop proches), et que la seule option soit d’éviter les piétons… en se heurtant à un mur. Faut-il dans ce cas privilégier la vie du passager du véhicule autonome, en faisant en sorte que l’algorithme poursuive la course du véhicule et écrase les piétons ? Ou celle des piétons, en détournant la course du véhicule pour qu’il s’écrase contre un mur ? Et que se passe-t-il s’il y a non pas un, mais dix piétons ? Et si ce sont des enfants ?
Bien sûr, ces situations sont tout à fait exceptionnelles. « En réalité, il y a peu de situations où de tels dilemmes se rencontrent. Le véhicule cherche à limiter les accidents et à anticiper », nuance Jean-Gabriel Ganascia, du laboratoire d’informatique de Paris VI. Mais l’arrivée attendue du véhicule autonome – en test sur les routes américaines depuis 2012 – oblige à réfléchir très sérieusement aux enjeux de ces algorithmes de décision.
Pallier les défaillances humaines
Plus vertigineuses encore sont les recherches sur les algorithmes visant à rendre la justice. De fait, ils existent déjà pour les délits liés à la circulation routière. C’est un algorithme qui pilote la chaîne qui va du flash du radar routier à la réception à domicile de l’amende en cas d’excès de vitesse. Mais des recherches très sérieuses visent à présent à appliquer ces algorithmes à la justice pénale, dans l’idée de la rendre plus juste.
« Nous savons que les juges d’application des peines sont significativement moins indulgents en fin de matinée qu’en début d’après-midi. Une étude portant sur des milliers de cas a montré que la proportion de remises de peine accordées était de 20 % pour le dernier cas avant le déjeuner et pour 60 % pour le premier après le déjeuner. Nous savons aussi que dans certains États des États-Unis, les Afro-Américains sont statistiquement condamnés, pour des crimes similaires, à des peines beaucoup plus lourdes que les autres citoyens », argumentent les informaticiens Serge Abiteboul et Gilles Dowek dans « le Temps des algorithmes » (Le Pommier, 2017).
Des paramètres opaques pour les professionnel·les
Mais un autre dilemme apparaît : comment paramétrer l’algorithme pour qu’il arbitre entre le risque de condamner à tort un innocent et celui de laisser en liberté un criminel ? Comment transformer cette décision éthique intime en une succession d’instructions formelles ? Le même problème se pose pour des algorithmes, déjà en service aux États-Unis, qui guident les services sociaux de l’aide à l’enfance maltraitée. En fonction de différents paramètres (antécédents de la famille, évaluation par des psychologues…), il aboutit à un chiffre qui indique s’il faut, ou non, placer l’enfant en famille d’accueil.
Mais la manière dont les paramètres ont été fixés reste totalement opaque pour les travailleurs sociaux. Le grand enjeu des décennies à venir est donc de garder une responsabilité humaine derrière tout algorithme, en assumant les choix, et les corrigeant si nécessaire. C’est une question décisive pour garantir la possibilité de contester une décision prise par un algorithme. Comme le dit la mathématicienne américaine Cathy O’Neil dans « Algorithmes. La bombe à retardement » (Les Arènes, 2018), « nous devons définir ce que ça veut dire pour un algorithme d’être responsable ».
« Les algorithmes ont un impact majeur sur la société »
Claire Mathieu, directrice de recherche en informatique au CNRS
« Les algorithmes de graphes aident les médecins à organiser les greffes de rein. L’algorithme Parcoursup a pu aider les étudiants à trouver des formations universitaires. Bien que l’on observe parfois des dysfonctionnements, les algorithmes n’en sont pas directement responsables. Ils ne font que résoudre le problème qu’on leur soumet et ce problème n’est pas toujours posé dans une perspective algorithmique. Les conséquences pour les individus peuvent être dramatiques. C’est pourquoi il faut espérer que la perspective algorithmique fera partie de la culture des adultes de demain. »
Algorithme et emploi
Le perfectionnement croissant des algorithmes a d’importantes conséquences sur l’emploi. Prenons l’exemple des chauffeurs de taxi. Il fallait jusqu’à présent, pour obtenir sa licence, connaître toutes les rues de la ville où l’on exerçait. Mais avec la diffusion des GPS et de leurs algorithmes de choix d’itinéraires, cette compétence est devenue inutile, ce qui a entraîné l’apparition des chauffeurs privés… qui pourraient perdre leur emploi du fait de l’arrivée des voitures autonomes. Les professions intellectuelles sont aussi concernées. Rédaction d’ordonnances pour un médecin, recherche de jurisprudences pour un juriste ou encore correction de copies pour un enseignant… autant de tâches qui pourraient bientôt être effectuées par des algorithmes.
Pour aller plus loin
« le Temps des algorithmes », de Serge Abiteboul et Gilles Dowek
Le Pommier, 2017, 192 p., 17 euros.
« Algorithmes. La bombe à retardement », de Cathy O’Neil, préface de Cédric Villani
Les Arènes, 2018, 352 p., 20,90 euros.
