Dans Bruxelles Laïque Echos n°97, nous vous avions proposé un livre-examen consacré à l’ouvrage de Dominique Cardon : “À quoi rêvent les algorithmes ? Nos vies à l’ère des big datas”.1 L’auteur a, depuis lors, affiné son analyse en nous livrant les outils nécessaires à une critique éclairée de la gouvernance algorithmique et ce, dans un article publié cette année par la revue “Pouvoirs”.2
Dans son ouvrage, l’auteur mettait en évidence le torrent de données qui se déverse aujourd’hui sur Internet. Chaque jour, 3,3 milliards de requêtes sont effectuées sur les 30.000 milliards de pages indexées par Google ; plus de 350 millions de photos et 4,5 milliards de likes sont distribués sur Facebook ; 144 milliards d’emails sont échangés par 3 milliards d’internautes (données 2015). Si l’on numérisait toutes les communications et les écrits depuis l’aube de l’humanité jusqu’en 2003, il faudrait 5 milliards de gigabits pour les mettre en mémoire. Aujourd’hui, nous générons ce volume d’informations numériques en deux jours !
Les algorithmes sont indispensables pour pouvoir opérer à la gestion et à la classification de cette masse d’informations grandissante, notamment à travers les moteurs de recherches. À ce titre, avant d’être un outil d’aliénation, les algorithmes représentent le sésame qui nous ouvre la voie et nous guide dans l’imbroglio qu’est Internet.
Techniquement, un algorithme s’apparente à une ou plusieurs instructions informatiques, susceptibles de s’appliquer à une base de données. L’algorithme facilite le traitement de l’information. Il suppose un calcul informatique et amène un résultat qui peut être, par exemple, un affichage d’informations sur le Web ou la création d’informations dans une base de données.3
Le recours aux algorithmes dans un nombre grandissant de domaines et d’activités (marketing, gestion de la cité, santé, distribution culturelle, justice, médias, etc.) prend une telle ampleur que leur efficacité, mais surtout l’intégrité de leur conception, devient un réel enjeu démocratique. La tentation de faire reposer une grande part de la gestion des sociétés humaines sur une gouvernance algorithmique a ouvert un débat sociétal indispensable : le citoyen est-il assisté, aliéné ou gouverné par ces outils (ou leurs concepteurs) ?
Dominique Cardon le souligne : il importe d’évaluer réellement les effets que produisent ces processus logiques plutôt que de souligner des généralisations à partir d’anecdotes montées en épingle : “Le débat sur la régulation des algorithmes doit tenir compte de l’assemblage complexe que forment la stratégie de l’entité qui les conçoit, les effets qu’ils produisent et les spécificités techniques qui les caractérisent”.
Afin d’intégrer ce concept, l’auteur met en avant un constat important : “les algorithmes ne sont pas neutres mais ils doivent être loyaux”.
Il est en effet vain d’attendre des algorithmes qu’ils soient “neutres” alors que ceux qui les conçoivent leur confèrent explicitement un programme destiné à organiser l’information sous un certain rapport, autour de certains principes, en valorisant des aspects spécifiques selon des règles qu’ils ont, au préalable, déterminées. Rappelons que derrière chaque algorithme président des êtres humains animés par leur vision propre du monde et de l’éthique.
Il faut imposer aux entités qui produisent les algorithmes de dire ce qu’elles font et faire ce qu’elles disent, précise-t-il.
“Il est indispensable que les services puissent expliquer à l’utilisateur les priorités qui président aux décisions de leurs algorithmes ; et que puisse être vérifié, en toute indépendance, que des intérêts cachés, des déformations clandestines ou des favoritismes cachés n’altèrent pas le service rendu”.
D. Cardon explique par ailleurs que le grand public fait généralement fi de la nature procédurale et non substantielle des résultats algorithmiques. Leurs calculs suivent une procédure et n’ont pas un accès sémantique aux informations qu’ils traitent. Cette clarification permet d’éviter de réduire le pouvoir des algorithmes aux seuls intérêts économiques ou idéologiques de leurs auteurs.
Les algorithmes se nourrissent par ailleurs des biais qui préexistent dans les données transmises. Les techniques algorithmiques actuelles font de plus en plus souvent appel à des procédures d’apprentissage permettant de produire des modèles issus des données elles-mêmes, pouvant engendrer des résultats déroutants qui n’étaient pas prévus par leurs concepteurs.
L’auteur distingue alors quatre configurations qu’il y a lieu de mettre en question lors de la critique des résultats algorithmiques : la loyauté du calcul, la manipulation, les effets inattendus et la déformation structurelle. Chacune de ces configurations est à catégoriser comme étant un effet identifiable, ou non, par l’utilisateur et anticipé, ou non, par la plateforme.
En fonction de la place qu’occuperaient les effets indésirables d’un algorithme dans cette grille de lecture, nous pouvons réagir par un mode d’action adéquat, virer de bord et envisager un futur quelque peu moins dystopique que celui vers lequel nous semblons naviguer.
Outre les questions éthiques et juridiques relatives à la vie privée et au consentement des personnes quant à leurs données, s’imposent les questions du libre arbitre et de l’autonomie face aux publicités ciblées, aux manipulations politiques et idéologiques, au classement enfermant des individus dans des bulles d’intérêts qui assourdissent toute voix discordante au regard du profil d’utilisateur automatiquement calculé sur ses inclinaisons passées. Au diable les conditions du débat démocratique ou de la diversité culturelle !
D’un point de vue plus sociétal, les résultats des calculateurs ont souvent pour effet de figer les pratiques et les structures sociales avec pour conséquence de reproduire ces inégalités.4 Ces algorithmes que l’on dit prédictifs sont construits sur le principe d’un futur qui serait une reproduction de notre passé.
Le réseau Optic souligne, dans la conclusion de son remarquable dossier “Pouvoir régalien et algorithmes, vers l’algocratie ?” que “La colonisation progressive par des algorithmes du domaine traditionnellement politique et régalien n’est plus du ressort de la science-fiction. Défense, Police et Justice – comme fonctions éminemment régaliennes – sont désormais directement interrogées par cette question. Cette situation se révèle comme une nouvelle étape de la mise en nombre et de la rationalisation des Hommes et de leur gouvernement. Passant d’un art de gouverner à une science du gouvernement, les promesses d’efficacité et d’optimisation par gouvernement automatisé, qui parachèvent le mouvement de bureaucratisation, sont anciennes et ses conséquences bien connues : déresponsabilisation, dépolitisation et délégitimisation”.5
Il est plus que temps de réagir, que ce soit en légiférant, en éduquant, en créant des alternatives, en évitant de laisser des traces exploitables, en relevant le débat éthique et philosophique, en identifiant les intentions derrière les calculs ou simplement – et c’est le plus important – en changeant nos habitudes.
Pour conclure, nous citerons le romancier Paul Vacca, qui a le mérite de pointer les premiers responsables de ces dérives et les premiers acteurs de changements, c’est-à-dire nous-mêmes : “Les algorithmes ne nous sont pas extérieurs. Nous sommes de fait, en tant que responsables de nos propres traces sur Internet, les coproducteurs des algorithmes qui nous aliènent. […] Il nous revient d’en contrecarrer les effets négatifs en reprenant notre liberté et notre pouvoir sur les algorithmes. Pervertir les algorithmes par la diversité et l’imprévisibilité de nos choix et de nos requêtes, c’est le gage d’une ouverture sur un Internet plus large. Mais pour cela le premier ennemi à dompter, c’est notre algorithme intérieur. Celui qui nous pousse à toujours aimer les mêmes choses, à nous définir une zone de confort, à n’écouter que ce qui nous arrange. A nous conformer à ce que nous sommes. Et à y rester avec la confortable impression qu’il s’agit du monde réel”.6
1 Dominique Cardon, À quoi rêvent les algorithmes ? Nos vies à l’ère des big data. Paris, Seuil “La République des idées”, 2015, 112 pages
2 Dominique Cardon, “Le pouvoir des algorithmes”, Pouvoirs 2018/1 (N° 164), p. 63-73
3 Association des professeurs documentalistes de l’éduca- tion nationale, site internet wikinotions, http://apden.org/ wikinotions/index.php?title=Algorithme
4 Dominique Cardon, op. cit., 2015.
5 OPTIC, “Pouvoir régalien et algorithmes, vers l’algocratie ?”, Sous la direction de Pierre GUEYDIER, 01/2018, page Internet : http://optictechnology.org/images/files/Research/ OPTIC2017-Pouvoir-rgalien-et-algorithmes.pdf
6 “Les algorithmes sont-ils vraiment tout puissants ? Et si notre algorithme intérieur était plus fort que ceux des géants d’Internet ?”, Paul Vacca, Medium, 12/2017, page Internet : https://medium.com/@paulvacca_58958/lalgorithme-in- t%C3%A9rieur-2bab7b35c917
