Qui exerce le pouvoir lorsque les décisions sont de plus en plus automatisées ?

Markus Stickling

VERS UNE SOCIÉTÉ DE CONTRÔLE ?

Le danger d’une dépossession du pouvoir du citoyen et de la démocratie au profit des algorithmes est bien réel.

L’algocratie est-elle en passe de remplacer la démocratie ?

« Algo », pour algorithme, « -cratie », du grec kratos (pouvoir) : l’algocratie désigne un système politique, économique et social entièrement dominé par les algorithmes, tel que celui qui se met inexorablement en place depuis déjà de nombreuses années.

Chacun le voit : de plus en plus de domaines régaliens et démocratiques sont pénétrés par les algorithmes : aide à la décision (justice, santé…), analyse prédictive (police, assurance…), sélection à l’université, filtrage et tri sur les réseaux sociaux, etc.

Les algorithmes — ces suites d’opérations utilisées pour obtenir une réponse ou résoudre un problème — influencent désormais fortement les processus de prise de décision dans de nombreux secteurs. Dans la vie politique, économique et sociale, ils exercent de plus en plus un pouvoir qui, en démocratie, était naguère entre les mains, ou tout au moins sous le contrôle direct du peuple, à travers ses représentants. Aujourd’hui, nous avons de moins en moins à penser : « ça » pense !

Algocratie et démocratie

L’économie mondiale fonctionne déjà largement grâce à des algorithmes financiers. À titre d’illustration, la société de gestion d’actifs américaine BlackRock utilise notamment Aladdin, un outil d’analyse des risques financiers en temps réel intégrant l’IA, dont la plateforme supervise environ 25 000 milliards de dollars d’actifs.

Aujourd’hui, plus de la moitié de la population mondiale utilise quotidiennement les réseaux sociaux, où des algorithmes de recommandation ajustent les contenus proposés selon les préférences immédiates et instinctives des utilisateurs, façonnant ainsi, à leur insu, leurs représentations du monde. Ces algorithmes, conçus pour maximiser les réactions et l’engagement, favorisent souvent la diffusion de contenus trompeurs ou de désinformation.

Il serait irresponsable, sur le plan humain, de confier notre avenir aux seuls acteurs de l’intelligence artificielle ou, bientôt, aux seules intelligences artificielles devenues largement autonomes.

Pour autant, les algorithmes ne sont pas uniquement source de risques. Ils apportent également des bénéfices considérables : biotechnologies, diagnostics médicaux plus rapides et plus précis, régulation et organisation de systèmes logistiques de plus en plus complexes, optimisation des ressources à différentes échelles, accès élargi à l’information et à l’éducation…

La question n’est donc pas de rejeter la technologie, mais de comprendre qui la contrôle et dans quel but, et de garder la main sur ses usages et ses principes essentiels, qui définissent notre rapport au monde et notre humanité.

Responsabilité et gouvernance partagées

Car si le recours aux algorithmes apparaît effectivement inévitable, et même souhaitable dans de nombreux secteurs de l’activité humaine, ce serait une erreur fatale de laisser simplement le mouvement se faire, comme s’il était auto-organisé.

L’algocratie qui s’installe n’est pas un mouvement spontané, comme voudraient le faire croire quelques grandes entreprises transnationales, précisément celles qui développent les algorithmes aujourd’hui dominants. Derrière chaque algorithme se trouvent des choix humains, économiques, politiques et sociétaux. Les algorithmes ne sont jamais neutres : ils traduisent des intérêts, des priorités et une certaine vision du monde. Il est donc de la responsabilité des citoyens, tant qu’ils en ont les moyens, de s’assurer que les orientations prises demeurent conformes à leurs aspirations et à leurs intérêts.

Faute de quoi, l’algocratie s’installera comme un mode de gouvernement ne faisant que masquer une nouvelle forme de « société de contrôle », au nom de la « rationalité algorithmique ».

Mythe de l’infaillibilité

Il faut reconnaître que l’algocratie, qui tend à réduire les individus à des données, des profils statistiques et des comportements prévisibles, s’inscrit dans une certaine histoire philosophique et scientifique héritée des Lumières et de la révolution scientifique du XVIII^e siècle, lesquelles ont élevé la rationalité au rang de valeur suprême. De ce point de vue, l’aboutissement d’une certaine idée de la rationalité s’incarne dans cette « gouvernance algorithmique ».

Comme le souligne Alain Supiot : « Nous pensons que gouverner et exercer le pouvoir sont une seule et même chose, que le pouvoir devrait être fondé sur une connaissance scientifique de l’individu, et donc “impersonnel”. Cela expliquerait la diffusion d’une “gouvernance par les nombres” où tout, y compris la loi, devient l’objet d’un calcul. »

Et c’est ici que se trouve véritablement la menace de l’algocratie, à travers son mythe fondateur : celui du caractère prétendument infaillible de la technique, face à la faillibilité humaine. Or les algorithmes sont eux-mêmes issus à la fois de l’expérience et de la volonté humaines ; ils sont développés, diffusés et adoptés selon des prescriptions humaines, conformément à la vision du monde de ceux qui les conçoivent, les imposent et les contrôlent. La faillibilité se transmet. Les algorithmes n’y échappent pas.

Perspectives : vers une démocratie augmentée

C’est pourquoi la réponse ne peut être ni le rejet aveugle de la technologie, ni son acceptation passive. Le véritable enjeu est de réaffirmer la nécessité d’un nouvel humanisme au cœur de notre société.

Il est temps de se souvenir de la maxime de Kant, dans Fondements de la métaphysique des mœurs : « Agis de telle sorte que tu traites l’humanité aussi bien dans ta personne que dans la personne de tout autre toujours en même temps comme une fin, et jamais simplement comme un moyen. » 

Face à la révolution en cours, qui change profondément la donne et ouvre sur un tout nouveau paradigme, rester humains doit (re)devenir notre boussole. Les algorithmes peuvent calculer, optimiser, prédire et même apprendre, mais ils ne peuvent éprouver pour nous la beauté et la bonté qui sauvent le monde ; ils ne peuvent êtres humains à notre place. Ils restent des outils, aussi puissants soient-ils. Pour le moment…

Garde-fous démocratiques

Dans le domaine politique, préserver notre humanité, c’est refuser de déléguer aveuglément les décisions essentielles qui engagent notre avenir commun.

Concrètement, cela signifie par exemple défendre :
la transparence des algorithmes ;
une régulation démocratique ;
un contrôle parlementaire des usages publics de l’IA ;
la protection de la souveraineté numérique ;
le droit à l’explication des décisions automatisées ;
une éducation critique aux mécanismes algorithmiques ;
et surtout, la place centrale de la délibération humaine, de l’éthique et de la responsabilité individuelle.

La qualité de la visite dépend de la qualité du visitant et du visité.

Les algorithmes ne prendront le pouvoir que si nous renonçons nous-mêmes à exercer notre responsabilité démocratique.
La technologie doit rester un outil au service de l’émancipation humaine, et non devenir l’instrument d’une nouvelle domination.
Rester humains, c’est défendre le Vrai, le Bien, le Beaux.
Rester humains, c’est défendre notre liberté de conscience, notre capacité de jugement et notre destin collectif.

Tatiana F.-Salomon

Présidente fondatrice de #JamaisSansElles,
Présidente fondatrice de #LesHumainsAssociés

Illustration : Markus Stickling – Licence Unsplash