La tyrannie des algorithmes

Par Yliès Clamousse

Les algorithmes peuplent nos vies et servent au marketing, à la médecine et même à la politique. Leur objectivité et leur insensibilité en font de parfaits instruments pour juger et ordonner tout ce qui doit arriver. Pour Michel Benasayag ces règles et conditions peuvent, malgré tout, être biaisées ou simplement n’être pas pertinente à la complexité du monde. Être pour ou contre, ce n’est pas la question. C’est de trouver sa place en tant qu’Hommes dont il s’agit. À travers son essai « La tyrannie des algorithmes », l’auteur pense les algorithmes de façon philosophique et revient sur ce qui nous a poussé à nous soumettre à la machine.

Disclaimer : Cet article est un résumé personnel des deux premiers chapitres du livre « La tyrannie des algorithmes » de Michel Benasayag. Les éléments constituant cet essai sont traités de façon subjective. Certains points peuvent donc être omis volontairement ou involontairement. J’espère tout de même que mes lignes vous aideront à vous faire une idée globale de l’argumentaire de l’auteur.

Exister vs Fonctionner, distinguer l’Homme de la machine

Écrit comme une conversation entre Michel Benasayag, philosophe et psychanalyste, et Régis Meyran, chercheur et journaliste spécialisé dans les sciences sociales, cette analyse n’est pas un réquisitoire contre l’intelligence artificielle. Des limites sont pourtant posées entre ce qui caractérise l’humain et ce qui caractérise la machine. L’un peut exister, l’autre ne fait que fonctionner. Effectivement, l’Homme, en ayant façonné de nouveaux outils numériques à son image, devient de plus en plus hybride (smartphone, montre connectée, réalité virtuelle). Les machines ayant été créées à notre image, ce sont maintenant elles qui nous font fonctionner. Mais l’intelligence artificielle, ou la machine, reste un objet, animé certes, mais dénué de conscience. Contrairement à l’humain qui est un être singulier dans sa capacité à exister. Les réponses d’un algorithme n’ont aucun sens pour l’ordinateur qui les calcule.

La rationalité pose les mêmes limites que les algorithmes

Le premier chapitre est consacré au concept de rationalité. Une philosophie qui place la raison et les effets de causalité au centre de tout. Au Moyen-Âge, cette nouvelle doctrine vient en rupture avec les dogmes religieux qui voyaient le divin comme seule source de raisonnement. C’est René Descartes qui en fût un des premiers penseurs. Beaucoup d’autres philosophes ont donné leurs points de vue sur la définition de la rationalité, voire du rationalisme. Tous s’entendent sur une chose : l’Homme est en quête de raison. Qu’est-ce que la philosophie vient faire dans un ouvrage sur une science comme l’algorithmique ? Et bien justement, les algorithmes sont fondés sur la rationalité. En partant du postulat que tout est calculable, que ce qui nous entoure n’est qu’une successivité de causes et d’effets, nos machines posent les mêmes limites que la rationalité. Michel Benasayag insiste, tout n’est pas rationnel. Les algorithmes ne peuvent pas tout prédire. Le rationalisme sera d’ailleurs remis en cause au sortir de la seconde guerre mondiale. Face à l’horreur et l’intelligence destructrice, le « qui pense bien, pense le bien » n’est plus avéré. Nos actes peuvent être mauvais en ayant été pensés comme bons et vice versa. Les algorithmes auraient-ils pu prédire les dictatures des années 30 et 40 ? Les algorithmes, et ceux qui les produisent, continueront bien-sûr de prospérer notamment avec l’arrivée de l’ordinateur quantique. Devenir hybrides tout en conservant notre qualité d’humains, voilà tout l’enjeu du futur.

Un homme enchaîné par des câbles

L’Intelligence Artificielle et nos avatars

L’Être humain ne serait donc qu’un assemblage d’informations. C’est ce qu’inspire les évangélistes et les développeurs d’aujourd’hui. L’auteur cite Jean-Pierre Changeux (neurobiologiste, « L’homme neuronal ») qui voit le cerveau humain comme un ensemble de câblages cérébraux. « Si tout est information, alors tout est modélisable » nous dit Michel Benasayag. La pensée que l’on peut totalement modéliser un être-humain relève du fonctionnalisme (tous les organes n’ont qu’une fonction). Pourtant la science a permis de démontrer que les organes humains ne sont pas assignés qu’à une fonction. Ils possèdent tout un système d’interactions entre eux. Au même titre que les autres êtres vivants ; même les plantes nous ont montré qu’elles étaient dotées de sens (biomimétisme). Dans la modernité (voire l’hypermodernité, cf Michel Foucault), les Hommes ne sont plus les individus libérés du Moyen-Âge, mais des constituants d’un réseau, des profils au milieu d’ « une vaste connexion informatique ». Face à l’intelligence artificielle, nous devons entretenir nos soft skills pour éviter de n’être que des bouts d’informations. Comme les gamers qui ne sont plus que des avatars parmi d’autres. Dans cette époque que l’auteur qualifie de « post-organique », avoir une seconde vie virtuelle est devenue une façon de « désexister ».

Conseil lecture : La tyrannie des algorithmes de Michel Benasayag
En savoir plus