La cinquième humiliation de l’être humain

Deux fois par mois, Le Devoir lance à des passionnés de philosophie et d’histoire des idées le défi de décrypter une question d’actualité à partir des thèses d’un penseur marquant.

Selon Sigmund Freud, le développement des sciences aurait infligé à l’humanité trois humiliations, lesquelles constituent autant de blessures narcissiques, conformément à sa théorie psychanalytique. Ces trois humiliations subies par l’être humain ont remis en question l’anthropocentrisme sur la base duquel « l’homme » se pensait jusqu’alors.

La première humiliation est cosmologique, elle est personnifiée par Copernic : l’être humain n’est pas le centre de l’univers. La deuxième humiliation est biologique, elle émane de la théorie de l’évolution de Darwin : l’être humain est aussi un animal, en ce qu’il participe du règne animal duquel il est issu. La troisième humiliation est psychologique, comme l’a révélé Freud avec l’inconscient : l’être humain n’est pas maître dans sa propre maison.

À ces trois grandes humiliations, Pierre Bourdieu en a ajouté une quatrième, d’ordre sociologique : la socialisation propre au concept d’habitus rompt avec le mythe de l’individu qui se crée librement, tout comme la théorie de l’évolution rompt avec le mythe de la Genèse.

Et si l’être humain subissait en ce moment une nouvelle humiliation, sa cinquième ? En fait, cette humiliation est en cours depuis quelques décennies déjà, et ChatGPT n’en est que la plus récente manifestation.

Cette humiliation, qui pourrait être nommée l’humiliation cybernétique, est fondée sur le rapprochement entre l’être humain et la machine. Plus encore, elle s’incarne dans le remplacement, sinon par le dépassement, du premier par la seconde.

Les défaites des champions d’échecs (Garry Kasparov) et de go (Ke Jie) face aux ordinateurs Deep Blue en 1997 et AlphaGo en 2017 constituent des étapes significatives de l’humiliation en cours. À cela s’ajoutent la conduite automobile autonome, la puissance du calcul informatique, le développement des nanotechnologies, de la robotique, du quantique et, bien sûr, de l’intelligence artificielle, dont celle à l’oeuvre avec ChatGPT. Plus encore, avec les GAFAM, l’humiliation s’approfondit : Google et Microsoft définissent ce que nous pensons, Amazon définit ce que nous désirons, Facebook définit ce que nous sommes et Apple définit ce que nous possédons.

Le père de la cybernétique

Formée de la rencontre de plusieurs disciplines (mathématiques, génie, biologie, zoologie, informatique, anthropologie, psychologie, psychiatrie, neurologie, physiologie, sociologie, philosophie, éducation), la cybernétique assimile le comportement humain à celui de la machine, et vice-versa. S’il fallait, comme pour les précédentes humiliations, associer un nom à cette nouvelle humiliation, c’est sans doute celui de Norbert Wiener qu’il faudrait d’abord invoquer. Lors du 3^e Congrès international de cybernétique, tenu à Namur en 1961, l’ingénieur et mathématicien Georges Boulanger s’est exprimé comme suit : « Un domaine immense s’offre à nous, qui est encore inexploré. Et après les noms de Galilée et de Darwin, c’est celui de Norbert Wiener que je vous propose d’écrire. »

Tout comme le nom de Galilée pourrait être associé à celui de Copernic en ce qui concerne la cosmologie, Wiener ne serait pas le seul représentant possible de la cybernétique. Il suffit de penser à Alan Turing et aux autres personnes qui ont contribué au développement de l’ordinateur et de l’informatique. Mais Wiener est celui qui a, en 1948, publié un ouvrage intitulé Cybernetics or Control and Communication in the Animal and the Machine (ce qui a été traduit par : La cybernétique. Information et régulation dans le vivant et la machine), dans lequel il écrit : « Jusqu’à une date récente, il n’existait pas de mot pour désigner ce complexe d’idées, et afin de désigner le champ tout entier par un terme unique, je me suis vu dans l’obligation d’en inventer un. D’où le mot “cybernétique” que j’ai fait dériver du mot grec kubernetes, ou “pilote”, le même mot grec dont nous faisons en fin de compte notre mot “Gouverneur”. »

Alors professeur au Massachusetts Institute of Technology (MIT), Wiener a dirigé des travaux interdisciplinaires qui ont cherché à construire une « nouvelle science ». Selon lui, il n’y a pas de raison pour que les machines ne puissent pas ressembler aux êtres vivants dans la mesure où, par la communication et l’apprentissage, elles ont aussi la capacité d’orienter leur action à partir des informations reçues. Les notions qu’il a formulées, dont celles de rétroaction (feedback) et de boîte noire (blackbox), demeurent pertinentes aujourd’hui pour penser le fonctionnement et l’insuffisante transparence de la gouvernance algorithmique.

La thèse de l’humiliation cybernétique n’a pas été formulée par Wiener lui-même. Au contraire, celui-ci était plutôt optimiste face au progrès possible offert par les technologies. Ce que Wiener nous fournit davantage, ce sont les cadres conceptuels pour comprendre et expliquer cet arrière-monde cybernétique dans lequel nous vivons aujourd’hui. Nos ordinateurs, nos montres, nos téléphones et autres objets connectés changent notre rapport aux autres et à la réalité, qui se fait de plus en plus virtuelle. Il ne faut toutefois pas voir les effets de la cybernétique uniquement dans les domaines du génie, de l’informatique ou des technologies ; toutes les disciplines sont affectées. L’empire cybernétique étend son réseau sur le droit et le management, entre autres, à l’aide de ses outils conceptuels et de ses mécanismes de régulation par les instruments, les indicateurs, les nudges, etc. Des domaines comme l’éducation, la santé et la justice se transforment sous l’action de la cybernétique, avec des salles de pilotage, des algorithmes, ainsi que des plans stratégiques et des plans d’action. La machine à gouverner est non seulement régie par des lois, mais aussi par des programmes, alors que les informaticiens remplacent parfois les juristes dans la gouvernance par les nombres.

La régulation des technologies

Aux premiers temps de la cybernétique, les visions des cybernéticiens dépassaient les possibilités alors offertes par les technologies, et ce, même si la machine à jouer aux échecs et l’idée de la pensée artificielle étaient déjà présentes au début des années 1950. Depuis, les développements technologiques ont subi d’importantes critiques, parfois très violentes (que l’on pense aux actes terroristes de Theodore Kaczynski, surnommé « Unabomber »). Le besoin de régulation des technologies demeure à ce jour immense, notamment parce que l’éthique et le droit parviennent difficilement à réguler des phénomènes évoluant si rapidement. Et voilà que l’humiliation cybernétique risque de connaître une accélération plus importante encore avec le transhumanisme et, à plus long terme, le posthumanisme.

Norbert Wiener n’a pas fait que des études en mathématiques, il a aussi étudié la philosophie, notamment lors d’un stage postdoctoral avec le philosophe pragmatiste John Dewey. En combinant les sciences de l’informatique et de l’information, il s’agit dès lors d’adopter une attitude philosophique et un modèle d’activité humaine réunissant la cybernétique et le pragmatisme. De là l’intérêt de Wiener pour la régulation, à travers notamment des idées comme l’information, la communication, la rétroaction, la réflexivité et l’apprentissage. Précisons que Wiener, qui a refusé de participer au projet Manhattan sur le développement de la bombe nucléaire, est parti de ses propres recherches réalisées pendant la Seconde Guerre mondiale, alors qu’il cherchait comment orienter les tirs d’un canon antimissile. La direction, le contrôle et le guidage y sont des éléments fondamentaux pour l’adaptation rétroactive suivant la prise d’information — ce qui définit un processus d’apprentissage. Le comportement adopté, qui est en fait la réponse, doit lui-même devenir une information, dans une causalité circulaire, pour la transformation autocorrectrice et le changement de la conduite. Wiener écrit que « la rétroaction est la commande d’un système au moyen de la réintroduction, dans ce système, des résultats de son action. Si ces résultats ne sont utilisés que comme données numériques pour l’examen et le réglage du système, nous obtenons la rétroaction simple que connaissent bien les automaticiens. Si, par contre, l’information portant sur l’action effectuée est capable de modifier la méthode générale et le modèle de celle-ci, nous disposons d’un processus que l’on peut bien nommer apprentissage ».

En introduisant les « mécanismes de rétroaction » pour saisir la causalité circulaire impliquée dans un comportement orienté vers un but, dont la réalisation nécessite la rétroaction et la correction d’erreurs, la cybernétique fait de la régulation un aspect central de sa théorie. Les discussions autour de ChatGPT nous mènent précisément vers l’enjeu de la régulation des technologies. En ce domaine, il semble de plus en plus impossible d’interdire totalement, ni d’autoriser complètement, d’où l’importance de réfléchir aux enjeux éthiques et juridiques afin de réguler adéquatement les utilisations qui peuvent en être faites en fonction des circonstances et des situations.

En prétendant écrire à la place de l’humain, et peut-être même penser pour lui, ChatGPT contribue de manière non négligeable à cette humiliation cybernétique de l’être humain. À la différence des précédentes humiliations, celle-ci est toutefois le résultat direct de l’intelligence humaine, qui a elle-même créé les conditions de l’avènement de l’intelligence artificielle. En ayant maintenant le choix des usages qu’il fera de l’intelligence artificielle, l’être humain déterminera la profondeur de sa nouvelle blessure narcissique.

Ce texte a été écrit sans recourir à ChatGPT.

Des suggestions ? Écrivez à Robert Dutrisac : rdutrisac@ledevoir.com. Pour lire ou relire les anciens textes du Devoir de philo, rendez-vous sur notre site Web.