«Chom5ky vs Chomsky»: quelle sorte de créature est l’IA?
L’ombre d’Alan Turing (1912-1954), grand-papa du numérique, planait sur la salle. La conversation organisée la semaine dernière à l’Espace ONF de Montréal en amont du dévoilement de l’oeuvre immersive Chom5ky vs Chomsky portait sur l’intelligence artificielle (IA) et le futur que nous préparent les machines.
Forcément, le débat à trois (une sociologue, une informaticienne, un philosophe) a vite débouché sur le fameux test imaginé en 1950 par le mathématicien britannique Alain Turing. L’expérience proposée permet supposément de juger la capacité d’un ordinateur à imiter parfaitement une conversation, jusqu’à confondre un interlocuteur humain.
Alors, en est-on à cette étape charnière de l’histoire où un robot conversationnel comme ChatGPT arrive à nous bluffer parfaitement ? La machine est-elle devenue intelligente, pour ne pas dire humaine ? Autrement dit, de quoi l’IA est-elle faite et comment se distingue-t-elle ?
« Dès le départ, il y a eu de vives contestations que ce test était un révélateur de l’intelligence », a répondu le philosophe Jocelyn Maclure, professeur à l’Université McGill, en expliquant qu’il aborde souvent en classe le texte de référence de 1950, avec « beaucoup de bonheur ». Pour l’heure, les machines réputées intelligentes se contentent de traiter des données, a-t-il ajouté. « Se focaliser uniquement sur des réponses, est-ce suffisant pour dire que la machine pense ? Plusieurs, dont moi, répondent non. »
Le fait de tenir une conversation ou d’imiter un style artistique ne rend donc pas la machine humaine, estime celui qui préside la Commission de l’éthique en science et en technologie du Québec. « Les réponses de ChatGPT, on les reconnaît assez facilement : très peu d’humains s’expriment avec une syntaxe parfaite. Les IA sont très prévisibles. Elles sont bonnes pour repérer et répéter des patterns, par exemple dans les oeuvres d’un peintre. On est très loin, me semble-t-il, de l’intelligence et de la créativité humaines. »
Les IA sont très prévisibles. Elles sont bonnes pour repérer et répéter des patterns, par exemple dans les oeuvres d’un peintre. On est très loin, me semble-t-il, de l’intelli - gence et de la créativité humaines.
Démêler la pertinence du test semblait d’autant plus à propos que l’installation de réalité virtuelle Chom5ky vs Chomsky, maintenant accessible au public à l’Espace ONF, s’articule autour d’une émulation du célèbre intellectuel américain Noam Chomsky, fondateur de la linguistique générative, un cadre théorique qui cherche à comprendre la structure et le comportement des systèmes langagiers. Les robots conversationnels actionnés dans l’oeuvre virtuelle sont inspirés des entrevues et des textes produits depuis les années 1950 par le vrai Noam Chomsky, lui-même auteur de l’essai Quelles sortes de créatures sommes-nous ? (Lux, 2021).
« Notre entité nous dit elle-même qu’elle est une émulation : elle essaie au maximum de répéter ce qu’elle n’est pas », a expliqué la sociologue Sandra Rodriguez, créatrice de l’oeuvre, sur laquelle elle travaille depuis des années avec l’accord de M. Chomsky, son collègue au MIT de Boston.
« L’entité Chom5ky — avec un “5” au lieu d’un “s” — utilise différents systèmes d’IA [… ] avec pour objectif d’ouvrir avec nous une conversation. La plupart des gens qui interagissent avec cette entité ont tendance à la traiter comme s’il s’agissait de Noam Chomsky. Et l’entité nous dit : “Vous savez, je ne suis qu’une série de programmations, de formules mathématiques, qui visent à trouver des mots à aligner pour former une réponse.” Elle essaie de nous faire voir ce qu’il y a sous le capot, derrière les rideaux. »
Bref, la machine expose elle-même les limites du test de Turing. Chom5ky vs Chomsky poursuit ainsi dans la veine des créations culturelles traitant des grandeurs et misères de l’ère des machines pensantes depuis 2001: A Space Odyssey (1968), en passant par The Matrix (1999) ou Ex Machina (2014). La télé en a rajouté récemment, avec Westworld et Black Mirror. Et en janvier, le théâtre du Rideau vert de Montréal proposera La machine de Turing, de Benoit Soles.
La science-fiction verse souvent dans la perspective apocalyptique à la Terminator ; le dernier opus de la série de films Mission: Impossible explore d’ailleurs aussi le créneau.
Intelligence artificielle, travers réels
Sasha Luccioni, chercheuse en IA éthique et durable au sein de la jeune entreprise Hugging Face, a souligné hic et nunc les travers très concrets et bien réels de ces systèmes qui imitent l’intelligence humaine en s’appuyant sur des mécaniques d’exploitation et de discrimination humaines, trop humaines.
« La manière dont est entraînée l’IA aujourd’hui est assez choquante, a-t-elle expliqué. Les données sur Internet, ce sont nos données. Maintenant, de plus en plus, surtout pour l’IA générative, il y a une interaction supplémentaire avec des humains. Des gens travaillant de la maison ou dans des pays en voie de développement sont payés souvent très peu pour améliorer ces systèmes. Selon plusieurs — et moi y compris —, c’est grâce à ça qu’on a fait un grand pas dans les systèmes qui peuvent compléter les phrases sur votre téléphone, par exemple. »
Les compagnies hésitent de plus en plus à dévoiler en transparence leur manière de concevoir ces robots. Mme Luccioni, spécialiste des pans linguistiques de l’informatique, a ajouté que, depuis environ 18 mois, avec l’IA générative, la logique des secrets industriels s’impose partout dans le secteur pour cacher les modèles de travail utilisés, la taille et la nature des données, les biais des logiciels, l’empreinte écologique des outils…
Et l’application militaire de ces découvertes pose d’autres problèmes encore plus angoissants. La sociologue Rodriguez a d’ailleurs rappelé que l’armée américaine emploie maintenant des drones tueurs entièrement autonomes. « On entend parler des risques possibles. Mais qu’est-ce qu’on perd quand on choisit de ne plus avoir de moments où un individu a le choix de dire non ? On perd cette capacité-là de faire des choix. »
« Je me dis que des oeuvres de création ne vont pas tout résoudre. Au moins, elles permettent d’avoir un moment comme citoyen, comme collectivité, de s’arrêter et de se poser des questions », note aussi la conceptrice de Chom5ky vs Chomsky.
D’où l’importance de définir des principes et de les traduire en règles de conduite. « Ça ne doit pas être de l’autorégulation de l’industrie. Ça doit être issu de pouvoirs publics », affirme le professeur Maclure.
« Là, on est dans la phase 2, celle de l’encadrement législatif, soit pour faire évoluer des lois sur la vie privée ou le droit d’auteur, soit pour se doter de nouvelles lois, comme le fait l’Union européenne. Au Canada, une loi sur l’IA s’en vient, souhaitons-le. Les lois créent des obligations, des règles et des sanctions. Des sociétés commencent à encadrer l’IA. Il faut en faire un dossier prioritaire. »