Par Martin Corval

Il existe un petit plaisir très répandu, ces temps-ci, qui consiste à prendre une intelligence artificielle en flagrant délit de bêtise. On lui pose une devinette d'enfant, elle se trompe. On lui demande combien de fois la lettre R apparaît dans un mot, elle compte faux. On la piège sur une voiture qu'il faudrait laver, et elle répond à côté. Aussitôt, le verdict tombe, soulagé : vous voyez bien, ces machines ne comprennent rien, elles ne font que répéter.

Je connais ce plaisir. Je l'ai pratiqué. Et puis un doute m'est venu, qui a tout retourné. Et si cette manie de pointer la bêtise des machines en disait moins sur elles que sur nous ?

Premier temps : la consolation

Regardons d'abord ce que nous faisons quand nous traquons l'erreur de la machine. Le raisonnement le plus courant porte un nom savant : l'argument du perroquet stochastique, forgé en 2021 par la linguiste Emily Bender et ses collègues. La thèse tient en une phrase : un grand modèle de langage ne fait qu'assembler des séquences de mots selon des probabilités tirées de ses données d'entraînement, sans aucune référence au sens. Un perroquet brillant, qui récite sans comprendre.

Pour prouver cette absence de compréhension, les sceptiques brandissent toujours les mêmes pièces à conviction : les ratés. L'IA qui affirme une fausse évidence, qui se contredit d'une conversation à l'autre, qui trébuche sur une question triviale. Voyez, disent-ils, la fluidité n'est qu'un vernis, derrière il n'y a personne.

Or il faut regarder ce geste en face. Juger une intelligence entière par ses échecs les plus spectaculaires, en ignorant ses réussites, reviendrait, pour un humain, à déclarer stupide un chirurgien brillant parce qu'il a oublié ses clés. Nous ne procédons ainsi pour personne. Sauf pour la machine. Et cet acharnement trahit quelque chose. Pointer la bêtise de l'IA console. Cela remet la chose à sa place, conjure l'inquiétude, restaure une hiérarchie rassurante. « Elle s'est trompée sur la voiture » veut souvent dire, en sourdine, « ouf, je reste au-dessus ». L'erreur de la machine nous réconforte sur notre propre supériorité.

Ce que nous ne pardonnons pas à la machine, ce n'est peut-être pas de mal nous imiter, mais de trop bien nous imiter.

Les chercheurs ont d'ailleurs un nom pour le mouvement inverse, notre tendance à prêter une intelligence aux machines dès qu'elles alignent trois phrases : l'effet Eliza, du nom d'un programme des années 1960 si rudimentaire qu'il tenait sur quelques lignes, et qui pourtant bouleversait ses utilisateurs convaincus d'être compris. Nous projetons du sens partout. Mais l'envers de l'effet Eliza existe aussi, moins étudié : notre besoin, tout aussi vif, de prouver que la machine n'en a pas.

Second temps : le miroir

C'est ici que le sol se dérobe. Car l'accusation portée contre l'IA, répéter des schémas appris sans les comprendre, mérite qu'on se la retourne. En sommes-nous si exempts ?

Le sociologue Pierre Bourdieu a passé sa vie à démontrer le contraire. Nos goûts, nos manières de parler, nos jugements, nos indignations mêmes, nous les croyons personnels, spontanés, libres. Ils sont, pour une large part, des schémas intériorisés dès l'enfance, reproduits si tôt et si profondément que nous les prenons pour notre nature. Il nommait cela l'habitus : une grammaire sociale gravée en nous, qui nous fait jouer notre partition de classe en croyant improviser. Nous récitons, nous aussi, une langue qu'on nous a apprise sans que nous l'ayons choisie.

La psychologie a enfoncé le clou. Le catalogue des biais cognitifs, ces raccourcis de pensée où l'esprit humain tourne en boucle de façon prévisible, ne cesse de s'allonger. Nous jugeons selon la première information reçue, nous cherchons ce qui confirme nos croyances, nous craignons de perdre plus que nous n'aimons gagner. Programmés, biaisés, répétitifs. Les mots mêmes qu'on jette à la figure des machines décrivent une part immense de notre fonctionnement.

Et le plus troublant vient des chercheurs eux-mêmes. Ceux qui défendent les IA opposent à l'argument du perroquet une objection redoutable : il surgénéralise. Car la cognition humaine repose elle aussi, massivement, sur la reconnaissance de patterns et l'apprentissage statistique. Si l'on refuse toute compréhension à un système qui apprend par l'exemple et la répétition, il faut alors la refuser aussi à l'enfant qui apprend sa langue en imitant, au médecin qui diagnostique par analogie avec des cas vus mille fois. La frontière qu'on croyait nette devient floue. Au point que, parmi les spécialistes du langage naturel interrogés en 2022, la communauté s'est divisée presque exactement en deux sur la question de savoir si une machine pourrait un jour comprendre : 51 % d'un côté, 49 % de l'autre. Les experts eux-mêmes ne savent plus tracer la ligne.

Ce que le perroquet nous renvoie

Reste la question que ce miroir laisse en suspens. Pourquoi tenons-nous tant à cette frontière ?

Parce qu'elle nous protège. Tant que la machine n'est qu'un perroquet, nous demeurons les seuls véritables penseurs, les seuls à comprendre, à vouloir, à être. Mais si la machine répète, et que nous répétons aussi, alors la différence cesse d'être une nature pour devenir une question de degré. Et cette idée nous est insupportable, moins parce qu'elle grandit la machine que parce qu'elle nous rabaisse, nous révèle moins libres, moins originaux, moins souverains que nous aimions le croire.

Au fond, ce que nous ne pardonnons pas à l'intelligence artificielle, ce n'est peut-être pas de mal nous imiter. C'est de trop bien nous imiter, et de nous tendre, dans ses répétitions et ses biais, le portrait peu flatteur de notre propre mécanique. Le perroquet nous agace parce qu'il parle comme nous. Nous le traitons de perroquet pour ne pas nous entendre.

Cela ne tranche rien sur ce que les machines comprennent ou non, et ce mystère reste entier, y compris pour celles et ceux qui les fabriquent. Mais peut-être le vrai sujet n'a-t-il jamais été l'intelligence de la machine. Peut-être n'avons-nous fabriqué, avec ces perroquets, qu'un miroir de plus, et le plus dérangeant : celui qui nous parle, et dans lequel nous refusons de nous reconnaître.

Sources : Emily Bender, Timnit Gebru et al., « On the Dangers of Stochastic Parrots », 2021 ; débats universitaires sur la compréhension des LLM (arXiv, 2022-2026) ; sondage de la communauté du traitement du langage naturel, 2022 ; Pierre Bourdieu, La Distinction, 1979, sur l'habitus ; travaux de Daniel Kahneman et Amos Tversky sur les biais cognitifs ; effet Eliza, d'après le programme de Joseph Weizenbaum, 1966.