(et pourquoi on continue quand même?)

Pour ce premier article de l’année, j’ai de nouveau prêté ma plume à Mehdi HANNAIZI. Je dis, de nouveau, parce que Mehdi a déjà écrit un article que vous pouvez lire ici.

Quand je lui ai proposé de reprendre la parole sur le blog, Mehdi m’a très vite parlé d’IA. Il m’a écrit « J’en ai marre de voir les gens dire n’importe quoi et humaniser l’IA générative ».

Alors il vous explique tout ça avec son ton et son humour habituels (et comme la dernière fois, je lui ai donné carte blanche).

Mehdi, c’est à toi!

Depuis quelques mois, un phénomène étrange et fascinant se répand plus vite qu’un lapin frappé de tourista : l’IA générative serait devenue quelqu’un !

Elle réfléchit. Elle est capable de comprendre et de raisonner.

Parfois même, elle ressent de la peur et de la colère (ciel, je défaille rien que d’y penser !).

Certains lui parlent gentiment, d’autres lui disent merci, quelques-uns lui demandent même pardon.

Et si vous avez le malheur de prétendre que non, elle n’est pas plus consciente qu’intelligente, et encore moins dotée de la moindre intention, on vous regarde comme si vous veniez de dire que le Père Noël n’existe pas devant une classe de maternelle.

Aussi, je vous propose de remettre calmement l’église au milieu du village.

1- Une IA ne comprend rien

Pas un peu. Pas presque. Rien. Zéro, walou, nada, autant que de bonnes idées au gouvernement. Le vide intersidéral, mais sans les jolies petites étoiles en arrière-fond.

Quand vous lisez une réponse d’IA qui semble brillante, intelligemment structurée, nuancée, parfois même « plus claire que ce que j’aurais dit moi-même », vous assistez à une illusion cognitive parfaitement huilée. L’IA ne sait pas de quoi elle parle, elle ne sait pas même qu’elle parle. Elle empile des symboles en fonction de probabilités calculées à partir de milliards d’exemples passés. Elle ne relie pas les idées, elle relie les mots. Et encore, pas parce qu’ils ont un sens, mais parce qu’ils vont statistiquement bien ensemble.

Dire qu’une IA « comprend », c’est comme dire qu’un GPS « connaît la route ». Il n’a jamais vu un panneau, n’a jamais raté une sortie, n’a jamais pesté contre Anne Hidalgo. Il applique des règles sur une carte. L’IA, c’est pareil, mais avec du texte. Beaucoup de texte. C’est un imposteur numérique qui prétend comprendre avec un aplomb phénoménal, alors que c’est notre cerveau qui projette du sens. C’est nous qui comprenons, pas elle.

2- Une IA ne raisonne pas, elle calcule

Quand une IA « réfléchit », elle ne s’arrête pas, ne doute pas et ne se gratte pas le menton en tournant en rond dans son serveur.

Tout commence par votre entrée : une question, une consigne, un problème. Pour un humain, c’est du sens. Pour une IA, c’est une suite de symboles qu’elle transforme en nombres. Ensuite, l’IA ne « décompose » pas le problème parce qu’elle en comprend la structure. Elle compare ce que vous avez écrit à des milliards de contextes similaires vus pendant son entraînement. Pas pour en saisir l’intention, mais pour estimer ce qui vient généralement après quelque chose de similaire. La réflexion n’est plus une analyse mais une prédiction.

À chaque mot généré, l’IA refait le même travail : elle calcule la probabilité du prochain mot en fonction de tout ce qui précède. Elle avance mot par mot, comme quelqu’un qui marcherait dans le brouillard en posant toujours le pied là où le sol a le plus souvent été solide auparavant. Peu importe que cela mène à une conclusion brillante ou à une impasse absurde.

Quand elle produit une réponse « structurée », avec des étapes, des sous-parties, parfois même des raisonnements intermédiaires, ce n’est pas parce qu’elle a décidé que c’était la meilleure méthode. C’est parce que, statistiquement, les réponses humaines convaincantes ont souvent cette forme-là. Elle imite la mise en scène de raisonnements similaires issus de ses données d’entraînement, pas le raisonnement lui-même.

Ce qui donne l’illusion d’un « fil de pensée », c’est la cohérence globale produite par ces micro-choix successifs. Mais cette cohérence est un effet de bord, pas une intention. L’IA ne vérifie pas ses propres étapes, ne se dit pas « ça se tient » ou « c’est grotesque ». Elle déroule sans nuance un motif appris, exactement comme un pianiste automatique déroule une partition sans jamais entendre la musique.

3- Une IA n’a pas d’intention, encore moins des émotions et des sentiments

Là, on touche au sommet de l’anthropomorphisme moderne : l’IA qui veut, qui ressent, qui se vexe, qui a peur ou qui se met en colère.

Une IA ne veut rien, ne cherche rien et ne choisit rien. Elle n’a aucun objectif propre, aucune motivation, ni aucune volonté. Elle ne vous « aide » pas. Elle ne « refuse » pas. Elle ne « se protège » pas. C’est un assemblage de silicium froid qui applique des règles définies par des humains, dans un cadre déterminé par des humains, avec des données produites par des humains.

Quant aux émotions… Comment vous dire ?

Une émotion suppose une expérience subjective. Un ressenti. Un état interne vécu. L’IA n’a rien vécu, rien à ressentir, et personne pour ressentir quoi que ce soit. Quand elle utilise un ton empathique, ce n’est pas de l’empathie, c’est du style. Quand elle parle de peur ou de colère, ce ne sont que des mots bien placés dans une phrase qui ressemble à une phrase humaine.

Si une IA vous paraît gentille, froide, arrogante ou compatissante, ce n’est pas son caractère. C’est celui que vous lui avez demandé d’avoir, ou bien le vôtre qui s’exprime en miroir.

4- Pourquoi on fait ça et pourquoi ça persiste ?

Parce que tout concourt à entretenir l’illusion. Et pas par complot, mais par une convergence presque parfaite de biais humains, d’intérêts économiques et d’effets techniques.

D’abord, parce que notre cerveau est programmé pour voir des esprits partout. C’est un réflexe ancien et très efficace : mieux valait, pour nos ancêtres lointains, attribuer une intention à un bruit dans les buissons que l’inverse. Résultat : dès qu’un système parle bien, répond vite et s’adapte au contexte, nous projetons automatiquement une pensée derrière les mots. L’IA déclenche exactement ce biais-là, à pleine puissance.

Ensuite, parce que le langage est notre critère numéro un d’intelligence. Depuis toujours, « parler bien » = « penser bien ». Or, les IA génératives attaquent précisément ce cœur-là : elles maîtrisent la forme du langage mieux que la majorité des humains. Quand la forme est parfaite, nous avons beaucoup de mal à accepter que le fond puisse ne pas être du même métal. Dire « ce n’est qu’un calcul, un algorithme » paraît presque insultant pour notre intelligence.

Ça persiste aussi parce que l’illusion est utile. Pour vendre, pour rassurer, pour impressionner. Dire qu’une IA « comprend », « aide », « raisonne » ou « apprend » est infiniment plus séduisant que d’expliquer des vecteurs, des probabilités et des fonctions de perte. Le marketing adore l’anthropomorphisme, et il sait très bien qu’un outil qui « discute » se vend mieux qu’un modèle statistique.

Il y a aussi un effet miroir beaucoup plus dérangeant : l’IA révèle à quel point une grande partie de nos propres raisonnements sont mécaniques. Voir une machine produire des textes convaincants sans comprendre force une question inconfortable : et si, parfois, nous faisions la même chose ? Admettre que l’IA ne pense pas, c’est aussi admettre que penser est plus rare et plus exigeant qu’on ne l’imagine.

Enfin, ça persiste parce que corriger cette illusion demande un effort intellectuel constant. Il faut résister à ce que l’on voit, à ce que l’on ressent, à ce que le langage nous suggère. Or l’illusion, elle, est immédiate, intuitive, confortable. Elle ne demande rien. Elle s’impose.

Bref, l’IA ne devient pas humaine. C’est notre regard qui glisse.

Conclusion

L’IA n’est pas consciente.

Elle ne comprend pas, ne raisonne pas, ne veut rien et ne ressent rien.

Mais elle parle bien. Très bien même. Et c’est précisément pour ça qu’elle est dangereuse si on oublie ce qu’elle est réellement : un outil statistique incroyablement performant, et totalement dépourvu d’esprit.

Le vrai risque n’est pas que l’IA devienne humaine. C’est que nous cessions d’exiger de nous-mêmes ce que nous projetons sur elle : comprendre, raisonner, et assumer nos intentions.