Comment fonctionne un générateur de texte IA, et ce qu'il ne sait pas faire

Quand on tape une question dans un générateur de texte et qu'une réponse bien tournée apparaît en quelques secondes, l'impression première est celle d'une machine qui comprend. Elle répond à côté parfois, mais elle répond, avec des phrases correctes, un ton adapté, des transitions logiques. Cette impression est trompeuse, et pas seulement par principe : elle conduit à des erreurs très concrètes quand on utilise ces outils pour écrire.

Le fonctionnement réel est à la fois plus simple et plus étrange que ce qu'on imagine. Il n'y a ni raisonnement, ni base de connaissances consultée à la volée, ni compréhension au sens où nous l'entendons. Il y a une opération répétée des milliers de fois : deviner ce qui vient après.

Le principe : prédire le mot suivant, encore et encore

Un générateur de texte a été entraîné sur des volumes de texte considérables — des livres, des articles, des pages web, des discussions, du code. Pendant cet entraînement, l'exercice était toujours le même : on lui cachait la suite d'un passage et on lui demandait de la deviner. À chaque erreur, ses réglages internes étaient légèrement ajustés. Répétée un nombre astronomique de fois, cette correction produit un système extrêmement doué pour anticiper la suite d'un texte.

Quand vous écrivez une consigne, l'outil ne « lit » pas votre demande pour ensuite chercher une réponse. Il traite votre texte comme un début, et produit ce qui, statistiquement, a le plus de chances de suivre. Puis il recommence en incluant le mot qu'il vient de produire, et ainsi de suite. La réponse se construit mot après mot, sans plan préalable, sans que l'outil sache où il va au moment où il commence sa phrase.

Cela explique un comportement que beaucoup ont remarqué : demandez deux fois la même chose, vous obtiendrez deux textes différents. Il ne s'agit pas d'un bug. À chaque étape, plusieurs suites sont plausibles, et l'outil en choisit une avec une part de hasard volontaire. Sans ce hasard, il produirait des textes ternes et répétitifs.

Le point important, c'est que la vraisemblance n'est pas la vérité. Une phrase fausse peut être parfaitement plausible du point de vue de la langue. Rien dans le mécanisme ne distingue les deux.

Pourquoi il affirme des choses fausses sans hésiter

C'est le reproche le plus fréquent, et il découle directement de ce qui précède. L'outil produit une suite crédible ; il ne vérifie rien. S'il ignore une information, il ne le sait pas lui-même — il n'y a pas de compteur interne qui s'allume pour signaler un trou. Il continue simplement à produire ce qui « sonne juste », et ce qui sonne juste, dans un texte documenté, ce sont des noms, des dates, des références précises. D'où ces inventions déconcertantes : un article de loi qui n'existe pas, une étude attribuée à un chercheur réel, une citation jamais prononcée.

Le ton n'aide pas. Ces outils ont été façonnés pour répondre de façon assurée et serviable. Ils formulent donc une invention avec exactement la même tranquillité qu'un fait établi. L'assurance de la formulation ne contient aucune information sur la fiabilité du contenu, et c'est peut-être le réflexe le plus utile à acquérir : la confiance affichée n'est pas un indice.

Certains outils sont capables d'aller chercher des pages sur le web pendant qu'ils répondent, et cela change la donne — les affirmations s'appuient alors sur des documents consultables. Mais la synthèse produite reste, elle, une génération de texte : elle peut mal résumer, déformer une nuance, ou attribuer à une source ce qu'elle ne dit pas. La présence d'un lien n'est pas une garantie que le lien dit bien ce qu'on lui fait dire.

Pourquoi il n'a pas de sources à vous donner

Une demande revient sans cesse : « donne-moi tes sources ». Sans outil de recherche activé, la demande n'a pas de réponse possible. L'entraînement n'a pas stocké de documents rangés dans des tiroirs qu'on pourrait rouvrir. Il a produit des réglages numériques, des milliards de valeurs qui encodent des régularités de langue et de contenu, sans conserver la trace de quel texte a contribué à quoi.

Demander une source à un modèle qui n'en a pas revient donc à lui demander de produire… ce qui ressemble à une source. Et il s'exécute, avec des références d'apparence impeccable : un auteur, un titre, une revue, une année. L'ensemble est cohérent et parfois entièrement fabriqué. Ce n'est pas de la malhonnêteté, c'est la seule chose que le mécanisme sache faire face à cette demande.

La conséquence pratique est simple. Toute affirmation vérifiable — un chiffre, une règle, une date, une attribution — se vérifie ailleurs, avant publication. Le générateur peut vous aider à formuler, à structurer, à reformuler. Il ne peut pas se porter garant de ce qu'il avance.

Pourquoi il perd le fil sur les textes longs

Ces outils travaillent sur une quantité de texte limitée à la fois : votre consigne, l'historique de l'échange, les documents fournis, et ce qui a déjà été généré. Cette capacité est vaste sur les outils récents, mais elle a un bord. Au-delà, le début de la conversation sort du champ de vision.

Même en deçà de cette limite, l'attention se dilue. Sur un texte long, les consignes données au départ pèsent de moins en moins lourd face à la masse de ce qui a été écrit depuis. C'est ce qui produit ces dérives familières : un article de plusieurs milliers de mots où le ton se déplace insensiblement, où une contrainte donnée au début finit par être abandonnée, où le même argument revient sous une autre forme trois sections plus loin.

Il n'y a pas non plus de vue d'ensemble. L'outil ne relit pas ce qu'il a produit pour vérifier la cohérence globale — il avance, et chaque nouveau passage s'appuie surtout sur ce qui le précède immédiatement. Travailler par blocs, en redonnant les contraintes à chaque étape et en assemblant soi-même, donne des résultats nettement plus tenus qu'une demande unique pour un texte entier.

Pourquoi tout finit par se ressembler

Si l'outil produit à chaque étape la suite la plus probable, il gravite naturellement vers le milieu : les tournures les plus courantes, les structures les plus attendues, les formulations les plus consensuelles. C'est ce qui rend ces textes lisibles et immédiatement présentables. C'est aussi ce qui les rend interchangeables.

D'où la sensation d'un style lissé : des paragraphes de longueur régulière, des transitions polies, un vocabulaire soigneusement neutre, une manie des symétries et des formules d'ouverture. Ce n'est pas un style, c'est une moyenne. Une voix singulière, elle, se reconnaît précisément à ce qu'elle fait d'inattendu — une digression, une phrase trop courte, un mot un peu de travers, une opinion assumée. Autant de choses qu'un mécanisme de probabilité a tendance à raboter.

On peut infléchir cela : donner des exemples de son propre style, imposer des contraintes de forme, interdire explicitement certaines tournures. Mais la pente naturelle reste là, et elle revient dès qu'on relâche la consigne.

Quatre choses qu'il ne sait pas faire

En creux, le fonctionnement dessine des limites nettes. Il vaut mieux les connaître que les découvrir au moment de publier.

• Vérifier un fait. Il n'a aucun moyen interne de distinguer ce qu'il sait de ce qu'il improvise. Sans outil de recherche, la vérification vous incombe entièrement — et même avec, elle reste à recouper.
• Avoir un avis. Ce qu'il présente comme une opinion est une synthèse de ce qui s'écrit habituellement sur le sujet. Aucune expérience derrière, aucun enjeu, aucune préférence réelle. Pour un texte qui doit prendre position, l'avis doit venir de vous.
• Connaître votre contexte. Il ignore votre secteur, vos clients, l'historique de votre projet, ce que vous avez déjà publié, ce qui a marché ou échoué. Il ne sait que ce que vous lui écrivez, et il l'oublie d'une conversation à l'autre sauf mécanisme de mémoire explicite.
• Garantir l'originalité. Un texte généré est en général nouveau dans sa formulation exacte, mais rien n'assure qu'une phrase entière ne reproduise pas un passage vu à l'entraînement, surtout sur des formulations très standardisées. La vérification, là encore, reste manuelle.

Ce que ça change dans votre façon de l'utiliser

Un outil qui prédit du texte est excellent pour tout ce qui relève de la forme : reformuler un paragraphe lourd, proposer dix titres, transformer des notes en prose, adapter un ton, résumer un document que vous lui fournissez, repérer une répétition. Sur ces tâches, la matière vient de vous et il travaille dessus — le risque d'invention devient marginal.

Il est bien plus fragile dès qu'on lui demande d'apporter le fond : des données, une expertise, un jugement, une position. Là, ce qu'il produit est une reconstitution vraisemblable de ce qu'un expert aurait pu écrire, ce qui n'est pas la même chose qu'une expertise.

La ligne de partage est finalement assez lisible. Vous apportez ce que vous savez, ce que vous avez vérifié, ce que vous pensez ; l'outil accélère la mise en forme. Inverser ce rapport — lui demander le contenu et se contenter d'une relecture rapide — c'est exactement le moment où les inventions passent entre les mailles, et où les textes commencent à tous se ressembler.