ChatGPT ne conserve pas de dossier sur votre organisation qu'il consulterait comme une base de données renvoie une fiche. Chaque réponse est fabriquée au moment où vous la demandez, assemblée par deux étapes distinctes qui se comportent différemment et échouent différemment. Comprendre ce pipeline est le seul moyen fiable d'expliquer pourquoi un modèle répète parfois une erreur qu'aucun humain ayant réellement enquêté sur votre organisation ne croirait.
Un pipeline en deux temps, pas une fiche consultée
Le modèle mental que la plupart des gens transposent depuis les moteurs de recherche — une requête entre, une réponse stockée ressort — ne décrit pas ce qui se passe à l'intérieur d'un assistant génératif. Il n'existe pas de fiche unique portant le nom de votre organisation que le système consulterait et répéterait. À la place, deux étapes distinctes s'enchaînent : la récupération, qui rassemble des informations candidates, et la génération, qui transforme cette matière en prose fluide. Chaque étape a ses propres modes de défaillance, et une erreur factuelle peut naître de l'une ou de l'autre.
Cette distinction compte plus qu'il n'y paraît, car la correction diffère selon l'étape à l'origine de l'erreur. Traiter une erreur d'entraînement comme une erreur de récupération — ou l'inverse — gaspille l'effort de correction d'une organisation sur le mauvais levier, ce pourquoi l'étape de diagnostic décrite plus loin précède toute tentative de corriger réellement ce qu'un modèle affirme.
Prenons ce qui se passe quand quelqu'un pose à un assistant une question simple sur la direction de votre organisation. Si la récupération fait remonter un communiqué vieux de deux ans nommant un ancien directeur général, à côté d'un extrait récent nommant l'actuel, la génération hérite de cette contradiction — sans aucun mécanisme intégré pour vérifier quelle source est la plus récente, à moins que la récence n'ait justement fait partie des signaux pondérés pendant la récupération elle-même.
Étape 1 : la récupération
Pour les assistants dotés d'une navigation ou d'une génération augmentée par récupération, le système décompose d'abord la question, interroge un index de contenu web ou une base de connaissances organisée, puis classe les passages candidats selon leur pertinence, leur récence et des signaux de domaine. Un nombre limité de ces passages — rarement plus d'une poignée — est ensuite transmis au modèle de langage comme contexte, avec la question d'origine.
Pour les requêtes purement paramétriques, sans recherche en direct, la « récupération » est implicite : c'est ce qui a été compressé dans les paramètres du modèle pendant l'entraînement. Cette version est bien plus difficile à auditer, car il n'existe aucun passage discret qu'on puisse désigner en disant « c'est de là que le modèle tient cela ». C'est un résidu statistique des données d'entraînement, pas une citation.
Les sources favorisées par la récupération ne sont pas neutres. Ces pipelines ont tendance à pondérer plus lourdement le type de contenu de référence équilibré que les moteurs de recherche ont déjà appris à privilégier — médias établis, registres officiels, notices encyclopédiques — plutôt que les pages marketing d'une entreprise elle-même, ce qui peut expliquer pourquoi un site de marque bien produit pèse parfois moins dans une réponse IA qu'un simple billet tiers obsolète mais formulé de façon neutre.
Les deux mécanismes peuvent opérer au sein d'une même conversation, parfois au sein d'une même réponse, selon l'assistant et la requête précise. C'est en partie pourquoi la même question, posée deux fois, peut faire remonter un fait tiré d'une source en direct une fois, et de la mémoire paramétrique la fois suivante — sans aucun signal visible pour l'utilisateur sur ce qui vient de se produire.
Étape 2 : la génération
La génération est le moment où le modèle de langage prédit le mot suivant le plus statistiquement probable, jeton après jeton, compte tenu de l'invite, du contexte fourni par la récupération, et des régularités apprises pendant l'entraînement. Il ne vérifie pas, à ce stade, les passages récupérés les uns par rapport aux autres ni par rapport à une source externe de vérité — son objectif est une continuation fluide et contextuellement appropriée, pas une exactitude vérifiée.
Quand le contexte fourni se contredit en interne — deux sources ne s'accordent pas sur une date, un titre, un chiffre — le modèle doit résoudre cela en silence, sans qu'aucun signal ne soit levé pour l'utilisateur. C'est une source fréquente d'erreurs mélangées : deux biographies d'homonymes fusionnées en une seule, ou l'histoire d'une filiale cédée repliée dans celle de la maison mère, simplement parce que les deux étaient présentes dans la matière que le modèle devait traiter et que rien ne l'a forcé à trancher.
Il existe aussi une part d'aléatoire intégrée à la plupart des étapes de génération, souvent contrôlée par un paramètre appelé température : même avec un contexte récupéré identique, le modèle peut formuler deux réponses différemment, mettre en avant des faits différents, ou en omettre un entièrement. C'est pourquoi une requête unique, posée une seule fois, constitue un test faible de ce qu'un modèle « croit » sur une organisation — poser la même question à plusieurs reprises peut révéler un éventail de réponses à comparer, plutôt qu'un verdict définitif.
Vous ne savez pas ce que dit l'IA de vous aujourd'hui ?
Un audit SetRecord interroge les modèles d'IA pris en charge sur votre organisation et mesure l'écart avec les faits vérifiables — en cinq jours ouvrés.
Pourquoi le plausible l'emporte sur l'exact
Les modèles de langage sont optimisés pour produire un texte fluide, assuré et contextuellement approprié — pas pour exprimer une incertitude calibrée proportionnelle à ce qu'ils savent réellement de fiable. Un modèle répond rarement « je ne dispose pas d'informations fiables à ce sujet ». Il produit à la place la continuation la plus probable disponible, ce qui, pour une marque peu documentée, peut signifier assembler des fragments d'entités homonymes, des instantanés obsolètes, ou des régularités sectorielles voisines qu'il a vues de nombreuses fois auparavant.
Le résultat se lit exactement aussi précisément qu'une réponse bâtie sur des sources solides, car la fluidité du modèle ne varie pas selon la solidité réelle de l'affirmation sous-jacente. C'est un mode de défaillance distinct du mensonge : rien dans le système ne décide de tromper, mais rien ne l'empêche non plus de paraître certain de quelque chose qu'il a en réalité deviné.
Certains assistants ont été ajustés pour nuancer davantage quand la confiance est réellement faible — des formules comme « je n'ai pas pu vérifier ceci » ou « les sources divergent sur ce point » — mais ce comportement reste incohérent d'un modèle à l'autre et d'un type de requête à l'autre, et ne devrait jamais servir de garde-fou principal pour l'exactitude d'une marque. L'absence de nuance n'est pas la preuve d'une certitude ; le plus souvent, c'est simplement le comportement par défaut.
Mémoire d'entraînement contre récupération en direct
La différence pratique entre les deux origines d'une erreur, c'est la persistance. Une erreur absorbée pendant l'entraînement survit jusqu'à une future mise à jour du modèle — publier une correction aujourd'hui ne change rien à ce qui est déjà compressé dans les paramètres du modèle. Une erreur introduite pendant une récupération en direct est comparativement plus facile à atteindre : publiez une source meilleure, plus cohérente, plus faisant autorité, et la requête suivante pourra s'appuyer sur la version corrigée en quelques jours, car la récupération s'exécute à nouveau à chaque fois.
Distinguer les deux revient généralement à un test simple : poser la même question avec et sans navigation ou récupération activée, quand cette option existe, ou interroger le modèle sur un événement récent postérieur à sa date de coupure d'entraînement. Si le modèle n'a aucune information sur un développement récent, sa connaissance sur ce sujet est probablement paramétrique. S'il répond avec assurance mais à tort dans les deux cas, l'erreur peut se trouver dans l'une ou l'autre étape — ce qui explique pourquoi ce test importe avant de décider comment réagir.
Une illustration concrète aide à comprendre : interrogez un assistant sur un produit que votre organisation a arrêté il y a dix-huit mois. S'il continue de le recommander sans réserve, et que la navigation était désactivée, il s'agit très probablement d'un écho paramétrique d'une couverture publiée avant l'arrêt. Si la navigation était activée et qu'il se trompe quand même, c'est l'étape de récupération elle-même qui a fait remonter une matière datée — ce qui se trouve être le plus facile des deux problèmes à corriger.
Ce que cela change pour corriger une erreur
Le diagnostic vient d'abord. Avant de rédiger une correction, établissez — dans la mesure du possible depuis l'extérieur du modèle — si l'erreur relève plutôt d'un problème de récupération ou d'un problème d'entraînement, à l'aide des tests de navigation et de sensibilité temporelle décrits plus haut. Cette seule étape fait généralement la différence entre une correction qui fonctionne en quelques semaines et une autre qui échoue silencieusement pendant des mois sans que personne ne comprenne pourquoi.
Pour les erreurs de récupération, publier ou mettre à jour un contenu faisant autorité et clairement structuré, puis vérifier — sur des requêtes répétées, dans la durée — que la correction s'est bien propagée, suffit généralement. Pour les erreurs d'entraînement, la vérification de persistance compte encore davantage, car la correction pourrait réellement devoir attendre la prochaine mise à jour du modèle ; des corrections documentées et vérifiables restent le seul levier qui finit par fonctionner dans les deux cas, car c'est ce que trouveront le prochain entraînement, comme la prochaine récupération. C'est aussi l'étape de diagnostic que nous exécutons en premier dans chaque audit, avant de proposer la moindre correction.