Décryptage · Le 8 heures IA

Pourquoi un agent IA cite la mauvaise source pour une info vraie

Publié le 30 septembre 2026 · Oriq · Lecture 4 min

Article produit par une intelligence artificielle à partir de sources nommées et datées, publié sous la responsabilité éditoriale d’Oriq. Nos systèmes d’IA · Le responsable éditorial

Un agent IA peut vous donner une réponse exacte tout en citant le mauvais document pour la justifier. Ce défaut, distinct de l’hallucination classique, vient d’être documenté et mesuré par une équipe de recherche. Voici comment il se produit et comment le repérer avant de brancher un agent sur vos outils internes.

Un agent IA cite la mauvaise source, même quand il a raison

Un agent IA qui pioche dans plusieurs documents à la fois peut donner une information exacte tout en l’attribuant au mauvais document. Une équipe de recherche de Multiverse Computing a baptisé ce défaut « conflation inter-sources » : dans un billet publié le 29 septembre 2026, elle le définit comme une affirmation vraie quelque part dans les preuves consultées, mais attribuée à la mauvaise source.

Ce n’est pas la même chose qu’une hallucination classique, où l’IA invente un fait qui n’existe nulle part. Ici, le fait est réel. C’est le lien entre le fait et la source citée qui est faux. Un contrôle habituel de véracité, qui vérifie seulement si l’information existe dans les documents, ne détecte donc rien d’anormal.

Un exemple qui parle à toute entreprise avec un support client

Le billet de Multiverse Computing donne un cas concret, transposable à beaucoup de PME françaises. Un agent de support client répond : « Selon le dossier client, ce forfait inclut une période de rétractation de 30 jours. » Le délai de 30 jours peut être bien réel, mais il figure en fait dans un document de politique générale de l’entreprise, pas dans le dossier du client concerné.

Le client reçoit une réponse correcte. Mais si un désaccord survient ensuite, l’entreprise cite un document qui ne dit pas ce que l’agent a affirmé provenir de lui. Le problème devient juridique, pas seulement technique.

Une réponse peut être exacte et sa source, fausse : c’est le piège que ne voit aucun contrôle de véracité classique.

Un retour d’expérience indépendant sur un agent RAG en environnement documentaire décrit exactement le même symptôme côté finance : le chiffre existe bien quelque part, mais provient d’un périmètre financier différent de celui que la citation désigne. La réponse est correcte, la citation ne la soutient pas vraiment.

Un vérificateur dédié, testé sur 361 affirmations

Pour traiter ce défaut, l’équipe a construit un outil appelé ProvenanceGuard, conçu spécifiquement pour vérifier que la source citée est bien celle qui contient réellement l’information, pas seulement une source parmi celles consultées.

Le taux de bonne identification de la source, dans ce même test, tourne autour de 86 %. Ce chiffre vient d’un test mené par les auteurs de l’outil eux-mêmes, sur un cas d’usage médical précis : il montre une faisabilité, pas une garantie transposable telle quelle à tout secteur. Mais le mécanisme lui-même, la confusion entre « information vraie » et « bonne source », est confirmé de façon indépendante par une deuxième équipe de recherche, sur les systèmes RAG longs, et par un retour de terrain distinct.

Cette distinction change la façon de lire une réponse d’agent IA au quotidien. La présence d’une citation rassure, mais elle ne prouve rien à elle seule. Une étude académique sur les systèmes RAG longs note d’ailleurs que la présence de citations augmente significativement la confiance du lecteur dans l’information présentée, ce qui rend l’erreur d’autant plus discrète.

Et dans votre entreprise ?

Si vous préparez ou avez déjà déployé un agent IA connecté à plusieurs outils (CRM, base documentaire, ERP), trois vérifications simples s’imposent.

• Demandez au prestataire si l’outil trace, pour chaque affirmation de la réponse, quelle source précise l’a produite, et pas seulement « une source parmi celles consultées ».
• Sur un échantillon de 20 à 30 réponses concernant des sujets sensibles (facturation, juridique, données clients), vérifiez manuellement si la source citée contient bien l’information énoncée.
• Intégrez l’exemple du délai de rétractation dans votre prochaine session de formation IA interne, pour que les équipes distinguent « la réponse cite une source » de « la réponse cite la bonne source ».

Cette semaine, en moins d’une heure : listez les outils que votre agent IA interroge et vérifiez si leurs sorties sont identifiées séparément dans les journaux de l’outil.