Sectoriel

Santé : le risque d'hallucination clinique dans les assistants IA

30 juillet 2026 6 min de lecture
Kamel Malek Directeur de SetRecord.ai

Entre deux consultations, un médecin dispose de quatre-vingt-dix secondes et d'une question qu'un outil d'aide à la décision n'a pas été conçu pour traiter aussi vite : une association médicamenteuse inhabituelle, un ajustement de dose pour un patient à fonction rénale réduite. De plus en plus, il interroge un assistant IA généraliste plutôt que d'appeler un pharmacien. La plupart du temps, la réponse est correcte. Ce sont les exceptions qui posent problème.

La question posée entre deux patients

Les systèmes d'aide à la décision clinique existent précisément parce que la connaissance médicale évolue plus vite qu'un seul clinicien ne peut la suivre, et parce qu'une erreur y a un coût humain direct. Ils sont conçus, validés et mis à jour sous un contrôle réglementaire que la plupart des assistants IA grand public n'ont jamais connu.

Pourtant, l'outil le plus rapide dans la pièce est désormais souvent un assistant généraliste ouvert dans un onglet de navigateur — non pas parce que les cliniciens lui font davantage confiance, mais parce qu'il est instantanément disponible et répond en langage clair. Le mode de travail qu'il remplace, informellement, c'est la conversation de couloir avec un collègue ou l'appel à la pharmacie. Celui qu'il ne remplace pas, et pour lequel il n'a jamais été validé, c'est le formulaire lui-même.

Comment une recommandation se retrouve mal citée

Les hallucinations cliniques partagent une cause structurelle avec les hallucinations financières : un modèle reconstruit une réponse à l'apparence plausible à partir de fragments, plutôt que de retrouver une source unique, faisant autorité et datée. Dans un contexte clinique, les schémas récurrents que nous observons sont :

  • Recommandation dépassée — une posologie ou une contre-indication exacte sous une version antérieure d'une recommandation, présentée comme actuelle.
  • Confusion de population — un résultat issu d'un essai portant sur une population donnée (tranche d'âge, profil de comorbidités) généralisé comme s'il s'appliquait universellement.
  • Interactions inventées — un avertissement d'interaction médicamenteuse qui sonne prudent et plausible mais n'apparaît dans le résumé des caractéristiques d'aucun des deux médicaments.
  • Assurance sans nuance — une réponse énoncée sur le même registre affirmatif, que la preuve sous-jacente soit un vaste essai randomisé ou un simple cas clinique isolé.

Rien de tout cela ne relève d'une tentative de tromperie du modèle. C'est le résultat prévisible d'un système entraîné à sonner comme faisant autorité, appliqué à un domaine où la différence entre deux réponses d'apparence similaire peut être celle qui sépare une dose sûre d'une dose dangereuse.

Pourquoi les affirmations cliniques exigent un niveau de preuve supérieur

Toutes les sources ne se valent pas, et la médecine a passé des décennies à construire des hiérarchies formelles pour l'affirmer : un essai randomisé revu par les pairs prime sur une étude observationnelle, qui prime sur un cas clinique isolé, qui prime sur un message de forum non relu. Un modèle qui traite un forum de discussion sur les médicaments et un résumé des caractéristiques du produit approuvé par un régulateur comme un texte interchangeable pour son recoupement statistique a, de fait, aboli cette hiérarchie.

C'est exactement l'écart que notre propre méthodologie a été conçue pour rendre visible, y compris hors du secteur de la santé : non pas si une affirmation sonne avec assurance, mais si elle remonte à une source dont le poids probant correspond à ce qu'elle avance.

Vous ne savez pas ce que dit l'IA de vous aujourd'hui ?

Un audit SetRecord interroge les modèles d'IA pris en charge sur votre organisation et mesure l'écart avec les faits vérifiables — en cinq jours ouvrés.

Demander un audit

L'enjeu de sécurité patient

Une erreur factuelle sur le chiffre d'affaires d'une entreprise est un problème réputationnel. Une erreur factuelle sur une interaction médicamenteuse, relayée avec assurance à un clinicien qui faisait confiance à l'outil pour gagner du temps et non pour remplacer son jugement, relève d'une tout autre catégorie de risque. Elle n'a pas besoin de se produire souvent pour compter — une seule réponse incorrecte, suivie une seule fois, constitue déjà un événement de sécurité patient.

Les établissements de santé qui n'ont pas encore cartographié où leurs cliniciens se tournent déjà vers des assistants IA généralistes n'évitent pas l'exposition ; ils sont simplement incapables de la mesurer. Les outils sont utilisés, qu'ils soient sanctionnés ou non, ce qui fait du silence la posture la plus risquée de toutes.

À quoi ressemble une réponse clinique crédible

Une réponse IA digne de confiance en contexte clinique devrait être traçable jusqu'à une source nommée, datée et versionnée — un résumé des caractéristiques du produit en vigueur, une recommandation publiée précise avec sa date de révision, une revue systématique plutôt qu'une étude isolée. Elle devrait distinguer une indication approuvée d'un usage hors autorisation de mise sur le marché. Et surtout, elle devrait pouvoir dire « les preuves sont partagées sur ce point » ou « je n'ai pas de réponse à jour » plutôt que de basculer par défaut vers une certitude fluide.

Un protocole de vérification pour les établissements de santé

Les établissements n'ont pas besoin d'interdire les assistants IA généralistes pour gérer ce risque — ce train a largement quitté la gare. Ils ont besoin d'un moyen de voir ce que les assistants déjà utilisés par leur personnel disent réellement. Un protocole applicable :

Cartographier les questions réelles

Identifiez les interactions médicamenteuses, les cas limites de posologie et les questions de recommandations que les cliniciens sont le plus susceptibles de poser informellement à un assistant IA, selon la composition de vos spécialités.

Interroger et comparer

Posez ces questions aux principaux assistants et comparez chaque réponse à votre formulaire actuel et aux recommandations adoptées par votre établissement — pas à ce qui semble raisonnable.

Suivre les mises à jour des recommandations

Retestez après chaque révision de recommandation. Un modèle exact lors d'un cycle d'entraînement peut devenir silencieusement faux dès que la pratique clinique évolue sans que ses sources sous-jacentes ne suivent.

Aller plus loin avec SetRecord

SetRecord applique la même discipline d'audit aux organisations de santé : cartographie des questions cliniques que votre personnel pose réellement aux assistants IA, notation de chaque réponse au regard de votre formulaire et de vos recommandations approuvées, et traçage des erreurs jusqu'à leur source probable. Cette démarche s'ajoute à votre gouvernance clinique, sans s'y substituer — consultez notre méthodologie pour savoir comment nous traçons cette limite.

Voir ce que l'IA dit de vous

Un audit SetRecord confronte les réponses des modèles d'IA pris en charge à vos faits vérifiables — en cinq jours ouvrés.