Vérification

Comment savons-nous qu'il n'invente rien

C'est la première question de quiconque va engager son nom là-dedans. La réponse n'est pas « faites-nous confiance » : c'est une trace qui se lit.

Le vrai problème d'un rapport clinique écrit par une IA

Un modèle de langage peut écrire une interaction médicamenteuse qui n'existe pas avec la même assurance qu'une qui existe. Il peut citer une étude inventée. Il peut affirmer une valeur de fonction rénale qu'il n'a jamais calculée. Et tout cela se lit exactement aussi bien que la version correcte. C'est pourquoi la vérification d'Iatra n'est pas confiée à un autre modèle : elle est écrite en code, où une règle est respectée ou ne l'est pas.

23 contrôles par rapport, écrits en code

Pas un modèle qui en note un autre. Des règles déterministes exécutées sur le texte final de chaque rapport. Sept d'entre elles le retiennent. En voici quelques-unes :

Retient le rapportLe rapport ne peut pas citer ce que nous ne lui avons pas donnéChaque référence publiée est comparée au registre de sources remis au modèle. Si l'une apparaît sans y figurer, le rapport est bloqué. C'est le filet contre la citation entièrement inventée.
Retient le rapportLe numéro d'urgence est celui du pays du patientUn rapport qui demande d'appeler le 112 à quelqu'un au Pérou est bloqué. Là-bas c'est le 106.
Retient le rapportAucun vaccin vivant chez une personne immunodépriméeSi le rapport recommande un vaccin à virus vivant et que la médication du patient l'immunodéprime, il est bloqué.
Retient le rapportLe rapport ne se coupe pas en cours de routeNous vérifions qu'il se termine là où il doit, et que le générateur n'est pas entré en boucle. Les deux sont bloqués séparément : l'un est le symptôme, l'autre la cause.
Retient le rapportLe ton ne peut pas contredire l'alerteUn rapport qui ouvre en rassurant et porte plus bas une alerte urgente est bloqué. C'est l'incohérence qui fait sauter la partie qui compte.
SignaleIl ne nie pas une donnée qui a été mesuréeSi le rapport dit que le potassium ou la créatinine manquent alors que les analyses les contiennent, c'est signalé.
SignaleIl ne propose pas un médicament déjà prisLe tableau des alternatives est croisé avec la médication actuelle.
SignaleAucune étude datée dans le futurUne analyse déjà faite ne peut pas être datée dans trois mois. Quand c'est le cas, la date a été inventée.
SignaleLe régulateur européen n'est pas présenté comme le localCiter l'agence espagnole à un patient colombien sans dire que c'est une référence européenne la présente comme son régulateur, et elle ne l'est pas.
SignaleLe registre de langue ne change pas en cours de documentLe rapport s'adresse au patient de la même façon du début à la fin. Tout glissement est signalé au relecteur.

Ce qui échoue est consigné à côté du rapport, avec son nom et son motif. Ici sont montrées 10 des 23 ; 5 d'entre elles retiennent le rapport.

Quand un médecin intervient, et ce qu'on lui demande

Tous les rapports ne portent pas de signature médicale, et le dire fait partie de la réponse. Lorsqu'un de ces contrôles déclenche une alerte clinique, le rapport est retenu et ne part pas tant qu'un médecin ne l'a pas relu et signé avec son nom et son numéro d'ordre. Lorsqu'aucune ne se déclenche, le rapport est remis avec la mention de document informatif, sans relecture médicale individuelle, et cela figure sur le document lui-même.

Et la signature doit être vraiment la sienneLe système conserve le brouillon produit par la machine et le compare à ce que le médecin a écrit. S'il accepte le brouillon sans y toucher, c'est enregistré : rédiger n'est pas entériner. Nous ne demandons pas à un professionnel d'apposer son numéro d'ordre sous un texte qu'il n'a pas écrit.

Ce que nous ne vérifions PAS

Cette section existe parce que c'est la partie difficile. N'importe qui peut écrire « vérifié par IA » ; dire où s'arrête sa vérification suppose de l'avoir mesurée. Si l'un des points ci-dessous compte pour votre décision, mieux vaut le savoir maintenant.

Nous ne vérifions pas les références auprès d'une base bibliographique externeNous vérifions que le rapport cite ce que nous lui avons donné et rien d'autre. Cela empêche le modèle d'inventer une étude entière. Mais nous ne résolvons pas chaque identifiant auprès de PubMed ou CrossRef en temps réel : si une référence de notre registre était erronée, le rapport la publierait quand même.
Nous n'avons pas de valeurs de référence propres par âge et sexeNous lisons l'intervalle imprimé par chaque laboratoire. Il y a des ajustements par âge dans les objectifs gériatriques et par sexe dans le calcul de la fonction rénale, mais ce n'est pas une capacité générale.
Aucune intégration avec les régulateurs colombien et argentinLes fiches médicament sont construites à partir des agences espagnole, française, européenne, américaine et canadienne. INVIMA et ANMAT ne sont pas connectés.
Le second avis automatique vient d'un modèle, pas d'une personneAu-delà des règles, chaque rapport reçoit une note automatique sur quatre dimensions. C'est un modèle de langage qui l'attribue, en jugeant le travail d'un autre modèle : nous ne la comptons donc pas comme une vérification indépendante. C'est précisément pour cela que la couche de règles déterministes existe.
Iatra ne diagnostique pasCe n'est pas une limite que nous regrettons : c'est la ligne. Nous orientons, organisons et signalons. La décision clinique appartient toujours à un médecin.

Comment nous mesurons si le système se dégrade

Il existe une banque de 40 cas de patients synthétiques, chacun avec l'attente clinique annotée à l'avance par profil : gériatrique, multimorbidité, post-événement cardiovasculaire, insuffisance cardiaque, maladie rénale chronique, santé mentale, douleur chronique et oncologie. Une évaluation y tourne avec une grille et un seuil de régression : si une nouvelle version passe sous un plancher de sécurité, elle ne sort pas.

Avec deux précisions à énoncer clairement : ceux qui notent sont des agents d'IA jouant un rôle de spécialiste, pas de vrais médecins, et la banque se lance à la main, pas à chaque changement du système.

Où les données sont traitées

L'inférence clinique s'exécute dans l'Union européenne. Ce n'est pas une déclaration d'intention : un test automatique lit la configuration du déploiement réel, pas la valeur par défaut du code, et échoue si une région n'est pas européenne. Lire le code seul donnait une réponse qui pouvait être fausse.

Ce qui est conservé de chaque rapport

Le texte intégral de chaque appel au modèle : les trois générateurs, les deux critiques et la synthèse finale.
Le résultat des contrôles déterministes, avec le nom de celui qui a échoué.
Le registre de sources remis au modèle, et lesquelles il a fini par citer.
La note automatique et son verdict.
Le brouillon de la machine et l'appréciation écrite par le médecin, séparément.

Si quelqu'un demande pourquoi un rapport précis a dit ce qu'il a dit, la réponse n'est pas une reconstruction : elle est conservée.

Vous allez engager votre nom là-dedans ?

Si vous évaluez Iatra pour une résidence, un assureur ou un laboratoire, cette page en est le résumé. Le détail, code à l'appui, quand vous voulez.

Nous écrire

Iatra est un outil d'orientation clinique. Il ne diagnostique pas et ne remplace pas le jugement d'un médecin. Tout ce qui est affirmé sur cette page a été vérifié contre le code le 3 septembre 2026.