🎓 Modules formation
Repérer une hallucination : la compétence centrale
Elle n'a pas l'air d'une erreur : elle a l'air d'une réponse.
Pourquoi c'est important
Une hallucination n'a pas l'air d'une erreur. Elle a l'air d'une réponse — bien formulée, cohérente avec le reste, souvent plus précise que les passages exacts.
C'est ce qui la rend dangereuse : tu ne la repères pas à sa forme. Ce chapitre donne les signes qui, eux, sont repérables, et le seul réflexe qui protège vraiment.
Ce que tu vas apprendre
- →Pourquoi une hallucination est produite par le même mécanisme qu'une bonne réponse
- →Les quatre types de contenus les plus souvent inventés
- →Les signes détectables, et pourquoi la confiance n'en est pas un
- →Le protocole de vérification, par ordre de coût
- →Ce qui rend le domaine crypto particulièrement exposé
Le mécanisme
Le même processus produit le vrai et le faux
Un modèle de langage produit la suite la plus plausible. Quand l'information existe dans ce qu'il a appris, le plus plausible est aussi le vrai. Quand elle n'existe pas, le plus plausible reste plausible — et cesse d'être vrai.
Il n'y a pas deux modes de fonctionnement, l'un fiable et l'autre défaillant. C'est le même processus, et rien dans la sortie ne signale lequel des deux cas on est.
C'est pour cette raison qu'une hallucination est souvent MIEUX écrite qu'une réponse exacte : rien ne la contraint, elle est donc parfaitement régulière.
La confiance n'est pas un indice
Un modèle n'exprime pas de degré de certitude corrélé à sa fiabilité. Une réponse assurée n'est pas plus fiable qu'une réponse nuancée — et il arrive qu'elle le soit moins, parce que les sujets bien couverts appellent souvent des nuances que le modèle a apprises.
N'utilise donc jamais le ton comme critère. C'est le réflexe le plus naturel, et le plus trompeur.
Les cibles
Ce qui est le plus souvent inventé
| Contenu | Pourquoi c'est exposé |
|---|---|
| Chiffres précis | Un nombre plausible est facile à produire, impossible à distinguer |
| Dates et calendriers | Les déblocages, lancements et mises à jour changent constamment |
| Citations et sources | Un titre d'article ou un nom d'auteur crédible s'invente très bien |
| Noms de fonctions ou d'API | Le format est régulier, donc facile à imiter |
Le cas le plus insidieux : le chiffre presque juste
Une hallucination franche — un projet qui n'existe pas — se détecte vite. Le vrai danger est le chiffre proche du vrai.
Une capitalisation annoncée à 340 M$ quand la réalité est 290 M$ ne déclenche aucune alerte : l'ordre de grandeur est bon, la conclusion qu'on en tire semble tenir. Et pourtant tous les rapports calculés à partir de ce chiffre sont faux de 17 %.
C'est pourquoi la parade n'est pas de « repérer les erreurs » mais de FOURNIR les chiffres soi-même, comme au premier chapitre du module.
Le cas réel
Ce que ce site a produit
Une accusation fabriquée à partir d'un champ vide
Le moteur d'analyse de ce site a décrit un projet comme « à l'arrêt » sur la foi d'un compteur de commits à zéro — un champ que la source n'alimentait plus. Le projet n'avait simplement pas de dépôt public suivi par cette source.
Ce n'est pas exactement une hallucination du modèle : le zéro venait bien des données. Mais le modèle l'a interprété comme une constatation au lieu d'une absence, et a produit une phrase fausse, fluide et crédible.
La leçon vaut pour les deux cas : un modèle ne distingue pas spontanément une donnée manquante d'une donnée nulle. C'est à la demande — ou au code — de faire cette distinction.
Le protocole
Vérifier, par ordre de coût
| Niveau | Quand | Coût |
|---|---|---|
| Fournir les données soi-même | Toujours, quand c'est possible | Nul — supprime le problème |
| Demander la source de chaque chiffre | Quand le modèle a cherché lui-même | Faible |
| Vérifier à la source les chiffres décisifs | Avant toute décision d'argent | Quelques minutes |
La règle de proportion
Tu n'as pas à tout vérifier — ce serait plus long que de tout faire soi-même, et l'outil perdrait son intérêt.
Vérifie ce dont dépend ta décision. Si une conclusion repose sur trois chiffres, vérifie ces trois-là et laisse le reste. Si un raisonnement t'a convaincu, remonte au chiffre qui l'a rendu convaincant.
Et méfie-toi particulièrement du chiffre le plus précis de la réponse : une valeur donnée à la décimale près sur un sujet flou est plus souvent une invention qu'une preuve de rigueur.
Le domaine
Pourquoi la crypto est un cas défavorable
Trois raisons se cumulent.
Les données changent très vite : prix, capitalisations, calendriers de déblocage, listes de partenaires. La mémoire d'un modèle est datée par construction.
Beaucoup de projets ont des noms proches, voire identiques — plusieurs jetons partagent le même symbole. La confusion entre deux entités est donc facile, et invisible dans la réponse.
Enfin, une part importante du corpus disponible sur ces sujets est du contenu promotionnel. Un modèle entraîné dessus a appris un ton — celui du communiqué — qu'il reproduira sans y adhérer, mais qui te lira comme un avis.
À toi
Prends un modèle en défaut
✏️ Exercice
Choisis un projet crypto que tu connais bien. Demande à une IA, sans lui fournir de données : sa capitalisation, la date de son prochain déblocage, le nom de son fondateur et une source pour chacun. Vérifie les quatre réponses à la source. Note lesquelles étaient exactes, approximatives, ou inventées.
À retenir
L'essentiel en 5 points
À retenir
- ◆Le même mécanisme produit le vrai et le faux : rien dans la sortie ne signale dans quel cas on est.
- ◆Une hallucination est souvent MIEUX écrite qu'une réponse exacte, parce que rien ne la contraint.
- ◆Le ton assuré n'est pas un indice de fiabilité — c'est le critère le plus naturel et le plus trompeur.
- ◆Le danger n'est pas l'invention grossière mais le chiffre presque juste, qui fausse tous les rapports calculés.
- ◆La parade principale n'est pas de repérer les erreurs : c'est de fournir les chiffres soi-même.
Test
Vérifie que c'est acquis
Teste-toi
Q1. Pourquoi une hallucination est-elle souvent mieux écrite qu'une réponse exacte ?
Q2. Quel type d'erreur est le plus dangereux ?
Q3. Le moteur de ce site a décrit un projet comme « à l'arrêt » sur la foi d'un compteur à zéro. Quelle est la leçon générale ?
Q4. Que faut-il vérifier dans une réponse d'IA ?
🚀 Mets-le en pratique