Hallucinations & pièges à éviter

Chercher et vérifier · 5 min

Dans cette leçon, tu comprends pourquoi l’IA invente parfois des informations, et tu apprends les réflexes qui te protègent.

Qu’est-ce qu’une hallucination ?

Une hallucination, c’est quand l’IA invente une information (un chiffre, une citation, une source) avec assurance : ça a l’air vrai, mais c’est faux.

Pourquoi ça arrive

L’IA écrit la suite la plus probable d’un texte. Quand elle ne sait pas, elle ne le dit pas toujours : elle produit quelque chose qui ressemble à une bonne réponse. Un titre de livre crédible, un nom d’expert plausible, un chiffre bien rond… C’est pour ça que l’erreur est si convaincante.

Les pièges fréquents

• Sources inventées ou liens qui ne mènent nulle part.

• Chiffres approximatifs présentés comme exacts.

• Infos dépassées sur un sujet récent.

• Citations attribuées à la mauvaise personne.

Avant / après

Avant : « Conseille-moi 5 livres sur l’histoire de ma région, avec leurs auteurs. » Tu obtiens 5 titres très crédibles… dont certains n’existent peut-être pas.

Après : « Conseille-moi 5 livres sur [ton sujet]. Ne cite que des livres dont tu es sûr qu’ils existent, et dis-moi lesquels je dois vérifier. » Puis tu tapes chaque titre sur le site d’une librairie ou de ta médiathèque. Un livre introuvable partout ? Il a sans doute été inventé.

Comment s’en protéger

• Vérifie systématiquement chiffres, dates et citations.

• Méfie-toi d’une réponse sans source.

• Pour un sujet sensible (santé, droit, argent), va sur le site officiel (service-public.fr, ameli.fr, impots.gouv.fr…) ou demande à un professionnel.

• Autorise l’IA à douter : dis-lui qu’elle a le droit de répondre « je ne sais pas ».

Plus une réponse est précise et sûre d’elle, plus elle mérite d’être vérifiée.

Essaie maintenant

Commence ta conversation avec cette consigne : elle pousse l’IA à séparer ce qu’elle sait de ce qu’elle suppose.

Pour toute cette conversation : si tu ne sais pas, ou si tu n’es pas sûr, dis-le clairement au lieu de deviner. Sépare toujours ce qui est certain, ce qui est probable et ce que je dois vérifier. Ma question : [ta question].

Ça ne supprime pas les erreurs, mais ça t’indique où regarder en priorité.

À retenir

• L’IA peut inventer avec assurance, parce qu’elle écrit ce qui est probable.

• Vérifie chiffres, dates, citations, sources.

• Sujet sensible : source officielle ou professionnel.