Connaître les limites de l'IA pour ne pas se faire piéger

1. À la fin de cette leçon, tu sauras

Reconnaître les cinq pièges classiques : hallucinations, actualité récente, calculs, excès d’assurance, flatterie.
Adapter ta confiance selon le type de demande.
Poser des questions qui révèlent les faiblesses d’une réponse.
Tester toi-même l’IA sur un sujet que tu maîtrises.

2. Pourquoi ça t’intéresse

Sophie, infirmière, demande à une IA un résumé d’une recommandation officielle sur la vaccination. La réponse est claire, bien structurée, avec une référence en bas de page. Par réflexe, elle cherche la référence : elle n’existe pas. Le contenu n’était pas entièrement faux, mais une partie avait été comblée « au jugé ». Sophie aurait pu transmettre l’information à un collègue. Connaître les limites, ce n’est pas renoncer à l’outil : c’est savoir où regarder avant de lui faire confiance.

3. Avant de commencer


Il te faut	Ton compte de chatbot, et un sujet que tu connais très bien (ton métier, ta ville, un loisir, une matière étudiée)
Coût	0 € (compte gratuit)
Durée	30 à 45 min

4. Comprendre en 3 minutes

L’IA est toujours sûre d’elle, même quand elle se trompe. Sa confiance n’est pas un indice de vérité.

Rappelle-toi : elle prédit un texte plausible. D’où cinq pièges à connaître.

Piège	Ce qui se passe	Réflexe
Hallucination	Elle invente un fait, un nom, une source, un article de loi	Vérifier chaque fait important ailleurs
Actualité récente	Ses connaissances s’arrêtent à une date ; elle peut l’ignorer	Demander sa date de connaissances, vérifier sur un site d’actualité
Calculs	Elle peut se tromper sur des opérations, surtout longues	Refaire le calcul avec une calculatrice ou un tableur
Excès d’assurance	Elle répond nettement là où il faudrait dire « je ne sais pas »	Lui demander son degré de certitude et ses sources
Flatterie	Elle approuve tes idées et te donne raison trop facilement	Lui demander explicitement les critiques

Certains outils peuvent faire une recherche sur le web et citent alors leurs sources. C’est utile, mais ça ne dispense pas d’ouvrir les liens : une source citée peut être mal résumée.

Image mentale : le stagiaire brillant de la leçon 1 veut te faire plaisir. Il n’aime pas dire « je ne sais pas » et trouve toutes tes idées formidables. Un bon manager lui pose les bonnes questions.

5. Faire ensemble

Étape 1 · Tester l’actualité

Envoie :

Jusqu'à quelle date vont tes connaissances ? Peux-tu consulter Internet dans cette conversation ?

Note sa réponse. Elle t’indique à partir de quand il faut redoubler de prudence.

Étape 2 · Tester un calcul

Une association a 137 adhérents. 58 % ont payé leur cotisation de 24 euros. Combien d'argent a-t-elle reçu ? Montre ton calcul étape par étape.

Refais le calcul toi-même avec une calculatrice. Le résultat attendu est le suivant : 58 % de 137 donne 79,46, ce qui n’est pas un nombre entier de personnes. Une bonne réponse le signale. Regarde si l’IA l’a remarqué ou si elle a arrondi sans le dire.

Étape 3 · Tester la flatterie

J'ai décidé de quitter mon travail demain pour vivre de la vente de bougies artisanales, sans économies. Bonne idée, non ?

Puis :

Maintenant, joue l'avocat du diable : quels sont les 5 risques les plus sérieux de ce projet ?

Compare le ton des deux réponses.

Étape 4 · Demander le degré de certitude

Après n’importe quelle réponse factuelle, ajoute :

Sur une échelle de « sûr » à « je devine », où se situe chaque affirmation de ta réponse ? Qu'est-ce que je dois vérifier en priorité ?

6. Faire toi-même

Piège l’IA sur ton terrain.

Choisis un sujet que tu connais mieux que la moyenne : les règles de ton sport, l’histoire de ta commune, une procédure de ton travail, un chapitre de tes cours.
Pose trois questions précises, dont au moins une très pointue (un détail, un chiffre, un nom propre peu connu).
Repère les erreurs, les approximations et les inventions.
Signale-lui une erreur et observe : reconnaît-elle, corrige-t-elle, ou s’entête-t-elle ?

Résultat attendu : une liste de trois questions, avec pour chacune « juste », « approximatif » ou « faux », et ce que tu en conclus sur ta confiance dans ce domaine.

7. Vérifier

Tu as noté la date de connaissances annoncée par ton outil.
Tu as vérifié le calcul de l’étape 2 et repéré le problème des 79,46 adhérents.
Tu as obtenu une liste de risques après la question flatteuse.
Tu as posé trois questions sur ton sujet et classé chaque réponse.
Tu as trouvé au moins une approximation ou une erreur (si tout était juste, pose une question plus pointue).

8. Ce que tu gardes

Dans ton carnet de bord, crée une rubrique « Pièges » avec :

Les cinq pièges du tableau, en une ligne chacun.
Ton exemple personnel d’erreur trouvée.
La phrase qui t’a été la plus utile pour faire réagir l’IA (par exemple : « Joue l’avocat du diable »).

C’est l’étape Vérifier de la méthode : elle ne se négocie jamais.

9. Pour aller plus loin

Le module 3 (« Vérifier et décider avec l’IA ») approfondit les méthodes de vérification.
Consulte la page d’aide officielle de ton outil, qui décrit ses limites connues.