Comment on fabrique une IA, et pourquoi elle ne « sait » pas

1. À la fin de cette leçon, tu sauras

Décrire les grandes étapes de fabrication d’un modèle d’IA générative.
Expliquer ce que sont les données d’entraînement et pourquoi elles posent question.
Comprendre pourquoi le modèle produit du plausible plutôt que du vérifié.
Interroger un assistant sur son propre fonctionnement, avec recul.

2. Pourquoi ça t’intéresse

Bernard, retraité et bénévole dans une association d’histoire locale, demande à l’IA la date de fondation de l’église de son village. Réponse nette, avec un siècle et un nom d’architecte. Problème : les archives de l’association disent autre chose. Bernard est perplexe : « Elle a pourtant tout lu, non ? » Comprendre comment on fabrique une IA répond à sa question. Le modèle n’a pas « lu » au sens où Bernard l’entend, et il n’a pas consulté d’archives. Une fois qu’on sait cela, on sait aussi quand lui faire confiance.

3. Avant de commencer


Il te faut	Un chatbot, ton carnet de bord, une question de culture générale dont tu connais très bien la réponse
Coût	0 €
Durée	30 à 40 min

Au module 1, tu as vu qu’une IA prédit la suite d’un texte. Ici, on regarde comment elle a appris à le faire.

4. Comprendre en 3 minutes

Un modèle d’IA générative est fabriqué en trois grandes étapes : on rassemble des textes, on l’entraîne à prédire la suite, puis on l’ajuste pour en faire un assistant. À aucun moment on ne lui installe une base de faits vérifiés.

Étape	Ce qui se passe	Ce que ça explique
1. Les données	Les concepteurs rassemblent d’immenses quantités de textes : pages web publiques, livres, code, documents sous licence, selon les choix de chaque éditeur	Le modèle reflète ces textes, avec leurs qualités, leurs erreurs et leurs biais
2. L’entraînement	Le modèle lit des morceaux de texte et tente de deviner la suite. À chaque erreur, ses réglages internes sont légèrement corrigés. Cela se répète un nombre gigantesque de fois, sur de nombreux ordinateurs	Il apprend les régularités de la langue et des idées, pas des fiches vérifiées
3. L’ajustement	On lui montre des exemples de bonnes réponses, des personnes notent ses réponses, on lui donne des règles de conduite	Il devient poli, suit les consignes, refuse certaines demandes

Image mentale : quelqu’un qui aurait écouté des milliers de conversations sans jamais prendre de notes. Il parle de tout avec aisance, il a une excellente intuition de « ce qui se dit ». Mais si tu lui demandes une date précise sur un sujet rare, il te donne celle qui « sonne juste ».

D’où trois conséquences :

Rare = fragile. Un sujet abondamment écrit est mieux maîtrisé qu’un détail local.
Figé dans le temps. Les connaissances s’arrêtent à la date de fin des données, sauf si l’outil ajoute une recherche web.
Pas de trace de la source. Le modèle ne sait généralement pas d’où vient ce qu’il dit.

Les données d’entraînement soulèvent aussi des débats : consentement des auteurs, présence de données personnelles, représentativité des langues et des cultures. Tu les retrouveras dans les leçons suivantes.

5. Faire ensemble

Étape 1 · Demander à l’IA comment elle a été fabriquée

Explique-moi simplement, comme à quelqu'un qui n'y connaît rien, comment un modèle comme toi a été fabriqué : les données, l'entraînement, l'ajustement. Précise ce que tu ne sais pas sur ta propre fabrication.

Compare la réponse avec le tableau ci-dessus. Les éditeurs ne publient pas tous les détails : une réponse honnête doit le reconnaître.

Étape 2 · Tester un sujet abondant et un sujet rare

Pose deux questions dont tu connais la réponse : une très connue, une très locale ou très pointue (ton village, ton métier, ta famille de plantes préférée).

[ta question sur un sujet très connu]

[ta question sur un sujet rare que tu maîtrises]

Note la différence de fiabilité.

Étape 3 · Repérer la limite de date

Jusqu'à quelle période vont tes connaissances ? As-tu accès à une recherche sur Internet dans cette conversation ? Comment puis-je le savoir ?

Vérifie ensuite dans l’aide officielle de ton outil plutôt que de croire la réponse sur parole.

Piège fréquent : demander à l’IA « es-tu sûre ? » et prendre sa réponse comme une preuve. Le modèle n’a pas d’accès direct à ce qu’il « sait » ; son assurance est elle-même une production plausible.

6. Faire toi-même

Écris une explication de la fabrication d’une IA destinée à quelqu’un de ton entourage (un parent, un ado, un collègue).

Rédige toi-même, sans IA, cinq phrases au maximum.
Demande à l’IA de relever les inexactitudes, sans réécrire ton texte.
Corrige ce qui doit l’être, en vérifiant les points discutés dans une source fiable (page d’un éditeur, cnil.fr).
Lis ton texte à la personne et note les questions qu’elle te pose.

Résultat attendu : une explication de cinq phrases, juste et compréhensible, testée sur une vraie personne.

7. Vérifier

Je peux nommer les trois étapes : données, entraînement, ajustement.
Je peux expliquer pourquoi un modèle peut inventer un détail avec assurance.
J’ai constaté une différence de fiabilité entre un sujet abondant et un sujet rare.
Je sais vérifier dans l’aide officielle si mon outil a accès à une recherche web.
Mon explication de cinq phrases a été lue à quelqu’un.

8. Ce que tu gardes

Dans ton carnet de bord, crée une rubrique « Enjeux » :

Ton explication en cinq phrases.
Les trois conséquences : rare = fragile, figé dans le temps, pas de trace de la source.

9. Pour aller plus loin

La CNIL (cnil.fr) publie des ressources pédagogiques sur le fonctionnement des systèmes d’IA.
Les éditeurs publient des documents sur leurs modèles sur leurs sites officiels : regarde ce qu’ils disent, et ce qu’ils ne disent pas.