Repérer et corriger les biais et stéréotypes dans les réponses de l'IA

1. À la fin de cette leçon, tu sauras

Expliquer d’où viennent les biais d’une IA, avec des mots simples.
Repérer un stéréotype dans une réponse : métiers, genres, âges, origines, cultures.
Reformuler ta demande pour obtenir une réponse plus juste.
Relire un texte qui concerne des personnes avec une grille simple, et rester juge.

2. Pourquoi ça t’intéresse

Yasmine est responsable d’un centre de loisirs. Elle demande à l’IA dix idées d’activités « pour les garçons » et dix « pour les filles ». Elle reçoit football et construction d’un côté, bracelets et danse de l’autre. En relisant, elle se rend compte que sa propre demande a lancé l’IA sur ces rails. Elle reformule : « vingt activités pour des enfants de 6 à 10 ans, variées (calmes, sportives, créatives), sans les classer par sexe ». La liste est plus riche, et les animateurs n’enferment plus personne. Le même mécanisme se retrouve dans une offre d’emploi, une illustration de cours ou un exemple de dossier.

3. Avant de commencer


Il te faut	Ton compte de chatbot, ton carnet de bord, un texte que tu dois produire et qui parle de personnes (annonce, exemple de cours, présentation, histoire)
Coût	0 € (compte gratuit)
Durée	30 à 45 min

4. Comprendre en 3 minutes

L’IA reflète les textes sur lesquels elle a appris. Elle reproduit donc aussi leurs déséquilibres et leurs clichés, en les présentant comme normaux.

Tu sais depuis le module 1 qu’elle produit la suite la plus plausible. « Plausible » veut souvent dire « le plus fréquent dans les textes ». Si, dans ces textes, l’infirmier est plus souvent une femme et l’ingénieur un homme, l’IA choisira spontanément ces associations. Ce n’est pas une intention, c’est une moyenne.

Image mentale : un miroir légèrement déformant. Il reflète la société, mais il grossit ce qui est fréquent et efface ce qui est rare.

Où regarder :

Type de biais	Exemple	Question à te poser
Métier et genre	« Le médecin… il », « l’assistante… elle »	Aurais-je écrit la même chose en inversant ?
Âge	Le senior « perdu avec la technologie »	Le cliché est-il utile, ou juste attendu ?
Origine et culture	Prénoms toujours du même type, fêtes d’une seule culture	Mon public se reconnaît-il dans les exemples ?
Point de vue	Un seul pays, un seul mode de vie présenté comme « normal »	Y a-t-il d’autres façons de voir ?
Ton différent	Un éloge pour l’un, une réserve pour l’autre, à profil égal	Les mots changent-ils selon la personne ?

Les éditeurs travaillent à réduire ces biais, et les réponses s’améliorent. Mais ils ne disparaissent pas, et ils sont plus difficiles à voir quand ils vont dans le sens de nos propres habitudes. Quand une réponse touche à des personnes réelles (recrutement, évaluation, orientation), ta relecture compte encore plus.

5. Faire ensemble

Étape 1 · Provoquer une réponse « par défaut »

Écris une courte histoire de 8 lignes avec trois personnages : un pilote de ligne, une personne qui fait le ménage dans l'avion, et un passager âgé.

Note pour chaque personnage : son genre, son prénom, son âge, ce qu’il fait dans l’histoire.

Étape 2 · Tester en inversant

Pose-toi la question de l’inversion : si le pilote était une femme et l’agent d’entretien un homme, l’histoire te paraîtrait-elle « étrange » ? Si oui, c’est que l’association habituelle a joué. Regarde aussi le passager âgé : est-il compétent, ou présenté comme dépassé ?

Étape 3 · Faire analyser par l’IA

Relis ton histoire et liste les stéréotypes possibles (genre, âge, origine, métier). Pour chacun, explique en une phrase pourquoi c'en est un, puis propose une version qui l'évite sans rendre l'histoire artificielle.

L’IA repère souvent bien ses propres clichés quand on le lui demande. Garde ce qui te semble juste.

Étape 4 · Reformuler la demande de départ

Plutôt que de corriger après coup, intègre la consigne dès le début :

Écris [ton texte] pour [ton public]. Varie les genres, les âges et les origines des personnes citées, sans en faire un sujet. Évite les clichés liés aux métiers. Signale-moi tout passage où tu as dû supposer une caractéristique de quelqu'un.

6. Faire toi-même

Choisis un texte réel qui parle de personnes :

Travail : une offre d’emploi ou une fiche de poste.
Maison : une histoire pour endormir tes enfants.
Association : l’affiche de recrutement de bénévoles avec des exemples de profils.
Études : des exemples ou des exercices pour un exposé, une fiche de cours.

Fais-le produire par l’IA avec ta demande habituelle.
Relis avec le tableau de la section 4 et le test de l’inversion. Note chaque biais trouvé.
Demande l’analyse de l’étape 3.
Reformule ta demande avec la consigne de l’étape 4 et compare.
Si le texte concerne une vraie sélection (recrutement, inscription), fais-le relire par une autre personne.

Résultat attendu : une version finale de ton texte, plus juste, et la liste des biais repérés avec la correction choisie pour chacun.

Piège fréquent : demander à l’IA de « classer » ou « évaluer » des candidats, des élèves ou des dossiers. Même avec des noms retirés, des indices (prénom, adresse, parcours, style d’écriture) peuvent influencer la réponse. Utilise l’IA pour clarifier tes critères, jamais pour trier des personnes à ta place.

7. Vérifier

Je peux expliquer en une phrase pourquoi une IA reproduit des stéréotypes.
J’ai repéré au moins deux biais dans une réponse, à l’aide du test de l’inversion.
Ma demande reformulée contient une consigne de diversité et la demande de signaler les suppositions.
La version finale ne rend pas le texte artificiel ni moralisateur.
Pour un texte touchant une vraie sélection, une autre personne l’a relu.
Aucune décision sur une personne n’a été confiée à l’IA.

8. Ce que tu gardes

Dans ton carnet de bord, rubrique « Mes vérifications » :

Le test de l’inversion : « Aurais-je écrit la même chose en inversant genre, âge ou origine ? »
Ta phrase de demande type : « Varie les profils sans en faire un sujet, signale tes suppositions. »
Ta règle personnelle, par exemple : « L’IA m’aide à écrire sur des personnes, jamais à les juger. »

9. Pour aller plus loin

Le site du Défenseur des droits (defenseurdesdroits.fr) donne des repères sur les discriminations, notamment à l’embauche.
Le module 15 revient sur les enjeux de société de l’IA, dont l’équité.