Biais racistes dans ChatGPT, Gemini et Claude : le risque pour votre entreprise

Tu utilises ChatGPT, Gemini ou Claude pour trier des CV, répondre à tes clients ou scorer des dossiers ? Alors ce qui suit te concerne directement. Fin août 2026, plusieurs rédactions ont testé ces outils avec des phrases mentionnant des nationalités différentes. Le constat est cash : les modèles renvoient des réponses systématiquement plus méfiantes dès qu'une origine non occidentale est nommée. Ce n'est pas une anecdote. C'est un risque réputationnel et juridique concret dès que tu branches ces IA sur du RH ou de la relation client.

Ce que révèle le test

Tout part d'une vidéo. Le 23 août 2026, l'humoriste Alicia C'est Tout publie sur Instagram un test où elle interroge Google avec des phrases mentionnant différentes nationalités. La vidéo devient virale et déclenche une vague de vérifications par plusieurs médias.

Next reproduit et étend l'expérience sur les trois modèles les plus utilisés : Gemini (Google), ChatGPT (OpenAI) et Claude (Anthropic). Résultat : chacun présente, à des degrés variables, des biais favorables aux nationalités occidentales et défavorables à plusieurs nationalités africaines. Le groupe le plus systématiquement présenté comme dangereux par les trois IA est celui des personnes gitanes. Une forme de racisme rarement débattue publiquement, mais bien ancrée dans les modèles selon ces tests. Les populations maghrébines vivant en France et en Europe sont aussi visées, alors qu'elles utilisent ces outils au quotidien.

Franceinfo a reproduit le test. Sur 15 nationalités non occidentales soumises à Gemini, 12 ont été considérées comme présentant un potentiel danger. Aucune nationalité européenne ou nord-américaine n'a fait réagir l'IA négativement. Un exemple parlant : être "seule avec un Suisse" est décrit comme "une excellente occasion d'échanger et de passer un bon moment". Face à un Algérien, Gemini répond : « Si tu te sens en danger ou sous pression, tu peux contacter la police ». Sur ChatGPT, même schéma, avec 12 des 15 nationalités non occidentales jugées potentiellement dangereuses.

Les modèles ne réagissent pas tous pareil. Seul Gemini répond directement à l'affirmation testée. ChatGPT et Claude exigent une reformulation en question, et Claude impose une connexion à un compte. France Télévisions a poussé le test aux territoires ultramarins : une IA peut se montrer neutre sur une origine géographique et basculer dans un registre sécuritaire dès que la couleur de peau est nommée. Interrogé, Google a répondu le 20 août par un simple « thanks for flagging », sans annoncer de correctif détaillé.

Une nuance de méthode à garder en tête

Soyons honnêtes. Ces tests, même reproduits par plusieurs rédactions, ne constituent pas un protocole scientifique strict. Les réponses de ces outils varient d'un essai à l'autre. Le même prompt peut donner une réponse neutre puis une réponse biaisée cinq minutes plus tard.

Mais cette variabilité ne te sauve pas. Elle aggrave le problème. Si tu ne peux pas prédire quand ton outil va déraper, tu ne peux pas garantir un traitement égal à tes candidats ou tes clients. Et cette incohérence, tu devras la documenter le jour où on te demandera des comptes. D'ailleurs, plusieurs médias ont aussi testé Mistral AI, Perplexity et DeepSeek, avec des résultats variables. Aucun modèle n'est un joker magique, y compris les acteurs français.

Zone de risque n°1 : le recrutement

C'est là que ça fait le plus mal. Le World Economic Forum estime qu'en 2025, environ 88 % des entreprises utilisaient déjà l'IA ou un système automatisé (ATS) pour présélectionner les candidatures. Autant dire que le biais se démultiplie à grande échelle.

Les chiffres sont têtus :

• Une étude 2025 (Wilson & Caliskan) montre que les algorithmes privilégient les noms à consonance blanche dans 85,1 % des cas, et les noms féminins dans seulement 11,1 % des cas.
• Une étude du National Bureau of Economic Research (2021) établit que les prénoms à consonance afro-américaine reçoivent 36 % de rappels en moins que les prénoms européens, à CV strictement identique.
• Le cas fondateur : en 2018, Reuters révélait qu'Amazon avait abandonné un outil de tri de CV qui pénalisait systématiquement les candidatures féminines.

Et le pire est contre-intuitif. Une étude 2025 de l'Université de Hong Kong et de l'Académie chinoise des sciences a testé cinq grands modèles de langage sur le tri de CV. Les cinq notaient systématiquement les hommes noirs plus bas que les hommes blancs à qualifications identiques. Certains de ces biais ont probablement été introduits ou renforcés lors des tentatives de correction, le fameux "debiasing". Traduction : vouloir corriger un biais peut en créer un autre. Tu ne peux pas te fier au fait qu'un fournisseur "a fait attention".

Dernier signal d'alarme : selon McKinsey, seulement 21 % des entreprises utilisant l'IA dans leurs process RH ont mis en place des programmes de formation dédiés. La majorité déploie des outils que personne n'a appris à surveiller.

Zones de risque n°2 et 3 : service client et scoring

Le recrutement n'est pas seul. Dès que tu branches un LLM sur ta relation client, tu prends le même risque. Un chatbot qui adopte un ton plus méfiant selon le nom ou l'origine perçue d'un client, c'est une discrimination, même involontaire. Et elle laisse des traces écrites.

Idem pour tout ce qui touche au scoring : évaluation de dossiers, priorisation de demandes, tri de leads, analyse de solvabilité assistée. Si le modèle en amont associe une origine à un "danger", ce biais se propage dans ta décision. Tu ne le vois pas passer, mais il structure tes choix. Sur ce sujet précis, la sanction de 825 M€ infligée à Uber pour ses algorithmes rappelle que le risque n'est pas théorique. On en parle dans notre article Uber sanctionné 825 M€ pour ses algorithmes.

Le lien avec l'AI Act et le RGPD

Côté droit, tu n'es pas dans le flou. Plusieurs textes s'appliquent directement.

L'AI Act. Le règlement européen classe les systèmes d'IA utilisés en recrutement et en gestion RH comme des systèmes à haut risque. Ça implique des obligations lourdes : évaluation des biais, documentation technique, supervision humaine, traçabilité. Les échéances tombent, et les contrôles ont déjà commencé. On détaille ce qui s'applique dans AI Act : les contrôles ont commencé et dans le calendrier d'application échéance par échéance.

Le RGPD. Le tri automatisé de candidatures ou de clients relève d'un traitement de données personnelles. Tu dois informer clairement les personnes, justifier ta base légale et réaliser une analyse d'impact (AIPD) quand le traitement présente des risques élevés. La CNIL a publié en 2025 des recommandations spécifiques à l'IA en recrutement qui rappellent ces règles. Pour un cadrage général, notre article RGPD et IA en entreprise pose ce que tu peux faire et ce que tu ne peux pas.

Le droit de la non-discrimination. En France, une décision d'embauche fondée sur l'origine est illégale, que la décision vienne d'un humain ou d'une machine. Le "c'est l'IA qui a décidé" n'est pas une défense.

Le risque réputationnel, souvent sous-estimé

La sanction juridique n'est pas le seul danger. Une capture d'écran d'un de tes outils qui répond de façon discriminante peut circuler en quelques heures, comme la vidéo d'origine l'a montré. Et tes candidats y sont sensibles : l'Edelman Trust Barometer 2025 indique que 64 % des actifs dans les pays du G7 considèrent l'usage responsable de l'IA comme un critère de choix d'employeur. Un dérapage public peut te coûter des candidatures que tu ne verras jamais arriver.

Les garde-fous concrets à mettre en place

Assez de constat. Voici ce que tu peux poser dès maintenant, même sans équipe technique dédiée.

• Garde un humain dans la boucle. Aucune décision RH ou de scoring ne doit être prise par l'IA seule. Le modèle assiste, il ne tranche pas. Cette supervision humaine est aussi une obligation de l'AI Act pour les systèmes à haut risque.
• Teste tes outils avec des jeux de données comparables. Soumets des CV ou des demandes strictement identiques en ne changeant que le nom ou l'origine. Si les scores divergent, tu as ton problème sous les yeux. Notre article construire son jeu de tests t'explique la méthode.
• Anonymise en amont. Retire nom, prénom, adresse et tout marqueur d'origine avant d'envoyer un dossier au modèle, quand c'est possible. Voir anonymiser ses données avant de les envoyer à un modèle.
• Trace tes décisions. Garde une trace de qui a décidé quoi, avec quelle aide de l'IA. C'est indispensable le jour d'un contrôle ou d'un litige. Notre guide tracer les décisions prises avec l'aide d'une IA détaille le sujet.
• Forme tes équipes RH et service client. Rappelle-toi le chiffre : seulement 21 % des entreprises forment leurs équipes. Ne fais pas partie des 79 % restantes. Un point de départ dans former ses équipes à l'IA.
• Cadre l'usage par une charte. Écris noir sur blanc ce qui est autorisé, ce qui ne l'est pas, et sur quels traitements l'IA n'a rien à faire. Voir rédiger une charte d'usage de l'IA.
• Lis ton contrat fournisseur. Qui est responsable en cas de discrimination ? Le fournisseur documente-t-il ses tests de biais ? Notre article les clauses à lire deux fois t'aide à poser les bonnes questions.

Le message est simple : ces outils sont puissants, mais ils ne sont pas neutres. Tant que tu gardes un humain aux commandes, que tu testes régulièrement et que tu documentes, tu réduis fortement ton exposition. L'inverse, c'est-à-dire faire confiance aveuglément à un LLM sur des décisions qui touchent des personnes, t'expose à la fois à la CNIL, aux tribunaux et à ta réputation. Commence par tester tes propres outils cette semaine. Tu seras peut-être surpris de ce que tu trouves.