Biais d'une IA de recrutement : le fournisseur aussi peut en répondre

Un tribunal fédéral américain vient de refuser à Workday le rejet d'une plainte pour biais de son IA de recrutement. Le point neuf n'est pas le biais. C'est qui en répond.

Pendant des années, la règle implicite était simple : l'outil trie, l'employeur assume, le fournisseur vend un logiciel et s'arrête là. Cette frontière vient de bouger. Dans Mobley v. Workday, la justice retient que le fournisseur de l'outil de scoring peut être tenu responsable de la discrimination, pas seulement l'entreprise cliente. Pour tout éditeur, nous compris, c'est un signal à lire froidement.

Ce que le tribunal a réellement retenu

L'affaire se joue devant le tribunal fédéral du district nord de la Californie (affaire 3:23-cv-00770). Le plaignant, Derek Mobley, affirme que les outils de présélection de Workday ont écarté des candidats sur des critères protégés, dont l'âge.

Le 16 mai 2025, la cour a accordé la certification conditionnelle d'une action collective nationale au titre de la loi américaine sur la discrimination par l'âge. Puis, le 6 mars 2026, la juge Rita F. Lin a écarté l'argument central de Workday : cette loi ne protégerait que les salariés, pas les candidats.

Le mécanisme juridique mérite qu'on s'y arrête. Le tribunal mobilise la théorie dite de l'agent : un employeur ne peut pas échapper à sa responsabilité en déléguant l'embauche à un tiers, et ce tiers, en l'exerçant, en devient responsable. Workday n'est plus un simple vendeur de logiciel, mais un acteur du tri.

Le développement le plus récent va plus loin. Le 22 juin 2026, la juge Lin a rejeté en partie une nouvelle tentative de Workday et maintenu les plaintes fondées sur le FEHA californien. Workday plaidait que cette loi de l'État ne pouvait viser des plaignants non californiens. La cour a répondu l'inverse : elle s'applique même hors de Californie, parce que Workday conçoit et opère ses outils depuis son siège californien. La juridiction ne suit pas la localisation du candidat, elle suit celui qui opère le système. Exactement notre thèse sur la souveraineté : le droit s'attache à l'acteur qui déploie l'outil, pas à l'endroit où se trouve la donnée.

L'échelle donne le vertige : environ 1,1 milliard de candidatures traitées, plus de dix mille employeurs clients. La responsabilité ne reste plus confinée à un client isolé.

Ce n'est pas un procès de l'IA. C'est un procès du système non gouverné

Le tribunal ne reproche pas à Workday d'utiliser un algorithme, il s'intéresse à ce qu'il produit et à la capacité d'en rendre compte. La vraie question n'est pas de disséquer le modèle, c'est celle du processus : quelles données entrent, qui tranche, avec quelle marge humaine.

Soyons directs sur un point que beaucoup d'éditeurs préfèrent flouter. Un modèle de langage, y compris open source et auto-hébergé, reste opaque par structure. Personne ne peut expliquer, critère par critère, pourquoi un réseau de neurones a produit tel score, et c'est vrai des modèles américains comme souverains. Vendre une IA qu'on pourrait ouvrir et relire ligne par ligne, c'est une promesse intenable qu'un avocat retourne contre vous à la première audience. L'opacité du modèle est une donnée de base du secteur.

Le vrai problème est ailleurs : dépendre d'un tiers dont vous ne gouvernez pas le système, que vous ne pouvez pas documenter, et qui peut vous couper l'accès ou être requis par une autorité étrangère. C'est ça, la boîte noire qui devient un passif : pas un modèle opaque, ils le sont tous, mais une dépendance non maîtrisée. Quand un juge demande quelles données ont nourri le scoring et comment un humain a décidé, répondre que le service est propriétaire et hébergé ailleurs n'est pas une défense, c'est un aveu.

La pince se referme : discrimination d'un côté, transparence de l'autre

Workday n'est plus seul sur le banc. Le 20 janvier 2026, deux candidates ont attaqué Eightfold AI en Californie, sur un tout autre terrain. Là où Mobley installe la responsabilité du fournisseur sur la discrimination via la théorie de l'agent, Eightfold ouvre un second front sur la transparence, au titre du Fair Credit Reporting Act. Les plaignantes soutiennent que les scores fonctionnent comme des rapports secrets qui notent les candidats à leur insu : pas d'information préalable, pas d'accès, pas de correction, et un rejet avant tout regard humain. Le reproche n'est pas la discrimination, c'est l'opacité procédurale du dispositif.

Prises ensemble, les deux affaires forment une pince. On ne peut ni produire de résultats discriminatoires en se retranchant derrière son statut d'éditeur, ni noter des candidats dans un processus fermé sans supervision humaine ni accès à ce qui a servi à les évaluer. Non-discrimination et transparence : deux mâchoires qui se referment sur les éditeurs, et aucune ne se traite en ouvrant le modèle, les deux en gouvernant le processus. La régulation des États américains se diluant plutôt qu'elle ne durcit (le Colorado a allégé ses obligations en mai 2026), le vrai levier n'est pas la loi locale mais la responsabilité civile du fournisseur.

En Europe, le cadre est déjà là, et il est plus strict

La théorie de l'agent et la loi américaine sur l'âge ne s'appliquent pas en France. Mais aucun éditeur européen ne devrait s'en rassurer : le cadre d'ici pointe dans la même direction, et il est antérieur à l'affaire Workday.

Le RGPD Article 22 encadre la décision automatisée depuis 2018 : une personne a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé qui l'affecte de manière significative. Le rejet d'une candidature en est une. La jurisprudence SCHUFA (CJUE, 7 décembre 2023), confirmée par l'arrêt CK du 27 février 2025, a durci la lecture : un humain qui valide mécaniquement une recommandation sans jugement réel ne suffit pas à sortir du champ de l'Article 22.

Par-dessus, l'AI Act (règlement UE 2024/1689) classe le recrutement en activité à haut risque dans son Annexe III et impose supervision humaine effective, documentation technique et sanctions lourdes dès son application principale, le 2 décembre 2027. Un fournisseur européen évolue donc déjà dans un périmètre exigeant. L'affaire Workday ne le crée pas chez nous, elle confirme depuis l'autre rive qu'on ne le quitte pas en se présentant comme un simple éditeur.

Nous sommes fournisseur. Nous n'avons aucune immunité, et c'est le point

Soyons clairs, parce que c'est le réflexe à ne pas avoir. Personne, chez nous, ne prétendra que JobAffinity serait à l'abri : nous fournissons une IA qui score des candidatures, nous sommes dans le même périmètre juridique que n'importe quel éditeur. Nos choix structurels, faits il y a longtemps, ne portent pas sur une prétendue transparence du modèle, qui n'existe pour aucun LLM, mais sur la gouvernance du processus.

Notre IA assiste le recruteur, elle ne le remplace pas. Le score est une aide à la décision, jamais la décision : c'est l'humain qui tranche, il n'y a pas de rejet automatisé, et le recruteur peut toujours ignorer, modifier ou contester une suggestion. La supervision humaine n'est pas une case à cocher, elle est la mécanique même de l'outil. Nous maîtrisons quelles données entrent dans le scoring, et le système est auto-hébergé en France, sous notre contrôle de bout en bout, comme détaillé dans nos analyses sur la souveraineté.

Concrètement : dans JobAffinity, c'est le recruteur qui fixe les critères de scoring au niveau de l'offre (expérience, langue, formation). L'IA lit et comprend le CV, puis le confronte à ces critères. Chaque score est décomposé : au survol, le recruteur voit sur quels critères le candidat marque ou perd des points. S'il n'est pas d'accord, il ajuste les paramètres de l'offre et le classement suit. On n'explique pas l'intérieur du modèle, on rend lisible et modifiable le cadre qu'on lui impose.

Ce n'est pas une posture défensive, c'est une couverture de responsabilité. Le jour où il faut rendre des comptes, ce qui se démontre n'est pas le modèle mais le processus : une API tierce ne laisse rien à montrer, un système qu'on gouverne, si.

La grille à appliquer à votre éditeur

L'affaire Workday change la question à poser avant de signer. Trois questions, dès cette semaine. Quelles données entrent dans votre scoring, et où sont-elles hébergées. Comment le processus est documenté, sachant qu'aucun éditeur sérieux ne prétendra ouvrir le modèle. Comment la supervision humaine est garantie pour qu'aucun rejet ne soit purement automatisé. Si l'éditeur hésite ou vous vend une transparence du modèle qu'aucun LLM ne permet, vous venez d'identifier qui portera le risque : vous.

La responsabilité du biais ne disparaît pas : elle se gouverne, ou elle vous tombe dessus.

Sources

• Mobley v. Workday, où en est l'affaire (AI Governance for HR)
• Théorie de l'agent, responsabilité du fournisseur (Seyfarth Shaw)
• Les plaintes peuvent avancer (Akin Gump)
• Certification conditionnelle ADEA (Proskauer)
• Décision du 22 juin, FEHA maintenu (Duane Morris)
• FEHA appliqué hors Californie (HR Dive)
• Affaire Eightfold, plainte FCRA (Fisher Phillips)
• Eightfold et scores de candidats (HR Brew)