Les intelligences artificielles ont des biais racistes et sexistes, tout comme les humains. Amazon l’a appris à ses dépends.

La technologie n’est pas toujours neutre, et ce n’est pas Amazon qui pourra dire le contraire. Une intelligence artificielle développée par l’entreprise ,qui devait aider au processus de recrutement en interne, a été prise en flagrant délit de discrimination sexiste à l’embauche. L’entreprise a dû arrêter de l’utiliser en 2017.

Une IA entraînée avec… des profils d’hommes

Le programme existait, raconte Reuters le 10 octobre 2018, depuis 2014. Il permettait de trier les CV des candidates et candidats qui postulent à un emploi chez Amazon. Selon leur qualité estimée, l’intelligence artificielle leur octroyait une note allant de 1 à 5 étoiles – comme un produit vendu sur le site, finalement.

Le géant de la vente en ligne avait lancé le programme en 2014. // Source : palomaleca

Le géant de la vente en ligne avait lancé le programme en 2014.

Source : palomaleca

Problème : un an après ses débuts, Amazon s’est rendu compte qu’il n’aimait pas vraiment les femmes. Celles qui candidataient pour des postes de développeuse web ou d’autres emplois techniques étaient systématiquement moins bien notées parce qu’elles étaient des femmes.

Ce biais était lié, comme bien souvent dans ce genre de cas, à la manière dont a été conçue l’IA. Elle a ainsi été entraînée avec les profils des personnes employées dans l’entreprise entre 2004 et 2014… Qui étaient principalement des hommes. L’IA en a conclu que sélectionner d’abord des candidats de sexe masculin était préférable.

Tous les CV contenant le terme « women’s » étaient pénalisés, par exemple si une candidate avait écrit dans son CV « women’s football team captain » (en français, capitaine d’une équipe de football féminine). Des sources internes ont également expliqué que les universités réservées aux femmes constituaient un motif de dégradation de la note.

Amazon a finalement mis à jour le programme, en fonction de ces problèmes observés. Et l’IA a trouvé d’autres moyens d’être discriminante.

L’IA se fait une place dans les processus de recrutement

L’équipe à l’origine du projet a finalement été dissoute en 2017, car les dirigeants de l’entreprise avaient, raconte Reuters, « perdu espoir ». Amazon n’a pas commenté ces faits, sauf pour rappeler que la firme était engagée dans la promotion de la diversité et l’égalité, mais des recruteurs ont assuré anonymement que les classements établis par l’IA n’étaient qu’un indicateur parmi d’autres, et que les embauches ne s’étaient pas faites exclusivement sur ce critère.

Des entreprises qui utilisent des IA pour l’emploi, il en existe d’autres.

Des entreprises qui utilisent des IA pour mettre en lien employeurs et futurs employés, il en existe d’autres malgré les risques connus, à l’image de LinkedIn et CareerBuilder. En août dernier, Google a également annoncé le lancement d’un programme reposant sur l’utilisation d’une intelligence artificielle. Ce dernier est un peu particulier, puisqu’il s’adresse plutôt aux personnes en recherche d’un emploi. Mais cela n’évite pas non plus les biais à priori, puisque l’IA pourrait ne leur proposer que certains jobs, et en cacher d’autres.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !