Les intelligences artificielles ont des biais racistes et sexistes, tout comme les humains. Amazon l'a appris à ses dépends.

La technologie n’est pas toujours neutre, et ce n’est pas Amazon qui pourra dire le contraire. Une intelligence artificielle développée par l’entreprise ,qui devait aider au processus de recrutement en interne, a été prise en flagrant délit de discrimination sexiste à l’embauche. L’entreprise a dû arrêter de l’utiliser en 2017.

Une IA entraînée avec… des profils d’hommes

Le programme existait, raconte Reuters le 10 octobre 2018, depuis 2014. Il permettait de trier les CV des candidates et candidats qui postulent à un emploi chez Amazon. Selon leur qualité estimée, l’intelligence artificielle leur octroyait une note allant de 1 à 5 étoiles – comme un produit vendu sur le site, finalement.

Le géant de la vente en ligne avait lancé le programme en 2014. // Source : palomaleca

Problème : un an après ses débuts, Amazon s’est rendu compte qu’il n’aimait pas vraiment les femmes. Celles qui candidataient pour des postes de développeuse web ou d’autres emplois techniques étaient systématiquement moins bien notées parce qu’elles étaient des femmes.

Ce biais était lié, comme bien souvent dans ce genre de cas, à la manière dont a été conçue l’IA. Elle a ainsi été entraînée avec les profils des personnes employées dans l’entreprise entre 2004 et 2014… Qui étaient principalement des hommes. L’IA en a conclu que sélectionner d’abord des candidats de sexe masculin était préférable.

Tous les CV contenant le terme « women’s » étaient pénalisés, par exemple si une candidate avait écrit dans son CV « women’s football team captain » (en français, capitaine d’une équipe de football féminine). Des sources internes ont également expliqué que les universités réservées aux femmes constituaient un motif de dégradation de la note.

Amazon a finalement mis à jour le programme, en fonction de ces problèmes observés. Et l’IA a trouvé d’autres moyens d’être discriminante.

L’IA se fait une place dans les processus de recrutement

L’équipe à l’origine du projet a finalement été dissoute en 2017, car les dirigeants de l’entreprise avaient, raconte Reuters, « perdu espoir ». Amazon n’a pas commenté ces faits, sauf pour rappeler que la firme était engagée dans la promotion de la diversité et l’égalité, mais des recruteurs ont assuré anonymement que les classements établis par l’IA n’étaient qu’un indicateur parmi d’autres, et que les embauches ne s’étaient pas faites exclusivement sur ce critère.

Des entreprises qui utilisent des IA pour l’emploi, il en existe d’autres.

Des entreprises qui utilisent des IA pour mettre en lien employeurs et futurs employés, il en existe d’autres malgré les risques connus, à l’image de LinkedIn et CareerBuilder. En août dernier, Google a également annoncé le lancement d’un programme reposant sur l’utilisation d’une intelligence artificielle. Ce dernier est un peu particulier, puisqu’il s’adresse plutôt aux personnes en recherche d’un emploi. Mais cela n’évite pas non plus les biais à priori, puisque l’IA pourrait ne leur proposer que certains jobs, et en cacher d’autres.

À lire sur Numerama : Facebook accusé de permettre d’exclure les femmes des offres d’emplois

Partager sur les réseaux sociaux