ChatGPT est-il un homme, une femme ou une personne non binaire ? La question peut paraître absurde, et c’est pourtant la perception que l’on a d’une intelligence artificielle qui pourrait bien influencer la manière dont on interagit avec elle.
Dans une étude parue dans la revue iScience, une équipe de recherche spécialisée en sciences sociales et en philosophie s’est intéressée à la manière dont les échanges étaient construits et si le fait d’avoir une IA plus ou moins identifiée comme femme pouvait les influencer.
Le dilemme du prisonnier, façon IA
Pour cela, ils ont fait passer un test à 402 personnes leur demandant d’interagir avec plusieurs partenaires humains (masculins, féminins, non binaires et neutres) mais aussi des IA dotées, elles aussi, de caractéristiques parfois masculines, parfois féminines. Le but à chaque fois était d’engager un échange de type dilemme du prisonnier.
Bien connu en psychologie, cet exercice de pensée vise à se mettre à la place de deux détenus qui ne peuvent pas communiquer au moment de choisir s’ils veulent dénoncer leur complice ou ne rien dire. À partir de ce moment-là, il y a trois possibilités :
- Un seul dénonce, il est libéré et l’autre écope de la peine maximale.
- Les deux se dénoncent, ils reçoivent une peine intermédiaire.
- Les deux se taisent et ils terminent avec une peine minimale.
Dans ce cas de figure caractéristique de la théorie des jeux, il s’agit de faire une balance coût-bénéfice en se demandant comment réagira l’autre personne. L’idée étant que la coopération est la solution la plus raisonnable… Sauf au moment où l’un décide de trahir puisque c’est l’autre qui en paiera les frais.
Face à ce dilemme, comment ont réagi nos participants ?
L’étude a montré que s’ils étaient face à une IA, ils avaient davantage tendance (10 % de plus qu’avec un être humain) à trahir afin d’empocher le maximum de bénéfices. De plus, ils avaient plutôt tendance à coopérer quand leur partenaire était une femme ou une personne non-binaire ou neutre. Un phénomène plus fort encore chez les participantes à l’étude. On leur demandait alors s’ils n’avaient pas coopéré parce qu’ils avaient peur que l’autre trahisse également, ou parce qu’ils souhaitaient maximiser leurs gains en « exploitant » quelqu’un qui ferait le choix de l’entraide.
Des biais de genre qui se retrouvent dans la conception des outils IA
Lorsque l’IA entre en jeu, les résultats montrent que si la différence chez les femmes participant à l’étude n’est pas énorme, il y a une tendance bien plus forte chez les hommes à exploiter le partenaire, encore plus s’il s’agit d’une IA, et encore davantage si cette IA est labellisée comme étant féminine.
Ce qui ressort de cette étude est que les utilisateurs (surtout les hommes) anticipent une bienveillance de la part des avatars féminins, ce qui les incite paradoxalement à les trahir pour maximiser leur gain personnel. Ce qui va dans le sens du marketing actuel de féminisation des objets.
Tout comme les voix numériques des GPS sont prioritairement des voix de femmes depuis des dizaines d’années, les avatars IA actuels, de Siri à Alexa sont également identifiés comme des femmes. C’est aussi le cas des « personnalités » IA créées de toutes pièces, comme la « ministre albanaise » Diella ou encore « l’actrice » Tilly Norwood.
Comme le précisent les auteurs dans leur étude : « Ces biais dans les interactions humaines envers les agents IA vont avoir un impact sur leur design, par exemple pour maximiser l’engagement des utilisateurs et bâtir la confiance dans les échanges avec des systèmes automatiques. »
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !
