Le patron de Google a affiché son mécontentement en interne après la polémique sur certaines images générées par Gemini. Celles-ci se sont révélées historiquement inexactes, causant une controverse notable outre-Atlantique. Des efforts sont d’ores et déjà entrepris pour corriger le fonctionnement de l’IA.

L’affaire des images historiquement incohérentes générées par Gemini, l’IA de Google, a fait beaucoup de bruit. Elle est également remontée en haut lieu. Comme le révèle le site Semafor, dans son édition du 27 février, les créations de l’intelligence artificielle ont notablement mécontenté le grand patron de l’entreprise américaine, Sundar Pichai.

L’intéressé s’est fendu d’un mémo interne, que The Verge a republié dans son intégralité sur son site. Dans celui-ci, le patron de la firme de Mountain View exprime sa vie déception quant à la qualité du travail fourni par Gemini, dont les débuts remontent à début décembre 2023. « Certaines de ces réponses ont offensé nos utilisateurs et font preuve de partialité », a-t-il relevé.

Sundar Pichai. // Source : Capture d'écran
Sundar Pichai, en 2022. // Source : Capture d’écran

Courant février, il a été constaté que les efforts de Google pour déployer plus de diversité et d’inclusivité dans ses produits ont eu un effet de bord inattendu. Son IA générative a imaginé des visuels historiquement inexacts : des nazis noirs, des vikings asiatiques, et d’autres associations inédites, en opposition avec le monde réel.

Ces ratés ont rencontré un vif écho sur les réseaux sociaux et dans les médias, amplifié par quelques personnalités — dont Elon Musk, qui s’est jeté dans la polémique. Essentiellement, les reproches les plus virulents à l’encontre de Google sont venus de l’extrême droite, qui a reproché au groupe américain de chercher à effacer les hommes blancs.

Devant l’emballement autour du fonctionnement de Gemini, et pour se dégager du temps pour corriger les travers de son l’intelligence artificielle, Google a pris la décision de suspendre temporairement la génération d’images de personnes. Même les fondateurs de Google n’avaient pas été correctement représentés — une autre origine leur avait été attribuée.

Des corrections sont en cours sur Gemini

« Pour être clair, c’est tout à fait inacceptable et nous nous sommes trompés », a écrit Sundar Pichai dans son mail. « Nous avons toujours cherché à fournir aux utilisateurs des informations utiles, précises et impartiales dans nos produits. […] Nous devons adopter cette approche pour tous nos produits, y compris les produits Al émergents. »

En creux, un certain reproche est de fait adressé aux équipes qui ont piloté Gemini. Sundar Pichai évoque la mise en place d’actions claires, incluant des changements structurels, de nouvelles lignes directrices, des processus de lancement améliorés, des évaluations robustes, des équipes d’experts et des recommandations techniques.

« Nous examinons tout cela et nous apporterons les changements nécessaires », a-t-il ajouté, tout en reconnaissant « qu’aucune IA n’est parfaite, surtout à ce stade émergent de l’industrie. » D’après le patron de Google, toutefois, des progrès ont d’ores et déjà été observés « sur un large éventail de commandes. »

Gemini a créé des images de soldats nazis noirs ou d'origine asiatique // Source : Capture d'écran Numerama
Un exemple de prompt sur Gemini qui a donné des résultats contestables. // Source : Capture d’écran Numerama

Reste maintenant une question : à quelle date Gemini pourra retrouver ses pleines capacités de fonctionnement ? Pour l’heure, aucun calendrier clair n’est établi. Ce serait une question de semaines, à en croire Demis Hassabis, le patron de DeepMind, l’une des deux filiales de Google qui a conçu cette IA, avec Google Brain.

« Nous nous soucions bien sûr de l’exactitude historique et nous avons donc mis cette fonction hors ligne pendant que nous corrigeons le problème, et nous espérons la remettre en ligne très rapidement, dans les deux ou trois semaines à venir », a-t-il déclaré lors du MWC, à Barcelone, dans des propos repris par Business Insider.

Reste désormais à découvrir concrètement de quelle façon Google entend ajuster le comportement de Gemini. Cela se fera-t-il au détriment des efforts d’inclusivité et de représentativité ? Cela reste à voir. Pour Demis Hassabis, ce cap reste valable : « Il s’agit d’une fonctionnalité bien intentionnée ». Le souci, c’est qu’elle a été appliquée « manière trop brutale. »

Nouveauté : Découvrez

La meilleure expérience de Numerama, sans publicité,
+ riche, + zen, + exclusive.

Découvrez Numerama+

Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.