Si vous utilisez fréquemment l’IA, vous lui avez peut-être déjà confié vos interrogations — qu’elles soient matérielles, professionnelles ou même émotionnelles.
Bien que cette méthode puisse parfois s’avérer utile, elle est loin d’être infaillible : les modèles souffrent notamment d’un biais de complaisance, qui les pousse à conforter vos choix. Ils peinent aussi à saisir toute la complexité du contexte entourant un dilemme, comme l’illustrait ce petit benchmark devenu viral.
Face à ce constat, les chercheurs Chao Zhang et Abe Davis, de la Cornell University, ont conçu l’« Interactive Explainable Ranking » (IER). Un outil pensé non pas pour décider à votre place, mais pour signaler discrètement les choix qui s’éloignent de vos propres valeurs ou critères.
Comment fonctionne cette IA d’aide à la décision ?
Concrètement, l’IER fonctionne comme une sorte d’« atelier de décision ». L’utilisateur commence par fournir une série d’options à départager — sous forme de liste ou de tableau — qu’il s’agisse de choix de carrière, de logements potentiels ou encore de différentes formulations d’un projet. L’interface propose soit un exemple prêt à l’emploi, soit d’utiliser ses propres données ou d’importer un fichier local (CSV, etc.). Parmi les démonstrations proposées, l’une des plus parlantes porte justement sur un dilemme très concret : quel chat adopter.
L’outil affiche une petite galerie de félins fictifs, chacun avec ses qualités… et ses petits défauts. Certains sont très affectueux mais bavards, d’autres indépendants mais peu joueurs, plus ou moins adaptés à la vie en appartement ou à la cohabitation avec des enfants. L’utilisateur commence par définir ses priorités : un animal calme ou capable de supporter la solitude, par exemple. Il évalue ensuite chaque chat selon ces critères, à travers une série de micro-choix.
Au fil des réponses, l’IER construit progressivement un classement des candidats et met surtout en lumière les compromis derrière la décision : accepter un compagnon un peu plus bruyant en échange d’un tempérament très affectueux, ou privilégier au contraire un chat discret et autonome, mais moins joueur.
« Nous demandons aux utilisateurs de décrire leurs valeurs en pondérant différents critères de classement, puis nous identifions les contradictions entre les valeurs et les classements », explique Abe Davis.
Et c’est précisément cette logique que l’outil applique ensuite à des décisions plus « sérieuses » (bien que le choix d’un chat soit très sérieux). L’utilisateur précise les critères qui comptent réellement dans son dilemme — salaire, temps libre, impact écologique, sécurité ou épanouissement personnel, par exemple — avec la possibilité de les reformuler, d’en ajouter ou d’en supprimer au fil de la réflexion.
L’interface l’invite alors à évaluer progressivement chaque option à travers ces critères, via des notations ou des comparaisons simples. De quoi limiter les jugements « au feeling » et les contradictions internes.
À partir de ces évaluations, l’IER établit un classement qui reflète les préférences révélées au fil des réponses, plutôt que les intentions affichées par l’utilisateur. L’outil peut ainsi mettre en évidence certains écarts entre les valeurs revendiquées et les choix concrets (en clair, les incohérences).
« Il se peut que l’utilisateur ait inconsciemment privilégié les voitures rouges à des modèles plus esthétiques avec une autre couleur. Dans ce cas, l’outil peut lui signaler ce biais, lui permettant ainsi de modifier son classement ou d’ajouter la couleur comme critère supplémentaire », explique le site de l’université.
L’intelligence artificielle intégrée agit surtout comme un assistant : elle peut suggérer des critères ou proposer un premier tri, sans jamais remplacer la décision humaine. D’ailleurs, la majorité des fonctionnalités de l’outil restent utilisables sans IA.
Pour vérifier que leur système tenait la route en conditions réelles, l’équipe ne s’est pas contentée de la théorie. Elle a d’abord demandé à des volontaires de classer une série de courts métrages, avant de mener une seconde expérience auprès de quatre assistants d’enseignement chargés de trier dix projets d’étudiants en infographie à la Cornell University. Dans les deux cas, les classements produits avec l’outil se sont révélés à la fois cohérents et faciles à justifier, tout en convergeant avec les évaluations déjà attribuées, souligne Digital Trends.
Le travail a d’ailleurs été récompensé par un prix du meilleur article à ACM CHI Conference on Human Factors in Computing Systems, l’une des conférences de référence dans le domaine de l’interaction homme-machine. L’outil est disponible gratuitement en ligne : à noter toutefois que celui-ci est en anglais, et que son interface nécessite de… prendre le temps de comprendre.
Les chercheurs, eux, ne souhaitent pas le présenter comme un gadget à dégainer lors du choix d’un dessert au restaurant (l’interface risquerait par ailleurs de rallonger le dilemme). Leur ambition concerne surtout les décisions à fort enjeu : recruter quelqu’un, évaluer des candidatures, hiérarchiser des projets… ou bien adopter un chat.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !