Des millions d’internautes à travers le monde consultent avec confiance des services comme Yelp pour savoir quels sont les meilleurs restaurants ou bars près de chez eux. Mais cette confiance pourrait ressortir fragilisée de l’expérience menée par l’université de Chicago : elle a entraîné un réseau neuronal artificiel pour lui faire poster de faux commentaires criants de réalisme.

Si le Guide Michelin et autres publications culinaires restent des références, les services en ligne comme TripAdvisor ou Yelp ont considérablement changé la manière dont les clients peuvent se renseigner sur les qualités d’un établissement.

Si la prudence a toujours été de mise face aux commentaires de mauvaise foi — postés par des concurrents notamment –, il faut aussi se méfier de certains messages, rédigés de manière complètement artificielle.

C’est la petite expérience qu’ont réalisé des informaticiens de l’université de Chicago, en concevant un réseau neuronal artificiel capable de rédiger ses propres avis à partir d’innombrables commentaires (bien réels) d’internautes, utilisés comme source d’origine. Des avis mensongers, donc, qui ont pourtant été jugés utiles par les internautes, loin de soupçonner leur origine artificielle.

Yelp

Des commentaires plus vrais que nature

Grâce à la méthode du deep learning, le réseau neuronal a brassé ces vastes données trouvées sur Yelp pour produire de courtes phrases de qualité.

Plus les phrases sont longues, plus la marge d’erreur du programme est grande, mais l’aspect concis des avis correspondait plutôt bien avec l’expérience réalisée. D’autant qu’après avoir rédigé ces phrases, une seconde étape pré-publication reste cruciale : la personnalisation, pour faire ressortir quelques informations spécifiques à l’expérience du prétendu « client » concerné.

Les messages cités sont assez bluffants de réalisme en la matière : « J’ai pris le hamburger de légumes grillés avec des frites !!!! Oooooh, quel goût. Oh mon dieuuu! C’était très savoureux! », « Ma famille et moi sommes des habitués de cette adresse. L’équipe est très sympa et la nourriture excellente. Le poulet est délicieux et la sauce à l’ail parfaite. La glace avec des fruits est aussi délicieuse. Je vous le recommande chaudement ! »

intelligence-artificielle

Le réseau neuronal a également réussi à passer entre les mailles du filet de la sécurité automatisée de ce genre de site, comme à duper les modérateurs humains qui n’ont pas sur faire la différence entre vrai ou faux commentaire. Ceux du réseau neuronal artificiel posent en tout cas la question de la confiance vis-à-vis de ce genre de site basé sur les retours d’utilisateurs.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !