Des millions d'internautes à travers le monde consultent avec confiance des services comme Yelp pour savoir quels sont les meilleurs restaurants ou bars près de chez eux. Mais cette confiance pourrait ressortir fragilisée de l'expérience menée par l'université de Chicago : elle a entraîné un réseau neuronal artificiel pour lui faire poster de faux commentaires criants de réalisme.

Si le Guide Michelin et autres publications culinaires restent des références, les services en ligne comme TripAdvisor ou Yelp ont considérablement changé la manière dont les clients peuvent se renseigner sur les qualités d’un établissement.

Si la prudence a toujours été de mise face aux commentaires de mauvaise foi — postés par des concurrents notamment –, il faut aussi se méfier de certains messages, rédigés de manière complètement artificielle.

C’est la petite expérience qu’ont réalisé des informaticiens de l’université de Chicago, en concevant un réseau neuronal artificiel capable de rédiger ses propres avis à partir d’innombrables commentaires (bien réels) d’internautes, utilisés comme source d’origine. Des avis mensongers, donc, qui ont pourtant été jugés utiles par les internautes, loin de soupçonner leur origine artificielle.

Des commentaires plus vrais que nature

Grâce à la méthode du deep learning, le réseau neuronal a brassé ces vastes données trouvées sur Yelp pour produire de courtes phrases de qualité.

Plus les phrases sont longues, plus la marge d’erreur du programme est grande, mais l’aspect concis des avis correspondait plutôt bien avec l’expérience réalisée. D’autant qu’après avoir rédigé ces phrases, une seconde étape pré-publication reste cruciale : la personnalisation, pour faire ressortir quelques informations spécifiques à l’expérience du prétendu « client » concerné.

Les messages cités sont assez bluffants de réalisme en la matière : « J’ai pris le hamburger de légumes grillés avec des frites ! ! ! ! Oooooh, quel goût. Oh mon dieuuu ! C’était très savoureux !  », « Ma famille et moi sommes des habitués de cette adresse. L’équipe est très sympa et la nourriture excellente. Le poulet est délicieux et la sauce à l’ail parfaite. La glace avec des fruits est aussi délicieuse. Je vous le recommande chaudement ! »

Le réseau neuronal a également réussi à passer entre les mailles du filet de la sécurité automatisée de ce genre de site, comme à duper les modérateurs humains qui n’ont pas sur faire la différence entre vrai ou faux commentaire. Ceux du réseau neuronal artificiel posent en tout cas la question de la confiance vis-à-vis de ce genre de site basé sur les retours d’utilisateurs.

Partager sur les réseaux sociaux