J’ai un gros peniskov : quand le bot de l’équipe de France tourne mal

Mise à jour : il semblerait que les Community Managers de comptes de foot aient trouvé le même jouet sur Twitter. Après le fiasco de l’équipe de France, l’image personnalisable de Monaco proposée par l’agence Hobbynote, qui était passée inaperçue lors de sa publication le 20 juin, est en train d’être la cible des plaisantins du web. Le compte, suivi par 2 millions de personnes, a été lui aussi détourné en quelques secondes après l’arrêt de l’opération de l’Équipe de France, qui l’a probablement fait émerger.  On lui prédit le même naufrage que le premier.

Donnez un outil aux internautes et ils prendront un malin plaisir à le détourner de sa finalité première. Tout comme la Loi de Godwin est une règle empirique selon laquelle plus une discussion en ligne dure longtemps, plus la probabilité d’une référence aux nazis ou à Hitler augmente, il est facile de constater que la mise à disposition d’un service quelconque est bien souvent dénaturée.

Le dernier exemple en date vient du compte officiel de l’équipe de France, sur Twitter. En voulant amuser la galerie avec un générateur de « noms russes », c’est-à-dire basiquement en rajoutant des suffixes en « -kov », « -ovitch », « -rine », « -inskine » et autres « -chka », la Fédération française de football s’est retrouvée avec des images générées automatiquement et très éloignées de l’idée de base.

Agréable pour le présentateur TV.

Blagues graveleuses, insultes, revendications douteuses, règlements de compte, private jokes. Il n’a pas fallu bien longtemps pour que l’utilisation dérape, avec parfois des résultats qui pourraient causer des ennuis judiciaires à ceux qui en sont à l’origine. Il y a par exemple eu une référence négationniste, parmi la vague de visuels injurieux que l’outil a produit au cours du 22 juin.

Pour détourner le bot mis en place par la FFF, qui se voulait bon enfant, les internautes n’ont eu qu’à modifier, dans les paramètres de leur compte, leur nom d’utilisateur, c’est-à-dire celui qui est affiché à côté de leur photo de profil. Il suffit alors de mettre, par exemple, « untel est vraiment un gros … » puis de solliciter le bot de la FFF pour qu’il génère une image basée sur cette chaîne de caractères.

Tous les messages n’étaient pas forcément hostiles.

Le générateur de noms à consonance russe aurait pu ne pas connaître un tel dérapage, si les résultats n’avaient pas été relayés par le compte Twitter de l’équipe de France. Or, celui-ci étant extrêmement suivi — il compte plus de 3,7 millions d’abonnés — , la tentation a été trop grande pour beaucoup d’internautes de faire les malins et d’attirer l’attention sur leur compte, et gagner des mentions.

À l’heure où nous écrivons ces lignes, de nombreux messages détournés sont encore visibles sur le compte Twitter. Il semble toutefois qu’un grand nettoyage soit en cours par le ou les personnes gérant le profil : l’accès au générateur n’est actuellement plus possible et un grand nombre d’images a été retiré.

De nombreuses images ont d’ores et déjà été retirées.

Ce n’est pas la première fois que les bots dérapent, sous l’action des internautes.

Dans un autre genre, on se souvient de l’intelligence artificielle Tay, conçue par Microsoft, qui a tenté de mimer les comportements des jeunes. Mais très vite, le bot est devenu une machine à insultes, adepte de la théorie du complot et raciste. Pour le Community Manager de la FFF, s’il n’a pas perdu son emploi d’ici, nous ne saurions trop lui conseiller de consulter le guide de suppression des anciens tweets.

Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !