Charles, 22 ans, a développé seul une solution que de nombreux vidéastes attendaient : un garde du corps numérique qui supprime automatiquement les commentaires haineux. Rencontre avec ce développeur pas comme les autres.

A seulement 22 ans, Charles est parvenu à résoudre au moins partiellement l’un des plus importants défis des réseaux sociaux : trier et filtrer les commentaires dits « haineux  ».

Seul dans sa chambre, le jeune homme a codé un programme simple qui entend identifier, « en deux millisecondes » précise-t-il, les insultes adressées à un utilisateur sur son profil. L’app s’appelle Bodyguard.

Après six mois de travail, le développeur est parvenu à une marge d’erreur réduite à 2 %. Pas d’intelligence artificielle ici, au contraire : le garçon considère que de bons résultats ne peuvent être obtenus rapidement que grâce à l’application d’un humain et d’un bon code.

60 millions d’insultes

Après deux ans passés « à se faire la main sur un réseau social de 40 000 utilisateurs  », Charles cherche son nouveau projet. Comme beaucoup d’entre nous, il se confronte rapidement au web tel qu’il est devenu : un espace où tout le monde a l’insulte facile, où le harcèlement est courant. Il souhaite alors développer une solution applicable à l’échelle d’un compte pour se protéger des mauvais commentaires comme on se protège des virus sur son ordinateur.

Il construit d’abord une liste d’insultes francophones qu’il décline dans des milliers de propositions. « Au total, j’ai aujourd’hui 60 millions de mots clefs qui vont être repérés par le logiciel. explique-t-il, mais je ne m’arrête pas là, je dois également comprendre l’intention, donc mon programme s’intéresse à ce qu’il y a avant l’insulte, et après. » L’intérêt de sa méthode ? Elle conserve, selon lui, une certaine liberté d’expression : « Vous pourrez toujours publier ‘les haters sont tous des connards’ par exemple.  »

Extrait des commentaires que supprime Bodyguard

Aujourd’hui, après seulement trois mois de mise en ligne, il a supprimé 4 000 commentaires sur YouTube avec l’approbation des vidéastes. Sur ceux-ci, seulement 60 étaient des faux-positifs, un petit record pour Charles qui considère que tous les outils similaires n’atteignent pas une si faible marge d’erreur.

Ses étonnants résultats, et le confort qui en découle pour les Youtubeurs, inspirent de plus en plus de créateurs. Ils seraient 400 à avoir décidé d’utiliser Bodyguard au quotidien. Mais le jeune homme ne fait pas de publicité, il préfère « aller doucement » alors qu’il loue un petit serveur pour son programme et n’a pas d’entreprise derrière lui.

« Tout se fait au bouche à oreille entre Youtubeurs, ça me permet de tenir la cadence et d’améliorer quotidiennement l’application en fonction des usages et retours.  » Désormais, Bodyguard connaît des centaines de variantes orthographiques des insultes populaires et comprend même les emojis.

« L’IA n’est pas la solution »

Lorsque le jeune homme parle de son système, il donne le sentiment qu’il ne s’agit finalement pas du défi le plus sophistiqué du web moderne. Alors même que Twitter, YouTube et Facebook sont quotidiennement mis au défi de résoudre ce problème de la haine, Charles semble en avoir fait plus que ces trois-là.

Lorsqu’on l’interroge sur l’immobilisme de Google, maison mère de YouTube, le développeur se montre circonspect : « Je ne comprends pas ! Même s’ils testent en ce moment quelque chose de similaire en anglais et en beta, grâce à l’intelligence artificielle.  » Une solution comportant beaucoup d’espoirs pour peu de résultats selon le jeune homme. « À mon sens, l’intelligence artificielle n’est pas la solution magique dans ce cadre-là » Lui n’a pas fait appel à l’IA mais à sa propre patience, en identifiant des milliers de façons de s’insulter.

youtube-fonce

Quand il contemple les centaines de commentaires que son programme a supprimé, Charles a le vertige. « Des milliers  de commentaires ont été postés par des enfants qui disent sur Internet ce qu’ils n’ont pas le droit de dire à la maison, avoue-t-il, dépité, et les adultes font pareil. Je supprime quotidiennement tout ce que les gens n’osent pas dire en vrai. »

Un travail de nettoyage du web qui pourrait porter ses fruits, Charles n’excluant pas de fonder une société pour accompagner le développement de Bodyguard.

Partager sur les réseaux sociaux