Un groupe a publié une chanson dans laquelle on peut entendre le chanteur rapper en duo avec Jay-Z. Seulement, la voix de la star américaine a été créée par intelligence artificielle — et cela soulève beaucoup de questions.

La chanson commence de façon normale. Quasiment rien, dans sa description, ne permet de dire qu’il s’agit d’un morceau différent. Seuls deux discrets hashtags mettent la puce à l’oreille : #ai, et #aimusic. Car, oui : malgré ce qu’on pourrait croire, la voix qu’on entend chanter en duo avec Alltta n’est pas celle de Jay-Z. Elle a été reconstituée par intelligence artificielle et le résultat est particulièrement impressionnant.

La vidéo est l’œuvre du duo franco-américain Alltta, qui a composé la musique et les paroles, et dont on peut également entendre la voix. Mise en ligne le 31 mars 2023, la vidéo compte pour l’instant un peu moins de 100 000 vues — mais ce chiffre pourrait bien rapidement augmenter. La chanson commence à faire parler d’elle, et son utilisation de l’intelligence artificielle soulève forcément de nombreuses questions.

Une imitation impressionnante

Il faut tout d’abord commencer par reconnaître la qualité de l’imitation de la voix du rappeur : on dirait vraiment que Jay-Z chante ces couplets. Au sein de la rédaction de Numerama, tout le monde s’accorde à dire que la voix générée par l’IA est bluffante. Bogdan, qui s’occupe de la rubrique Cyberguerre, estime par exemple qu’il ne « pourrait pas distinguer » le vrai du faux.

Il n’est pas le seul. Le youtubeur américain Marques Brownlee, 16,8 millions d’abonnés, a publié une vidéo le 4 avril 2023 spécialement sur cette chanson. « J’ai reçu un email il y a quelques semaines de la part d’un artiste que vous connaissez peut-être, Mr J.Medeiros, qui fait partie du groupe Alltta », indique-t-il dans sa vidéo. Marques Brownlee explique qu’ils parlent du « nouveau morceau sur lequel ils travaillent, une collaboration entre lui et Jay-Z, sauf que la voix de Jay-Z n’est pas vraie, mais générée par intelligence artificielle ».

Les membres d’Alltta hésitaient : comment devaient-ils partager la chanson ? Devaient-ils la partager ? « Pour ceux qui savent à quoi la voix de Jay-Z ressemble, c’est absurde. Cela sonne tellement comme Jay-Z, que même en sachant que la voix est générée par une intelligence artificielle, je pouvais toujours profiter de la chanson comme si elle avait vraiment été chantée par Jay-Z

Un extrait de la vidéo de Marques Brownlee // Source : YouTube / Marques Brownlee
Un extrait de la vidéo de Marques Brownlee // Source : YouTube / Marques Brownlee

Comment ont-ils fait ?

Reste cependant une question : comment ont-ils réussi à reproduire aussi fidèlement la voix du rappeur américain ? Que ce soit sur le site d’Alltta, sur leurs réseaux sociaux ou sur YouTube, il n’y a aucune information disponible. Numerama, a envoyé un message à Alltta, mais n’a pas reçu de réponse de leur part à cette heure.

C’est Marques Brownlee qui raconte que, pendant leurs échanges par mail, Mr J.Medeiros lui a expliqué qu’ils avaient commencé à écrire les paroles de la chanson avant que la technologie ne soit disponible. « Les outils qu’ils ont utilisés n’étaient pas encore complètement aboutis, il y avait toujours des complexités, des réglages à faire, des expérimentations à faire avec différentes méthodes. » Apparemment, certains mots étaient prononcés différemment par l’IA, par rapport à la vie réelle. « Mais le fait que le résultat final soit si bon est ce qui ouvre la boîte de Pandore. Et c’est presque effrayant. »

Le youtubeur n’a pas tort : les intelligences artificielles de génération de voix sont déjà utilisées à des fins néfastes par des cybercriminels. Ces derniers copient les voix de certaines personnes, et se servent d’enregistrements réalisés sur mesure pour soutirer de l’argent à leurs proches. Et la technologie va encore s’améliorer au fil du temps.

Jay-Z // Source : YouTube / Jay-Z
Jay-Z // Source : YouTube / Jay-Z

Dans le cas de cette chanson, d’autres questions se posent. Jay-Z, qui est bien vivant, a-t-il donné son accord pour que sa voix soit modélisée par une intelligence artificielle et intégrer à une chanson ? À qui reviennent les droits d’auteurs, à Alltta, ou à Jay-Z, donc la voix a été utilisée indirectement ? Cette technologie peut-elle se démocratiser et signer la fin des collaborations entre artistes ? Il n’y a pour l’instant pas de réponses, et c’est en partie ce qui rend aussi vertigineuse l’arrivée de cette technologie.

Sur Instagram, la publication d’Alltta partageant la chanson a suscité beaucoup de réactions polarisées. Certaines sont alarmées, d’autres impressionnées et enthousiastes, d’autres encore critiquent le groupe pour ne pas avoir notifié plus clairement que la voix de Jay-Z avait été reproduite par intelligence artificielle.

« C’est à la fois génial et immoral », écrit ainsi quelqu’un sous la vidéo sur Instagram. « Quelqu’un va se servir de ça pour exploiter des clones de célébrité. Les hackers sont tout le temps en train de chercher des fuites d’artistes majeurs. Qu’est-ce qui les empêche de faire leur propre IA de Jay-Z/Kendrick/Ye, et de les faire passer pour des vraies chansons, et se faire de l’argent dessus ? », demande un autre. « Les implications ne sont pas différentes que pour les deepfakes

@numerama

Le groupe AllttA vient de sortir un morceau en featuring avec une IA qui imite la voix de Jay-Z. Qu’est-ce que vous en pensez ? #jayz #ia #alltta

♬ Paris – Else

Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.