Un des pères fondateurs de l’IA quitte Google et regrette son travail

Mise à jour du 5 mai :

Depuis l’annonce du départ de Geoffrey Hinton, de nombreuses voix, notamment en interne, s’élèvent pour souligner le potentiel opportunisme de l’ex-cadre de Google ; qui n’aurait jamais manifesté ces inquiétudes avant de partir à la retraite.

Article original du 2 mai :

La course à l’IA pourrait-elle un jour dérailler ? Depuis plusieurs mois, les géants de la tech tentent d’implémenter l’intelligence artificielle dans tous leurs produits. Une bataille féroce qui pousse les entreprises à sortir de nouvelles technologies encore expérimentales, afin d’arriver avant leurs concurrents.

En mars, une lettre ouverte publiée sur le site de Future of Life, aujourd’hui signée par plus de 27 000 personnes, appelait à une pause de six mois dans le développement des modèles d’intelligence artificielle. Aujourd’hui, Geoffrey Hinton, un des pionniers de l’IA, fait part de ses craintes au sujet de la croissance exponentielle des capacités de ces nouvelles technologies. Geoffrey Hinton s’est confié longuement au fil d’une interview publiée le 1^er mai dans les colonnes du New York Times.

Geoffrey Hinton quitte Google

Lauréat du Turing Award en 2019, une distinction équivalente au Nobel dans l’informatique, Geoffrey Hinton a longtemps travaillé sur les réseaux neuronaux composant les bases de l’IA, ce qui a permis à de nombreux modèles d’exister, notamment ceux d’OpenAI.

Salarié de Google pendant plus de 10 ans, le chercheur a annoncé quitter son poste pour pouvoir s’exprimer plus librement. Il dit aujourd’hui regretter une partie de son travail. « Je me console avec l’excuse habituelle : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait », assure-t-il.

Geoffrey Hinton craint notamment l’utilisation de l’IA par des acteurs malveillants. Le perfectionnement des systèmes ces dernières années lui fait craindre un remplacement progressif de l’humain par la machine. L’ingénieur dit avoir pris conscience des dérives potentielles de l’IA l’année dernière, alors qu’OpenAI déployait des modèles utilisant des quantités de données astronomiques. À certains égards, Hilton pense même que l’IA peut éclipser l’intelligence humaine.

« Peut-être que ce qui se passe dans ces systèmes est en fait bien meilleur que ce qui se passe dans le cerveau », s’inquiète celui que l’on surnomme « le parrain de l’IA ».

Plus qu’une dérive des géants du secteur, l’ingénieur redoute que l’internet de demain ne soit envahi de faux contenus générés artificiellement (photographies, vidéos, articles…).

Des IA plus intelligentes que les humains ?

Plus classiquement, Hinton s’attend également, comme le soulignent de nombreux experts, à un impact néfaste et durable sur l’emploi. Même si les IA « éliminent les tâches fastidieuses », il se peut qu’elles « enlèvent plus que cela », redoute-t-il, en évoquant les suppressions de postes à venir.

Enfin, l’ex Googler, redoute à terme que l’intelligence artificielle devienne une réelle menace pour l’humanité. La capacité de certains services à apprendre du code, le générer et l’exécuter ensuite l’effraie.

« L’idée que ces machines puissent devenir plus intelligentes que les humains, quelques personnes y ont cru. Mais la plupart des gens pensaient que c’était une erreur. Personnellement, je pensais que c’était loin d’être le cas. Je pensais que c’était dans 30 à 50 ans, voire plus. Évidemment, je ne le pense plus », analyse Geoffrey Hinton.

Pour éviter une telle dérive, il mise sur le collectif et espère que les chercheurs du monde entier réussiront à collaborer afin de développer un système capable de contrôler et de réguler l’IA.

Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.

Google

Télécharger gratuitement