Des centaines d'ingénieurs et universitaires ont signé cette semaine une lettre ouverte pour alerter sur les dérives d'une intelligence artificielle (IA) dont les progrès techniques seraient réalisés en dehors de toute considération sur les progrès sociétaux qu'elle doit apporter. Essentiel.

Ils sont déjà plus de 1500 à avoir signé la lettre ouverte publiée cette semaine sur le site Future Of Life, dans laquelle des ingénieurs et scientifiques se montrent à la fois enthousiastes et craintifs sur les progrès de l'intelligence artificielle, qui peut être tout autant un bond pour l'humanité qu'une catastrophe sociétale. Que ce soit les fantasmes à la Terminator d'une prise de pouvoir par les machines ou le risque plus immédiat d'un chômage massif et d'un accroissement des inégalités provoqué par le développement (qu'il est déjà vain de contester) de robots-travailleurs détenus par quelques richissimes industriels, les raisons d'être inquiet de voir progresser l'Intelligence Artificielle sont nombreuses.

Dans cette lettre ouverte, les chercheurs appellent à travailler à une orientation éthique des travaux de l'IA, et à une réflexion globale sur la place des robots intelligents dans la société. Comme le disait Rabelais, "science sans conscience n'est que ruine de l'âme".

La lettre est notamment signée par le directeur de la recherche de Microsoft Eric Horvitz, le directeur de l'IA chez Facebook Yann LeCun, plusieurs reponsables de l'IA chez Google (dont l'ingénieur français Laurent Orseau), le fondateur de Tesla et SpaceX Elon Musk, ou encore par Stephen Hawking, qui avait déjà tiré la sonnette d'alarme.

Nous avons traduit ci-dessous l'intégralité de la lettre :

"La recherche sur l'intelligence artificielle (IA) a exploré une diversité de problèmes et d'approches depuis ses débuts, mais ces 20 dernières années ou plus, elle s'est concentrée sur la construction d'agents intelligents — des systèmes qui perçoivent et qui agissent dans un certain environnement. Dans ce contexte, "l'intelligence" est reliée à des notions statistiques et économiques de la rationalité — pour le dire familièrement, la possibilité de prendre de bonnes décisions, de faire des plans, ou des déductions. L'adoption de représentations probabilistes et par théorie de la décision ("decision-theoritic" dans le texte original, ndlr) et de méthodes d'apprentissage statistiques a conduit à un grand degré d'intégration et de fertilisation croisée entre les IA, l'apprentissage machine, les statistiques, la théorie du contrôle, les neurosciences, et d'autres domaines. La mise en place de cadres théoriques partagés, combinée à la disponibilité de données et à la capacité de calcul, a offert des succès remarquables dans diverses tâches composantes, telles que la reconnaissance vocale, la classification des images, les systèmes autonomes, la traduction machine, la locomotion sur pattes, et les systèmes de questions-réponses.

A mesure que les capacités dans ces domaines et dans d'autres franchissent la frontière entre la recherche en laboratoire et des technologies à valeur économique, un cercle vicieux s'installe dans lequel même de petites améliorations de performance valent de grandes quantités d'argent, incitant davantage d'investissements dans la recherche. Il y a désormais un large consensus sur le fait que la recherche en IA progresse de façon soutenue, et que son impact sur la société va probablement s'accroître. Les bénéfices potentiels sont énormes, puisque tout ce que la civilisation peut offrir est un produit de l'intelligence humaine ; nous ne pouvons pas prédire ce que nous pourrions réaliser lorsque cette intelligence sera amplifiée par les outils que l'IA peut fournir, mais l'éradication des maladies et de la pauvreté ne sont pas insondables. Grâce au formidable potentiel de l'IA, il est important de rechercher la manière de récolter ses avantages tout en évitant ses pièges potentiels.

Les progrès dans la recherche en IA font qu'il est aujourd'hui opportun de concentrer la recherche non seulement sur le fait d'augmenter la capacité de l'IA, mais aussi de maximiser les bénéfices sociétaux de l'IA. De telles considérations ont motivé le Panel Présidentiel sur Les Futurs à Long-Terme de l'IA AAAI 2008-09 et d'autres projets sur les impacts de l'IA, et constituent une expansion significative du champs de l'IA lui-même, qui jusqu'à présent s'est concentré largement sur des techniques qui sont neutres à l'égard de leur finalité. Nous recommandons une recherche étendue destinée à s'assurer que les systèmes d'IA de plus en plus capables soient robustes et bénéfiques : nos systèmes d'IA doivent faire ce que nous voulons qu'ils fassent. Le document joint  sur les priorités de recherches donne beaucoup d'exemples de telles directions de recherches qui peuvent aider à maximiser les bénéfices sociétaux de l'IA. Cette recherche est par nécessité interdisciplinaire, parce qu'elle implique à la fois la société et l'IA. Elle va de l'économie au droit en passant par la philosophie, la sécurité informatique, les méthodes formelles et, bien sûr, diverses branches de l'IA elle-même.

En résumé, nous pensons que la recherche sur comment faire des systèmes d'IA robustes et bénéfiques est à la fois important et opportun, et qu'il y a des directions de recherche concrètes qui peuvent être poursuivies aujourd'hui."

(Illustration : CC @Shoji)

Partager sur les réseaux sociaux

Articles liés