Un comité pilote d’éthique du numérique ?
Lié au Comité consultatif national d’éthique, le comité pilote d’éthique du numérique répond à une demande du Premier ministre d’avoir une structure capable « de remettre des premières contributions sur l’éthique du numérique et de l’intelligence artificielle et de déterminer les équilibres pertinents pour l’organisation du débat sur l’éthique des sciences et technologies du numérique et de l’intelligence artificielle.»
Il s’avère que l’idée d’un tel comité pilote figure aussi dans le rapport du député Cédric Villani. Intitulé « Donner un sens à l’intelligence artificielle», le document recommande la création d’un tel organe pour produire des propositions « en toute indépendance ». Dans l’esprit du parlementaire, le comité pourrait être saisi par le gouvernement, les grandes écoles et les universités, et même s’auto-saisir.
![scan radio santé médecine scan radio santé médecine](https://c0.lestechnophiles.com/www.numerama.com/wp-content/uploads/2019/12/scan-radio-sante-medecine-1024x579.jpg?resize=1024,579&key=e33680f9)
Quelle place, par exemple, pour l’IA dans le diagnostic médical ? // Source : Alejandra Silva / IAEA
Le comité est composé de spécialistes dans un nombre varié de disciplines. En fonction des sujets abordés, des groupes de travail seront mis en place. L’instance, qui est pour l’instant provisoire, ne fonctionnera pas en vase clos : elle aura des échanges avec des universités, des organisations comme la CNIL et le Conseil national du numérique, mais aussi avec ses homologues étrangères.
Qui figure au sein de ce nouveau comité ?
27 personnes composent ce comité pilote d’éthique du numérique, dont 15 hommes et 12 femmes. Claude Kirchner en est le président. Il connaît bien les sujets relatifs à l’éthique, puisque ce directeur de recherche émérite de l’institut national français de recherche en sciences et technologies du numérique (INRIA) est aussi membre du Comité consultatif national d’éthique.
À ses côtés figurent des personnalités comme Marie-Laure Denis, présidente de la Commission nationale de l’informatique et des libertés (CNIL), Valéria Faure-Muntian, députée et membre de l’Office parlementaire d’évaluation des choix scientifiques et technologiques (OPECST) ou encore Karin Dognin-Sauze, membre du Conseil national du numérique (CNNum).
Les domaines d’expertise de membres du comité incluent évidemment tout ce qui a trait au numérique et à la technologie (robotique, informatique, innovation, IA, cybersécurité), mais aussi à la médecine (génomique, éthique médicale, bioinformatique, droit de la santé, ), au droit (y compris international et numérique), ainsi qu’à la philosophie, à l’industrie, à l’économie, à l’anthropologie, au langage et à la logique.
La liste complète des membres peut être consultée sur le site du comité, avec le détail de leurs spécialités et à quel organisme ils appartiennent. On y trouve en particulier plusieurs grandes universités, mais aussi le CNRS, HEC, l’École normale supérieure Paris-Saclay, le CEA, l’Institut national de la santé et de la recherche médicale (INSERM) ou encore l’Office national d’études et de recherches aérospatiales (ONERA).
Quels sont les premiers sujets en discussion ?
Trois sujets occuperont dans un premier temps le comité pilote d’éthique du numérique : les agents conversationnels (aussi appelés « chatbots »), les véhicules autonomes et la place de l’IA dans le cadre du diagnostic médical. Ce dernier thème a d’ailleurs fait l’objet d’une réflexion en 2018, quand le Comité consultatif national d’éthique a remis son rapport — et dont la future loi bioéthique tient compte.
Les chatbots soulèvent des questions sur la « transparence sur le traitement des données récoltées, le respect des individus d’une part et la commodité de l’utilisation de telles applications de l’autre, ou encore la mise en œuvre de stratégies d’influence par de tels agents ». La tendance à vouloir les rendre de plus en plus « humains » nécessitera peut-être d’exiger qu’ils s’identifient bien comme robots.
Sur les voitures autonomes, ce sont les « tensions existantes entre automatisation et maitrise humaine dans le contrôle du véhicule » qui occuperont le comité, ainsi que la question des responsabilités en cas d’accident : le constructeur, le conducteur (qui sera de plus en plus un simple passager), l’assureur, les équipementiers ou encore le fournisseur du système de conduite autonome.
Quant à l’IA dans le diagnostic médical, il y aura évidemment à discuter de la transparence et de l’explicabilité des algorithmes structurant cette intelligence artificielle, aussi bien au niveau des professionnels de santé que du public, qui sera concerné au premier chef par ces évolutions. Autre sujet de discussion : la question du risque, si un médecin se décide à ne pas suivre la recommandation d’un algorithme prédictif.
Et maintenant ?
Le comité pilote d’éthique du numérique venant de voir le jour tout récemment, il ne faut pas s’attendre à ce qu’il produise une synthèse de ses travaux dans les jours ou les semaines à venir. D’ailleurs, la première réunion n’a eu lieu que le 4 décembre 2019. Un bilan de ses activités est attendu pour « début 2021 », ce qui laisse aux membres entre un an et un an et demi pour boucler leurs travaux.
Se posera ensuite la question de savoir s’il convient de pérenniser ou non ce comité. Le Comité consultatif national d’éthique doit à ce sujet émettre des recommandations au cours de 2021. Une nouvelle structure pourrait ne pas être forcément requise, d’autant qu’il existe des instances déjà en place qui poursuivent des missions assez similaires, comme la CNIL et le Conseil national du numérique.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.