Le Comité consultatif national d’éthique (CCNE) a rendu public son rapport des États généraux de la bioéthique 2018. La robotisation, l'intelligence artificielle et les données de santé font partie des problématiques identifiées par l'autorité. En voici les points à retenir.

Procréation, recherches sur l’embryon, médecine génomique, neurosciences, dons et transplantations d’organes, ou encore accompagnement de la fin de vie : les thèmes que le Comité consultatif national d’éthique (CCNE) aborde dans son rapport des États généraux de la bioéthique 2018, rendu public le 25 septembre, sont nombreux, et pour certains d’entre eux, débattus depuis longtemps.

D’autres peuvent sembler plus récents, car les enjeux qu’ils soulèvent sont apparus grâce au développement de l’informatique. Ils ne sont pas ignorés par le CCNE. Parmi les réflexions de l’autorité administrative indépendante, entre les examens génétiques et les effets de l’environnement sur la santé, on trouve des sujets relatifs au numérique : les robots, l’intelligence artificielle et les données de santé.

Un focus sur les enjeux soulevés par les progrès du numérique dans le domaine de la médecine

test adn laboratoire médecine santé
Un test ADN. // Source : University of Michigan School for Environment and Sustainability

IA et robotisation

Le CCNE reconnaît que « le recours à l’intelligence artificielle peut être bénéfique au niveau du diagnostic ». Le Comité observe que « la machine est capable d’opérations de calcul extrêmement plus complexes que l’être humain et sa mémoire est quasiment infinie ». Elle peut travailler sans relâche et produire un diagnostic « plus rapide, plus précis » dans une variété très large de champs d’application.

L’IA, qui a la possibilité « d’accumuler un nombre de schémas d’interprétation médicale sans commune mesure avec les capacités d’un médecin ou d’un chercheur », soulève toutefois des questions autour de la responsabilité : « faut-il et, si oui, comment, rendre indispensable et responsable l’expertise humaine ? », et cela même si l’IA prend une place de plus en plus importante dans la décision finale ?

Le robot Rosa au CHU d’Amiens // Source : Medtech

Le Comité soulève ainsi une possible évolution des équilibres entre la machine et le médecin : « la machine apprenante ne risque-t-elle pas de bouleverser le statut du médecin, repoussé dans l’approximation du diagnostic tandis que la présomption de perfection s’appliquerait à la machine ? Comment, dès lors, penser une responsabilité juridique de la machine ? ».

Au-delà du rapport médecin-IA, le CCNE s’est penché sur ce qui se passerait en cas de dysfonctionnement ou de mauvais diagnostic. Qui endosse la responsabilité ? Celui qui a conçu les algorithmes ? Celui qui les utilise pour faire le diagnostic ? Personne ? Celui qui a conçu les algorithmes est-il encore responsable dans le cas d’un système pouvant évoluer seul, avec des capacités d’apprentissage ?

Un autre aspect abordé est la déshumanisation de la pratique médicale. « La relation patient-médecin imposant le maintien d’une présence humaine, les dispositifs utilisant l’IA ne peuvent être envisagés que comme un complément à l’activité du médecin », est-il écrit. « Le manque d’empathie et de communication des robots […] fait craindre une augmentation de l’isolement et une moindre présence humaine ».

da Vinci chirurgie
Une démonstration d’un robot da Vinci. // Source : Roswell Park

Données de santé

Les données de santé sont l’autre grande problématique liée au numérique. Là aussi, le CCNE reconnaît leur intérêt : leur collecte et leur exploitation « ont déjà permis concrètement d’apporter des bénéfices remarquables pour la recherche médicale et pour la prise en charge des patients ». Elles « préfigurent d’ores et déjà un bouleversement de la prise en charge du bien-être et de la santé des personnes ».

Cependant, les effets du croisement des données sont évoqués : les masses de données « ne sont en elles-mêmes pas particulièrement sensibles mais |elles] peuvent le devenir par le biais de leur réutilisation et de leur croisement avec d’autres, qui ne leur sont pas liées ». Cela peut avoir des incidences sur le respect de la vie privée, le secret médical, la valeur du consentement, de l’autonomie, de la solidarité ou de la décision médicale.

esante-medecine-hopital
NEC Corporation of America

Pour le Comité, il apparaît fondamental de « redonner à l’individu une certaine maîtrise sur les données qui le concernent, ainsi que la compréhension de ce qui en est fait ». Cela doit passer par des aménagements du consentement libre et éclairé, dans un contexte qui est justement en partie défavorable : des données personnelles peuvent être utilisées en l’absence de toute transparence et sans consentement.

« La complexité et l’opacité de l’exploitation des métadonnées et la difficulté d’énoncer des finalités précises interrogent la notion classique de choix libre et éclairé et de consentement, et pourraient restreindre la contribution de la personne à la décision médicale qui la concerne », poursuit le CCNE. Des explications et des informations sont donc à fournir aux individus.

Enfin, qui dit donnée dit sécurisation et anonymisation (ou pseudonymisation). « La difficulté technique d’assurer l’anonymat des données et la fragilité des mesures de sécurisation créent un risque majeur d’atteinte à la vie privée », note le CCNE. En effet, outre les garde-fous à prévoir face aux abus des entreprises, il y a le risque du piratage qui pourrait déboucher sur une utilisation malveillante des données de santé.

télémédecine
Une consultation en télémédecine. // Source : Intel Free Press

Partager sur les réseaux sociaux