Cette tribune a été publiée sur Numerama en janvier 2017. Nous l’avons republiée en mai 2018 à la suite des annonces de Google Duplex, qui entre pile dans le sujet de cette réflexion.
Hervé Mignot est associé chez Equancy, responsable de la practice Data, Analytics et Solution. Titulaire d’un doctorat en Machine Learning, il nous a proposé de publier une tribune sur l’intelligence artificielle et un principe de précaution qui pourrait devenir essentiel dans les années à venir. Le drapeau rouge de Turing, en effet, pourrait encadrer les assistants personnels, mais aussi les voitures autonomes ou les algorithmes développés pour le jeu.
Même si je reste pour ma part prudent quant aux diverses allégations faites sur les capacités à venir de l’intelligence artificielle, nombreux sont ceux qui ouvrent déjà le débat sur les conditions dans laquelle la société des hommes doit accueillir ces nouveaux hôtes.
Ray Kurzweil est un ingénieur et futurologue américain à qui on doit, entre autres travaux tous plus passionnants les uns que les autres, une réflexion exceptionnelle sur la Singularité. Elle est synthétisée dans l’ouvrage The Singularity is Near. Il travaille aujourd’hui pour Google sur le deep learning mais est aussi membre du conseil d’administration du MIT et conseiller de l’armée américaine pour les nouvelles technologies.
Elon Musk, le patron de Tesla Motors et de SpaceX, s’est fait le porte-parole de plusieurs industriels (même de la Silicon Valley) et scientifiques (dont Stephen Hawking) pour avertir des risques qu’ils voient à l’usage de l’intelligence artificielle. La crainte ultime est que ne survienne la singularité (popularisée par Ray Kurzweil le transhumaniste de Google), ce moment singulier de l’histoire de l’humanité où l’apparition d’une entité supérieurement intelligente à l’homme empêche toute prospective ou toute prévision sur la suite des événements. D’autres, plus prosaïquement, réfléchissent aux règles à imposer lors de la conception ou de l’usage de ces systèmes.
Dans un article de Communications of the ACM de Juillet 2016, Toby Walsh aborde le sujet d’une façon originale. Il rappelle que lors des débuts de l’automobile en Angleterre en 1865, les premières voitures à moteur devaient être précédées d’un porteur d’un drapeau rouge pour signaler qu’il s’agissait d’un véhicule motorisé (c’est-à-dire avec une propulsion ni animale, ni humaine). Il remarque que cette obligation n’a été abandonnée, les véhicules à moteur voyant leur vitesse limite augmentée à 23 km/h, qu’en 1896 (trente ans plus tard !) et que c’est cette même année que l’on recense le premier décès par accident automobile.
S’inspirant du principe de prévention qui a conduit au vote de cette loi du drapeau rouge, Toby Walsh propose d’édicter une règle que devrait respecter tout système autonome (donc une intelligence artificielle). Isaac Asimov avait en son temps énoncé les trois lois de la robotique et exploré littérairement les implications de ces lois, reprises depuis par de nombreux auteurs et prospectivistes. Toby Walsh s’inspire ainsi de cette démarche et commence à étudier les conséquences de sa loi.
Google Duplex est une innovation de Google qui a amélioré son Assistant afin qu’il puisse passer des appels téléphoniques à la place des humains. Dans une démonstration lors de la Google I/O 2018, la technologie a fait forte impression, entraînant de nombreux débats sur son éthique. Peu après, Google a clarifié sa position : Duplex aura son « drapeau rouge ».
Le drapeau rouge de Turing
Loi du drapeau rouge de Turing : tout système autonome doit être conçu de façon à ce qu’il soit improbable qu’il puisse être confondu avec autre chose qu’un système autonome, et doit s’identifier en tant que tel au début de toute interaction avec un autre agent.
La référence à Turing renvoie au test que celui-ci avait proposé pour établir qu’une machine était intelligente : si lors d’une discussion libre mais à couvert avec un interlocuteur humain, cet interlocuteur est incapable de dire s’il a affaire à une machine ou un humain, alors la machine aura passé le test de Turing. Beaucoup ont discuté la pertinence de ce test, car il s’agit plutôt pour la machine d’imiter (ou flouer…) son interlocuteur humain plutôt que de faire preuve d’intelligence à proprement parler. Il n’en reste pas moins un point de référence pour évaluer les interactions entre les humains et les machines.
Cette loi du drapeau rouge comporte deux volets. Le premier impose qu’un système autonome ne soit pas conçu de sorte qu’il puisse agir d’une façon qui pourrait faire croire qu’il y a un humain dans la boucle. Bien sûr, on pourra regretter des situations où il serait utile qu’un système autonome puisse être confondu avec un humain. Une intelligence artificielle prétendant être un humain pourrait créer des interactions plus stimulantes pour les humains. Dans le cas des soins aux personnes âgées ou en dépendance, c’est justement un comportement « humain » de la part du robot qui peut être recherché.
Mais les raisons de préférer ne pas être trompé par un ordinateur prévalent largement. Dans le même esprit, le gouverneur Schwarzenegger lui-même avait fait voter une loi obligeant les armes factices à être d’une couleur permettant de les différencier facilement des armes réelles pour que l’on ne puisse pas le confondre dans certaines situations critiques. Bien entendu, cette loi du drapeau rouge rendrait « illégal » le fameux test de Turing…
Loi : un système autonome doit se faire connaître comme tel
La seconde partie de cette loi oblige les systèmes autonomes à se faire connaître en tant que tel au début de toute interaction avec un autre agent, y compris si celui-ci est un autre système autonome, une autre intelligence artificielle. Il s’agit ici d’éviter que l’on puisse prendre un système pour autre chose que ce qu’il est.
Appliquer le drapeau rouge : 4 exemples
Toby Walsh analyse ensuite quatre situations où sa loi a un impact certain.
Dans le cas de la voiture autonome : deux voitures autonomes respectant la loi du drapeau rouge de Turing qui se rencontrent à un croisement pourront agir en conséquence (échange de données, algorithme d’arbitrage sur qui passe avant qui) car elles auront l’obligation de s’identifier en tant que véhicules autonomes lors de leur interaction en vue du carrefour (deuxème partie de la loi).
Pour qu’elle puisse être identifiée par les humains, la voiture autonome devrait comporter une marque externe distinctive, comme des plaques d’immatriculations spécifiques (ou un macaron comme celui des nouveaux conducteurs ou de la conduite accompagnée), voire un signalement externe plus visible (liseré latéral, champignon sur le toit, etc.).
Un conducteur humain pourra alors adapter son comportement à sa connaissance des règles de conduite suivies par l’autre véhicule autonome (respect strict des feux, freinage plus précis). Il pourrait aussi consulter sur l’écran de son véhicule les intentions émises (direction, destination) par les véhicules autonomes, la question se posant alors de préserver la confidentialité des passagers du véhicule autonome.
Deuxième situation où cette loi pourrait jouer un rôle important est celui des assistants personnels, particulièrement ceux interagissant avec des enfants, ou des gens présentant des troubles psychologiques ou des maladies neurodégénératives. Faut-il craindre les impacts sur ces personnes plus fragiles d’une éventuelle déception à la découverte que c’est un système autonome, et non un humain, qui les assistent ? Asimov décrit ainsi dès 1950 les conséquences de l’attachement (excessif ?) d’une jeune fille à son robot nounou. Et vous pouvez vous-même vous amuser à vérifier que Siri d’Apple n’est pas tout à fait en conformité avec cette loi, contournant la réponse à une question directe sur son humanité !
Autre cas, celui des compétitions reposant sur la confrontation d’esprits, comme les jeux d’argent en ligne, où il serait problématique que certains participants soient des systèmes autonomes, à forte capacité de calcul, sans que les adversaires soient pleinement informés de la situation. C’est précisément ce qui s’est produit avec Google et AlphaGo, qui a joué en ligne contre des champions en se cachant derrière un pseudonyme.
Enfin, un domaine où l’intelligence artificielle avance est la génération de texte automatique. Un certain nombre de domaines, comme la rédaction de rapports financiers, de compte-rendu de matchs sportifs, voit le développement d’outils de génération d’articles. On peut parfaitement envisager que ces outils soient utilisés dans des domaines réservés pour l’instant à des journalistes et des auteurs humains. Savoir que le texte que vous lisez a été produit par un système autonome sera sûrement un élément important dans votre évaluation et jugement de cette production textuelle.
Faut-il légiférer ?
Alors faut-il prendre les devants, en demandant le débat, l’élaboration et le vote d’un cadre juridique pour l’intelligence artificielle ? Après tout, la loi impose bien par exemple que vous soit signalée l’utilisation de dispositifs d’enregistrements vidéo et audio dans les espaces publics ou lors d’appels téléphoniques, pourquoi pas de l’usage de l’intelligence artificielle. Mais peut-être est-ce faire une publicité peut-être un peu excessive et prématurée à l’intelligence artificielle au regard de ses capacités réelles ?
L’Allemagne prépare déjà un cadre législatif pour les voitures autonomes
Dans le cas de la voiture autonome, les mises en service (Californie, Nevada, Singapour, Pittsburg, etc.) se font avec des ajustements législatifs pour autoriser leur circulation, mais sans véritable débat sur les implications de l’irruption de ces systèmes autonomes « intelligents », susceptibles d’être pris pour des humains (l’Allemagne prépare depuis 2015 un cadre législatif pour les véhicules autonomes).
Souvent les technologies pervasives sont adoptées rapidement, sans grande réflexion ou protestation si ce n’est des grincheux usuels. Mais quand ces technologies touchent à la nature humaine, à l’homo, alors les réactions sont vives et nous légiférons souvent (loi bio-éthique, OGM, nanotechnologies invasives). Qu’en sera-t-il des technologies touchant au sapiens de l’humanité ?
Cette tribune a été publiée originellement sur le blog d’Equancy.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.