« Darwin Awards de l’IA » : ce site répertorie tous les échecs de l’intelligence artificielle

Les progrès réalisés dans le domaine de l’intelligence artificielle ces dernières années sont particulièrement impressionnants. De la détection de grains de beauté potentiellement dangereux à la création d’une nouvelle chanson du groupe Nirvana, les utilisations sont aussi diverses que surprenantes. Mais l’IA soulève également de graves problèmes, notamment en termes de racisme et de discrimination. En effet, contrairement à ce qui a longtemps été annoncé, les algorithmes qui font fonctionner les intelligences artificielles ne sont pas neutres, et répètent bien souvent les biais humains.

Entre les préjugés racistes et les « simples » erreurs dans la conception d’intelligences artificielles et de robots, les accidents sont nombreux. Et ils sont maintenant répertoriés dans un site.

Vous pouvez consulter le site de l’Artificial Intelligence Incidents Database ici. 

« Comment cette idée pourrait devenir une dystopie ? »

L’Artificial Intelligence Incidents Database, le site qui agrège tous les échecs dans le domaine des intelligences artificielles, a été lancé à la fin de l’année 2020, et répertorie déjà 100 incidents. Sean McGregor, un chercheur en machine learning à l’origine du projet, a eu l’idée de créer une sorte de Darwin Awards des IA après de nombreuses conversations avec ses proches.  « Mes collègues ont régulièrement des idées brillantes, et je me retrouve souvent à leur demander ‘as-tu envisagé la manière dont cette idée pourrait générer en dystopie ?’», a-t-il confié au site Wired, qui l’a interrogé.

Pour lui, le peu de recul sur les innovations dans le secteur de l’intelligence artificielle fait qu’on se concentre encore trop peu sur la sécurité des produits. Il en veut notamment pour exemple les nombreux problèmes de racismes qui concernent les IA. Il espère que la liste incitera les entreprises et les chercheurs à faire plus attention aux potentielles retombées négatives de leurs inventions.

Artificial Intelligence Incident Database

Source : Artificial Intelligence Incident Database

Plusieurs incidents ont entrainé des morts

On retrouve hélas, parmi les cent incidents pour l’instant répertoriés, plusieurs cas graves ayant causé la mort de personnes. C’est notamment le cas de  l’incident #4 : un essai de voiture autonome chez Uber. En 2018, une voiture autonome a tué une piétonne qui traversait la route à cause d’un problème avec le système d’arrêt d’urgence. Il y a également l’accident #5 : en 2020, un rapport du MIT expliquait qu’un robot utilisé lors d’opérations chirurgicales avait causé au moins 144 décès aux États-Unis. La liste est longue, et rappelle que si les avancées technologiques sont en grande partie des inventions qui améliorent le quotidien, il faut toujours prendre en compte les possibles retombées négatives, et y prêter une attention toute particulière.

Il n’y a cependant pas que des incidents aussi dramatiques que ceux cités plus haut. On trouve notamment dans la liste, l’exemple d’une guerre d’édition entre deux bots sur Wikipedia, chacun effaçant les modifications faites par l’autre ; ou encore l’exemple d’une enceinte Alexa qui, sans avoir reçu la moindre instruction et alors que son propriétaire n’était pas chez lui, a lancé toute seule de la musique pendant la nuit, au point que les policiers ont été appelés pour tapage nocturne.