Kate Crawford et Vlandab Joler ont créé une carte géante résumant le fonctionnement d'un Amazon Echo. Leur œuvre invite à considérer le cycle de vie de l'enceinte et à méditer sur les impacts sociaux de l'intelligence artificielle.

Que se passe-t-il à l’intérieur d’un Amazon Echo ? L’enceinte connectée d’Amazon, qui est arrivée sur le marché français en juillet 2018, fonctionne comme ses homologues Google Home ou HomePod : vous lui parlez, elle vous répond (souvent, « je ne sais pas ») et exécute les commandes que vous lui donnez. Vous pouvez désormais découvrir « l’anatomie du système d’IA » qui permet à cette technologie de fonctionner en image.

Le 7 septembre 2018, Kate Crawford et Vlandan Joler, professeurs membres du laboratoire de recherche Share Lab, se sont attachés à dresser une carte de l’Amazon Echo, décrivant comment cette enceinte en forme de cylindre fonctionne lorsque nous lui adressons une requête.

La « matrice » d’un « système d’intelligence artificielle »

« Dans cette interaction éphémère, une vaste matrice de capacités est invoquée : des chaînes entrelacées d’extraction de ressources, de travail humain, de traitements algorithmiques via des réseaux d’extraction, de logistique, de distribution, de prédiction et d’optimisation. L’échelle de ce système dépasse presque l’imagination humaine  », écrivent-ils.

Comme le précise The Verge, cette carte a été dévoilée au Victoria and Albert Museum de Londres. L’objet mesure deux mètres de hauteur, sur cinq mètres de largeur. Sur fond noir, la carte présente les composants et embranchements de l’enceinte, montrant la complexité de cet objet.

La carte complète du fonctionnement de l’Amazon Echo. // Source : Vladan Joler, Kate Crawford

Une lecture transversale

Pour dresser une carte du fonctionnement de l’enceinte, Kate Crawford et Vlandan Joler décomposent l’Amazon Echo en 21 parties, qui forment ensemble un « système d’intelligence artificielle ». L’une des premières étapes présente l’utilisation du lithium, un élément largement utilisé dans les batteries de smartphones et véhicules électriques. Sa fabrication est d’ailleurs controversée, posant aujourd’hui la question de trouver d’autres sources d’extraction. Le lithium présent dans l’Amazon Echo est extrait dans le Salar d’Uyuni, un désert de sel dans le sud-ouest de la Bolivie.

La carte se décompose ensuite en trois grands ensembles, indispensables selon ses auteurs au développement d’un tel système d’intelligence artificielle : des ressources matérielles, le travail humain et les données. En comparant ces trois composantes à un cycle de vie — la naissance, la vie et la mort — d’une seule enceinte Amazon Echo, leur carte se lit dans différents sens. De la gauche vers la droite, vous pouvez observer le processus à partir des matériaux ; de haut en bas, à partir du travail humain ; en bas se trouvent « les connaissances et capacités humaines, également utilisées pour former et optimiser les systèmes d’intelligence artificielle  ».

L’œuvre invite à la réflexion sur le développement de l’IA

Kate Crawford et Vladan Joler espèrent que le spectateur parvienne à saisir la complexité des systèmes composant nos gadgets embarquant une IA, de plus en plus présents dans nos vies quotidiennes. C’est précisément l’objectif du AI Now Institute, fondé par Kate Crawford : l’étude des impacts sociaux du développement de l’intelligence artificielle.

« Nous devons avoir une conversation plus approfondie et complexe sur les conséquences du développement de l’intelligence artificielle à grande échelle, assure la chercheuse auprès de The Verge. Et avec [Anatomy], cela devient quelque chose que vous pouvez observer et commencer à appréhender comme une partie d’un tableau plus vaste. »

Partager sur les réseaux sociaux