Alibaba reconnaît avoir développé un algorithme raciste pour surveiller les Ouïghours

L’histoire paraît irréelle, mais elle est bien vraie : le géant de l’e-commerce chinois Alibaba, l’une des multinationales les plus puissantes au monde, a créé un logiciel et un algorithme de reconnaissance faciale permettant d’identifier les personnes d’origine ouïghoure. Ces faits ont été révélés dans une enquête en deux parties publiée le 16 décembre et réalisée par le New York Times et le site spécialisé dans la vidéosurveillance IPVM.

Alibaba vient de reconnaître dans un communiqué de presse l’implication de sa filiale Alibaba Cloud dans la réalisation, le développement et la production de ces moyens de surveillance envers la population ouïghoure. Minorité musulmane vivant principalement dans le nord-ouest de la Chine, dans la province du Xinjiang, les Ouïghours sont victimes depuis des années de persécutions de la part du gouvernement chinois, et sont surveillés en permanence.

Pour aller plus loin

Comment la Chine surveille-t-elle les touristes dans la région sensible du Xinjiang ?

Le fait que l’un des plus grands groupes chinois collabore avec Beijing dans la répression des Ouïghours est un indicateur de pressions de plus en plus intenses de la part du gouvernement sur les entreprises, déjà très proches, par leur structure, du pouvoir.

Alibaba a reconnu avoir créé un logiciel de reconnaissance ciblant les Ouïghours

Source : IPMV / Youtube

Alibaba vend à ses clients la surveillance des ouïghours

Connu principalement comme un géant de l’e-commerce, Alibaba propose également de nombreux services liés au cloud et des services de reconnaissance faciale. Le groupe a donc proposé aux clients de ses services de surveillance d’identifier les personnes d’origine ouïghoure. L’enquête d’IPVM et du New York Times explique que les clients recevaient des alertes à chaque fois qu’un visage jugé comme appartenant à une personne ouïghoure était détecté. Et parmi ces clients, les journalistes ont identifié une douzaine de départements de police à travers la Chine, montrant que leur persécution ne s’arrête pas au Xinjiang mais s’étend dans tout le pays.

Le développement d’un tel algorithme nécessite une quantité très importante de photos, afin d’entraîner l’intelligence artificielle à la reconnaissance de certains traits physiques, précise le journal.

IPVM n’a pas pu « trouver d’entreprises privées qui utiliseraient le service de reconnaissance des minorités proposé par Alibaba ». Les journalistes ont cependant pu démontrer que d’autres entreprises chinoises spécialisées dans la surveillance utilisent des algorithmes similaires de reconnaissance des Ouïghours. Leur enquête est résumée dans la vidéo (en anglais) ci-dessous.

Alibaba « consterné », d’autres entreprises concernées

« Nous n’avons jamais voulu que cette technologie soit utilisée dans le cadre d’un profilage de certains groupes ethniques », a commenté Alibaba, à propos de l’initiative qu’il juge du seul fait de sa filiale Alibaba Cloud — une manière maladroite de se désolidariser. Le groupe s’est dit « consterné d’apprendre qu’Alibaba Cloud a développé une technologie de reconnaissance faciale », et indique dans sa réponse à IPVM que cet algorithme était en « test ». « Aucun de nos clients n’a utilisé cette technologie, que nous avons retirée de nos offres produits ».

IPVM note cependant dans son article que « le développement d’un tel algorithme n’arrive pas par hasard. Alibaba a ciblé les Ouïghours, ce n’était pas un test inoffensif. Ils ont directement proposé à leur client un logiciel raciste. Une communication d’entreprise honteuse ne changera pas les faits ». Alibaba n’a, en plus, pas apporté de preuve qu’il s’agissait d’un logiciel de test et n’a pas diffusé son communiqué en chinois, alors que seuls ses clients chinois ont un accès à cette technologie.

Alibaba n’est pas le seul groupe chinois à utiliser des algorithmes de reconnaissance faciale très poussés. IPVM avait d’ores et déjà révélé dans une autre enquête en collaboration avec le Washington Post que le géant de la tech Huawei avait travaillé avec une entreprise spécialisée dans la vidéo surveillance, Megvi, pour mettre au point des « alertes Ouïghours ».