My AI sur Snapchat est accusé de géolocaliser ses utilisateurs contre leur gré

La nouvelle intelligence artificielle de Snapchat est-elle omnisciente ? Sur la toile, de nombreux utilisateurs s’inquiètent : My AI connaîtrait leur position même lorsqu’elle a été désactivée. Ce n’est pas tout à fait exact, mais il y a tout de même des zones d’ombre sur la conservation des données de localisation des utilisateurs.

Mise à jour du 5 mai, après réponse de Snapchat :

« My AI a accès à la localisation d’un Snapchatter pour lui fournir des recommandations uniquement s’il l’a déjà partagée avec ses amis sur Snap Map ou avec Snapchat au niveau de l’appareil. Nous sommes conscients que cela a causé de la confusion chez les Snapchatters, mais My AI ne recueille aucune nouvelle information de localisation. »

Article original, publié le 4 mai :

« J’ai supprimé l’accès à ma localisation PARTOUT sur snapchat et dans les réglages de mon téléphone, en supprimant les données de My AI ensuite… et il peut QUAND MÊME me localiser ????? », s’interroge @Naewktm sur Twitter le 1er mai 2023. Comme de nombreux utilisateurs de l’application au petit fantôme, elle s’interroge sur l’étendue des connaissances de la nouvelle fonctionnalité phare de Snapchat.

Depuis le 2 mai, My AI, le nouvel assistant / ami virtuel de Snapchat a fait son apparition dans l’application, au-dessus de toutes les autres conversations. Il s’agit d’un petit nouveau encore peu pertinent qui répond souvent à côté, comme Numerama a pu le constater. Le bridage virtuel appliqué sur l’IA accentue notamment beaucoup le côté artificiel du bot.

j’ai supprimé l’accès à ma localisation PARTOUT sur snapchat et dans les réglages de mon téléphone, en supprimant les données de My AI ensuite… et il peut QUAND MÊME me localiser ????? EH
— 𝐍⁷ 🍂 ʟᴀʏᴏ(ꪜ)ᴇʀ | cr : EOS & TOD tandem (@naewktm) May 1, 2023

Une IA gourmande en données ?

Basée sur une version récente de ChatGPT, My AI se contente de répondre aux requêtes de son hôte : rechercher un restaurant, un musée, ou encore des randonnées proches de vous… Pour fonctionner, l’IA de Snapchat s’appuie sur votre position géographique : seule la commune dans laquelle vous vous trouvez est communiquée au système.

Dans sa documentation officielle, Snapchat précise que « vos données seront utilisées pour améliorer les produits de Snap et personnaliser votre expérience, publicités incluses. » Une communication en apparence transparente. Ce que Snapchat ne précise pas en revanche, c’est qu’une fois collectée, la donnée de localisation sera stockée, sans possibilité apparente de la supprimer complètement.

My AI utilise la position pour suggérer des lieux à visiter (notamment). // Source : Numerama

Officiellement, l’IA de Snapchat confirme qu’elle accède à votre position géographique en se basant sur la fonctionnalité Snap Map. Si vous avez activé le partage de votre position avec Snapchat, My Al peut donc accéder à votre position et vous fournir des recommandations en fonction de votre emplacement.

My AI dit avoir accès uniquement « aux informations de localisation des utilisateurs qui ont activé la fonction de partage de leur position ». L’IA confirme également que la position de l’utilisateur est connue de Snapchat et de son système, même lorsque l’utilisateur a activé le mode « fantôme », dans les paramètres.

Mais alors, My AI sait-elle où vous êtes, si vous désactivé toute géolocalisation ?

My AI ne peut pas oublier votre position

MY AI continue d'accéder à l'historique des positions même lorsque la géolocalisation est désactivée. // Source : Numerama — MY AI continue d’accéder à l’historique des positions même lorsque la géolocalisation est désactivée. // Source : Numerama

Numerama a testé la manipulation. En désactivant la localisation dans les paramètres iOS de notre téléphone, My AI continue de nous donner des informations sur notre position. L’IA accède-t-elle alors à notre position sans le GPS ? Pas forcément.

La réponse pourrait se trouver dans le cache de l’application, ces fichiers temporaires qui stockent une partie des préférences de l’utilisateur. Après la suppression du cache, dans les paramètres de Snapchat, My AI continue fièrement de nous suggérer des points d’intérêts géographiques à proximité : elle n’a donc pas oublié notre dernière position en date, malgré l’effacement du cache. Même résultat en supprimant et en réinstallant l’application, My AI ne bronche pas.

L’historique des positions stocké sur des serveurs

Une seule hypothèse nous paraît encore crédible : My AI utiliserait l’historique des positions géographiques précédentes stockées sur les serveurs de Snapchat. Vérification faite en téléchargeant les données de notre compte : les informations de localisations sont bien présentes dans l’archive. On retrouve précisément la date, l’heure, la position géographique (et l’estimation de sa précision), dans l’historique des positions.

L'archive des données contient bien la position géographique (floutée ici). // Source : Numerama — L’archive des données contient bien la position géographique (floutée ici). // Source : Numerama

« Si vous activez les autorisations de localisation sur votre appareil, nous stockons une liste des lieux que vous avez visités », assure ainsi Snapchat dans l’archive. Des positions qui semblent, ainsi toujours exploitées par My AI.

Il apparait donc que My AI pose des questions sur la conservation des données de géolocalisation, qu’elle utilise toujours, malgré la volonté des utilisateurs de les faire disparaître. Néanmoins, à partir du moment où l’on désactive complètement toute géolocalisation, l’IA n’est plus censée pouvoir avoir accès à la nouvelle position de l’utilisateur.