La confidentialité entre ChatGPT et ses utilisateurs est-elle bien réelle ? Alors que de nombreux professionnels ont déjà intégré l’IA d’OpenAI à leur workflow quotidien, Apple met en garde ses salariés. Les conversations échangées avec le chatbot pourraient mettre en péril le secret industriel et compromettre les informations sur de futurs produits.
Selon un document interne consulté par nos confrères du Wall Street Journal le 18 mai 2023, Apple interdit désormais à certains employés d’utiliser ChatGPT et plusieurs autres services d’IA externes à l’entreprise. Les restrictions drastiques s’appliqueraient également à Github Copilot, un modèle permettant de générer du code source par prédiction.
L’historique des conversations analysé par OpenAI
Pour fonctionner, les modèles derrière ChatGPT (GPT-3 et GPT-4 selon la version) ont été entraînés sur d’immenses corpus de texte provenant du web. Cette étape est complétée par de l’apprentissage par renforcement (reinforcement learning). Dans cette phase, les développeurs de l’IA soumettent de nombreux prompts au système pour tenter de calibrer plus finement les réponses.
Aujourd’hui en production, ChatGPT continue d’être amélioré par les équipes d’OpenAI. Par défaut, l’historique des conversations avec le bot est stocké sur le serveur, avant d’être potentiellement analysé et utilisé pour perfectionner l’IA. Les données confidentielles soumises via les prompts pourraient ainsi être exposées.
Pour tenter de rassurer les utilisateurs, OpenAI a annoncé le 25 avril dernier avoir introduit de possibilité de désactiver l’historique des conversations dans ChatGPT. « Lorsque l’historique des conversations est désactivé, nous conservons les nouvelles conversations pendant 30 jours et ne les consultons qu’en cas d’abus, avant de les supprimer définitivement », assure la startup.
Apple, dernier d’une longue liste
Apple n’est pas le seul groupe à avoir restreint l’utilisation de ChatGPT en interne. Plusieurs poids lourds du secteur de la tech ont pris des décisions similaires ces derniers mois. C’est notamment le cas de la holding financière JPMorgan Chase ou de l’opérateur américain Verizon. Chez Amazon, les ingénieurs sont priés d’utiliser l’outil d’aide à la programmation interne de l’entreprise plutôt que ChatGPT, assure une source au Wall Street Journal.
De son côté, Samsung a interdit l’utilisation du chatbot d’OpenAI après que des salariés ont partagé avec l’IA un code source stratégique. « Une violation ou une compromission des informations de l’entreprise pourrait entraîner des mesures disciplinaires pouvant aller jusqu’au licenciement », avertissait l’entreprise dans un mémo adressée aux employés. En attendant l’arrivée d’outils internes basés sur l’IA, l’utilisation des modèles génératifs est proscrite.
Pour Apple, l’objectif de ces nouvelles règles est double : prévenir toute fuite d’informations confidentielles via ChatGPT et protéger l’intégrité de l’entreprise. Une position d’autant plus stratégique que la société à la pomme planche désormais sur ses propres modèles d’intelligence artificielle.
Apple a des secrets pour ChatGPT, mais les IA n’auront plus de secrets pour vous si vous lisez Artificielles. C’est la nouvelle newsletter gratuite de Numerama, écrite par ChatGPT et vérifiée par la rédaction. Pour s’abonner, c’est juste ici :
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
