La confidentialité entre ChatGPT et ses utilisateurs est-elle bien réelle ? Alors que de nombreux professionnels ont déjà intégré l’IA d’OpenAI à leur workflow quotidien, Apple met en garde ses salariés. Les conversations échangées avec le chatbot pourraient mettre en péril le secret industriel et compromettre les informations sur de futurs produits.
Selon un document interne consulté par nos confrères du Wall Street Journal le 18 mai 2023, Apple interdit désormais à certains employés d’utiliser ChatGPT et plusieurs autres services d’IA externes à l’entreprise. Les restrictions drastiques s’appliqueraient également à Github Copilot, un modèle permettant de générer du code source par prédiction.
L’historique des conversations analysé par OpenAI
Pour fonctionner, les modèles derrière ChatGPT (GPT-3 et GPT-4 selon la version) ont été entraînés sur d’immenses corpus de texte provenant du web. Cette étape est complétée par de l’apprentissage par renforcement (reinforcement learning). Dans cette phase, les développeurs de l’IA soumettent de nombreux prompts au système pour tenter de calibrer plus finement les réponses.
Aujourd’hui en production, ChatGPT continue d’être amélioré par les équipes d’OpenAI. Par défaut, l’historique des conversations avec le bot est stocké sur le serveur, avant d’être potentiellement analysé et utilisé pour perfectionner l’IA. Les données confidentielles soumises via les prompts pourraient ainsi être exposées.
Pour tenter de rassurer les utilisateurs, OpenAI a annoncé le 25 avril dernier avoir introduit de possibilité de désactiver l’historique des conversations dans ChatGPT. « Lorsque l’historique des conversations est désactivé, nous conservons les nouvelles conversations pendant 30 jours et ne les consultons qu’en cas d’abus, avant de les supprimer définitivement », assure la startup.
Apple, dernier d’une longue liste
Apple n’est pas le seul groupe à avoir restreint l’utilisation de ChatGPT en interne. Plusieurs poids lourds du secteur de la tech ont pris des décisions similaires ces derniers mois. C’est notamment le cas de la holding financière JPMorgan Chase ou de l’opérateur américain Verizon. Chez Amazon, les ingénieurs sont priés d’utiliser l’outil d’aide à la programmation interne de l’entreprise plutôt que ChatGPT, assure une source au Wall Street Journal.
De son côté, Samsung a interdit l’utilisation du chatbot d’OpenAI après que des salariés ont partagé avec l’IA un code source stratégique. « Une violation ou une compromission des informations de l’entreprise pourrait entraîner des mesures disciplinaires pouvant aller jusqu’au licenciement », avertissait l’entreprise dans un mémo adressée aux employés. En attendant l’arrivée d’outils internes basés sur l’IA, l’utilisation des modèles génératifs est proscrite.
Pour Apple, l’objectif de ces nouvelles règles est double : prévenir toute fuite d’informations confidentielles via ChatGPT et protéger l’intégrité de l’entreprise. Une position d’autant plus stratégique que la société à la pomme planche désormais sur ses propres modèles d’intelligence artificielle.
Apple a des secrets pour ChatGPT, mais les IA n’auront plus de secrets pour vous si vous lisez Artificielles. C’est la nouvelle newsletter gratuite de Numerama, écrite par ChatGPT et vérifiée par la rédaction. Pour s’abonner, c’est juste ici :
Découvrez les bonus
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Il y a une bonne raison de ne pas s'abonner à
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : faire comprendre le numérique et tous ses enjeux au plus grand nombre.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
