C’est l’une des craintes légitimes que peuvent avoir les entreprises à l’idée de se servir d’un outil d’intelligence artificielle générative comme ChatGPT. Que vont devenir les données que l’on envoie à l’IA ? Sont-elles conservées ? Servent-elles à l’entraînement du modèle ? Peuvent-elles être recrachées à d’autres personnes, au hasard d’un prompt indiscret ?
Ce ne serait pas dramatique dans le cas d’informations publiques d’une société lambda. Mais si l’on parle d’informations internes, et potentiellement sensibles, c’est une autre paire de manches. Ce problème s’est posé très vite, lorsque ChatGPT est devenu accessible au grand public. Il est devenu encore plus manifeste avec l’arrivée d’un outil permettant d’envoyer des fichiers.
Ces craintes ne sont pas ignorées par OpenAI. À l’occasion de la présentation d’un nouveau type d’abonnement, ChatGPT Team, mercredi 10 janvier, la société américaine a prévu un nouveau réglage dédié à la confidentialité. Celui-ci fera en sorte d’éviter que vos discussions avec le chatbot et les données professionnelles que vous lui passez ne servent à entraîner ses modèles.
« Vous possédez et contrôlez vos données d’entreprise — nous ne nous formons pas sur vos données ou conversations [passées via l’offre de ChatGPT Team, NDLR], et nos modèles n’apprennent pas à partir de votre utilisation », détaille le groupe dans son message d’annonce. À cela s’ajoute une cascade d’autres avantages, détaillés sur le site de l’entreprise.
L’actualité de l’intelligence artificielle vous intéresse ? Rejoignez-nous dans notre newsletter Artificielles, qui vous offre un récapitulatif des sujets de la semaine sur Numerama.
OpenAI fournit des outils et des forfaits pour exclure certaines données de ChatGPT
Ce mécanisme d’exclusion n’est pas le premier à être déployé par OpenAI. Il est toutefois décisif pour réussir à conquérir le secteur de l’entreprise, et pas juste le grand public. Le milieu professionnel constitue un gros levier de croissance pour OpenAI, via la commercialisation d’abonnements spécifiques : en dehors de ChatGPT Team, il y a déjà ChatGPT Entreprise.
OpenAI a tout intérêt à jouer franc-jeu et à respecter scrupuleusement ce qu’il dit. L’inverse serait tout bonnement désastreux en termes de réputation, si l’on apprenait que les données censées être exclues du champ d’entraînement de l’IA servent en fait bel et bien à le développer. Cela ruinerait ses perspectives et profiterait à la concurrence.
Lancé à la fin août 2023, ChatGPT Entreprise a des paramètres analogues. Ainsi, les données de sa clientèle ne servent pas à l’entraînement des modèles. Il est aussi possible de définir une durée personnalisée de conservation des informations. Les prompts des clients et les données qu’ils envoient ne sont pas non plus utilisés pour entraîner les modèles d’OpenAI.
Précédemment, au printemps 2023, OpenAI a déployé un mode de conversation plus confidentiel. Ici, le grand public peut demander à ChatGPT de ne pas garder l’historique des discussions. La désactivation de cette conservation évite que les conversations puissent servir à entraîner son intelligence artificielle. Il faut toutefois savoir que cette rétention a lieu et la couper.
Il existe enfin un dernier paramètre similaire aux précédents, mais qui cette fois concerne l’accès aux informations en ligne. Si ChatGPT peut aller sur le net et prendre de l’information, le chatbot est censé suivre les règles d’indexation des sites. En clair, il est possible d’exclure certaines pages ou tout un site du passage de ChatGPT. Un sujet crucial pour la presse.
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
