[màj] ChatGPT, derrière l'intelligence artificielle se cache une véritable pompe à données personnelles
Màj 26/04/2023 : depuis quelques semaines maintenant, les pays européens se sont soulevés contre ChatGPT et son éditeur OpenAI, et leur politique relative à la gestuon des données personnelles, à commencer par l'Italie qui a bloqué l'accès au chat bot en attendant la mise en conformité de l'outil. OpenAI a été contraint de revoir sa copie. Mais dans quelle mesure ? Ils ont ajouté une option permettant aux internanutes de ne pas enregistrer l'historique de leurs requêtes, le tout en désactivant une option accessible depuis leur compte ChatGPT, suivez la procédure animée du blog OpenAI ci-dessous pour se faire :
Notez tout de même que la suppression de l'historique n'est pas immédiate, en effet, OpenAI s'est réservé le droit de les conserver 30 jours pour :
we will retain new conversations for 30 days and review them only when needed to monitor for abuse, before permanently deleting.
nous conserverons les nouvelles conversations pendant 30 jours et ne les examinerons qu'en cas de besoin pour contrôler les abus, avant de les supprimer définitivement.
Extrait issu de leur article de blog ci-dessus.
[Fin de la mise à jour].
Si vous vivez dans une grotte, peut-être n'avez-vous sans doute pas entendu parler de ChatGPT, cette intelligence artificielle ayant réponse à toutes vos requêtes, même les plus folles, ou presque. Pouvez-vous imaginer un instant que les pirates s'en servent, et à des fins évidemment malveillantes ? Eh oui, ils l'utilisent également pour coder leurs malwares. Mais au-delà de cela, ChatGPT est en l'état une véritable pompe à données personnelles, et cela commence avant même de lui poser votre première question sur la page où il vous est demandé quelques informations personnelles. À titre d'exemple, lorsque j'avais démarré mon inscription, j'ai fait marche arrière lorsqu'il m'a été demandé mon numéro de téléphone.
Montrez patte blanche pour l'utiliser
OpenAI, la start-up notamment cofondée par Elon Musk, et à l'origine de ChatGPT a mis en ligne son IA peu avant la fin 2022. Les premiers retours furent unanimes, une précision des réponses inégalées et des expressions utilisées tel un langage naturel. Partant de constat, l'IA a séduit de nombreux internautes du monde entier, et ce, à tel point que des dispositions ont été prises par des administrations publiques, des entreprises, des universités, etc.
Tout commence sur la page d'accueil de ChatGPT, il y a deux boutons visibles "Log in" pour se connecter avec un compte existant et "Sign up" pour s'inscrire :
Cette première étape démontre une chose, toutes vos requêtes soumises à l'IA seront automatiquement associées à votre compte ChatGPT, de quoi alimenter leurs bases de données personnelles. Mais cela ne s'arrête pas là, car à l'étape suivante après avoir renseigné votre e-mail, etc, il vous sera demandé en plus de votre e-mail votre numéro de téléphone. Se questionner pour en connaître la raison est légitime, et de mon point de vue je suppose qu'il s'agit entre autre d'un moyen de limiter non seulement le spam, mais aussi le nombre d'utilisateurs simultané.
Il convient également de noter que ChatGPT rejette tous les domaines exploitants des adresses e-mails jetables types FakeMail, Temp Mail, YOPmail, Maildrop, etc. Évidemment, le but est d'obtenir votre véritable adresse e-mail et ne pas vous laisser la possibilité de masquer cette dernière.
Please note that phone verification is required for signup. Your number will only be used to verify your identity for security purposes.
Traduction :
Veuillez noter qu'une vérification téléphonique est nécessaire pour l'inscription. Votre numéro ne sera utilisé que pour vérifier votre identité à des fins de sécurité.
Il est évident qu'ils ne vous informeront jamais (sur cette page) de la véritable utilisation qui sera faite de toutes ces données, c'est donc à ce moment qu'il est intéressant de se pencher sur les conditions d'utilisation, et notamment l'article 2 qui indique comment et à quelles fins ils utiliseront vos données personnelles. Voici donc ce qu'il faut notamment savoir avant de s'inscrire et d'utiliser ce chat bot :
Nous pouvons utiliser les informations personnelles aux fins suivantes :
Fournir, administrer, maintenir, améliorer et/ou analyser les services ;
Pour mener des recherches, qui peuvent rester internes ou être partagées avec des tiers, publiées ou mises à la disposition du public ;
Communiquer avec vous ;
développer de nouveaux programmes et services
prévenir la fraude, les activités criminelles ou les utilisations abusives de nos services et assurer la sécurité de nos systèmes, architectures et réseaux informatiques ; et
respecter les obligations légales et les procédures judiciaires et protéger nos droits, notre vie privée, notre sécurité ou nos biens, et/ou ceux de nos affiliés, les vôtres ou ceux d'autres tiers.
Informations agrégées. Nous pouvons regrouper les informations personnelles et les utiliser pour analyser l'efficacité de nos services, pour améliorer et ajouter des fonctionnalités à nos services, pour mener des recherches (qui peuvent rester internes ou être partagées avec des tiers, publiées ou mises à la disposition de tous) et à d'autres fins similaires. En outre, nous pouvons de temps à autre analyser le comportement général et les caractéristiques des utilisateurs de nos services et partager avec des tiers des informations agrégées telles que des statistiques générales sur les utilisateurs, publier ces informations agrégées ou les mettre à la disposition de tous. Nous pouvons collecter des informations agrégées par le biais des services, de cookies et d'autres moyens décrits dans la présente politique de confidentialité.
En résumé, toutes vos requêtes sont analysées, découpées, agrégées, partagées, revendues avec des tiers ou en interne. Ce qui veut dire que le bot se nourrit notamment de vos informations personnelles. Ça fait froid dans le dos, n'est-ce pas ?
Alors quel est le problème ? C'est simple. Dans l'Union Européenne, un consentement de l'utilisateur doit obligatoirement s'appliquer lorsqu'une collecte de données est mise en place. Concernant OpenAI et son ChatGPT, il semblerait qu'à aucun moment votre accord n'est demandé, ce qui est contraire au RGPD. Ils se permettent donc de récolter tout un tas de données dans la plus grande illégalité.
ChatGPT, persona non grata dans les entreprises, universités, administrations publiques
Face à toutes ces dérives en terme de vie privée, de nombreuses entreprises manipulant des données sensibles telles que de grandes banques américaines ont tout simplement interdit à leurs employés d'avoir recours à tchat bot, et de surcroît en lui communiquant des informations confidentielles, et à juste titre.
En France par exemple, Sciences Po Paris à interdit son utilisation à ses étudiants sous peine de sanction. Plusieurs cas de triches ont été relevés, notamment à Lyon par un professeur à la fac dont la moitié de ses élèves en master avait utilisé ChatGPT pour rédiger un devoir.
Plus globalement, soumettre des données personnelles au bot, qu'elles vous appartiennent ou non n'est certainement pas une bonne pratique, d'autant plus qu'OpenAI est soumis au Patriot Act, au même titre que Google, Amazon, Meta, Apple, etc. Partant de constat, on peut s'imaginer toutes les dérives possibles, et le gouvernement des États-Unis est connu pour passer outre le respect de notre vie privée sur lequel il s'assoit volontiers.
Conclusion
Réfléchissez à deux fois avant d'utiliser ce chat bot, et en particulier pour les personnes qui travaillent dans un environnement sensible tout en manipulant des données toutes aussi sensibles. N'oubliez pas que toutes les requêtes soumises à ChatGPT ne peuvent être contrôlées par vous-même et qu'une fois que vous cliquez pour obtenir votre réponse, c'est trop tard, toutes les données sensibles sont entre les mains d'OpenAI, et potentiellement du gouvernement américain qui sans nul doute se penchera plus en détail sur cette révolution. À quels fins ? Là est toute la question.
Ressources :
Une erreur à signaler ou une suggestion ? Contact.