IA générative : ce que dit la CNIL

IA générative RGPD : trois endroits où les données peuvent se trouver

Les publications de la CNIL distinguent trois endroits où des données personnelles peuvent intervenir. Le premier est la base d'entraînement, c'est-à-dire les données qui servent à construire le modèle. Le deuxième est le modèle lui-même, qui peut avoir mémorisé certaines de ces données. Le troisième est l'usage courant, au moyen des invites (prompts) que l'utilisateur saisit. Pour chacun de ces endroits, les données des personnes doivent être protégées dès lors que le RGPD est applicable.

Tous les modèles ne sont pas concernés de la même façon. La CNIL indique que certains modèles d'IA sont anonymes et n'ont donc pas à appliquer le RGPD. Un modèle de langage (LLM), en revanche, peut contenir des données personnelles. Le Comité européen de la protection des données a fourni des critères pour l'apprécier, et la CNIL s'y réfère. Les pages consultées ne donnent pas de liste de modèles anonymes : pour un outil précis, c'est la documentation de son éditeur qu'il faut lire.

Le cas des invites est le plus proche de votre usage quotidien. Saisir un texte qui contient le nom, le parcours ou l'adresse d'une personne revient à placer cette donnée dans le champ du RGPD, puisque les invites figurent parmi les trois endroits décrits plus haut. Le tableau ci-dessous résume ce que la CNIL demande pour chacun d'eux.

Entraînement : ce que la CNIL admet pour les grands modèles

Pour les systèmes d'IA à usage général, la CNIL estime que le principe de finalité s'applique de manière adaptée. Un opérateur qui ne peut pas définir précisément toutes ses applications futures dès l'entraînement peut se limiter à décrire le type de système développé et à illustrer ses principales fonctionnalités envisageables. Cette souplesse vise les systèmes qui servent à tout un ensemble de tâches, comme ceux qui reposent sur des grands modèles de langage.

Le principe de minimisation n'empêche pas l'utilisation de larges bases de données d'entraînement. Les données doivent toutefois, en principe, être sélectionnées et nettoyées pour optimiser l'entraînement tout en évitant l'exploitation de données personnelles inutiles. La nuance est importante : la taille de la base n'est pas en soi le problème, c'est le tri qui compte.

La conservation des données d'entraînement peut être longue si elle est justifiée et si la base fait l'objet de mesures de sécurisation adaptées. La CNIL cite les bases qui demandent un investissement scientifique et financier important et deviennent parfois des standards reconnus par la communauté scientifique. La réutilisation de bases accessibles en ligne est possible dans de nombreux cas, à condition de vérifier que les données n'ont pas été collectées de manière manifestement illicite et que la réutilisation est compatible avec la collecte initiale.

Pour un créateur ou un formateur qui n'entraîne pas de modèle, ces points concernent surtout le fournisseur. Ils deviennent directs si vous constituez vous-même une base à partir de données de tiers, par exemple des témoignages de clients ou des productions de stagiaires. Dans ce cas, les questions de sélection, de conservation et de compatibilité avec la collecte initiale se posent à vous.

Information des personnes : une information générale est parfois suffisante

Lorsque des données personnelles servent à l'entraînement d'un modèle et sont potentiellement mémorisées par celui-ci, les personnes concernées doivent être informées. La CNIL précise que les modalités d'information peuvent être adaptées aux risques pour les personnes et aux contraintes opérationnelles. Une information n'a donc pas nécessairement la même forme dans tous les cas.

Le RGPD permet, dans certains cas, de se limiter à une information générale, par exemple sur le site web de l'organisme. Ce cas vise notamment les modèles constitués à partir de sources tierces, lorsque le fournisseur n'est pas en capacité de contacter individuellement les personnes. Quand de nombreuses sources sont utilisées, comme pour les modèles à usage général, une information globale est généralement suffisante. Elle peut indiquer des catégories de sources, voire le nom de quelques sources principales.

Ces passages décrivent surtout la situation du fournisseur qui entraîne le modèle. Pour vous, l'utilité pratique est de savoir où l'éditeur publie cette information, et de la chercher dans sa documentation. Si vous ne la trouvez pas, c'est une raison de vous poser la question des données que vous saisissez, sans attendre une réponse de sa part.

Droits des personnes : accès, rectification, opposition et effacement

La réglementation européenne prévoit des droits d'accès, de rectification, d'opposition et d'effacement des données personnelles. La CNIL reconnaît que ces droits peuvent être particulièrement difficiles à mettre en œuvre dans le cas des modèles d'IA. Ses recommandations visent justement à faciliter l'exercice de ces droits, avec des solutions concrètes et proportionnées. Le texte détaille ces solutions : lisez-le en entier sur sa page, car cette synthèse ne les reprend pas.

Pour un utilisateur, la conséquence la plus directe concerne la saisie. Une donnée qui entre dans un outil peut ensuite être difficile à retirer, selon la CNIL. Il est donc plus prudent de ne pas saisir les coordonnées ou les détails personnels d'une personne lorsqu'une version anonymisée du texte suffit à la tâche.

Pour un formateur qui manipule des dossiers de stagiaires, cela change la méthode de travail : mieux vaut anonymiser le dossier avant de demander une aide à un outil, plutôt que de le coller tel quel. La règle est simple à énoncer et demande un peu de discipline à appliquer, surtout quand le délai presse.

Choisir son approche : outil sur étagère, RAG ou modèle propre

La CNIL distingue plusieurs approches. La plus simple consiste à utiliser un système ou un modèle sur étagère, qu'il soit propriétaire ou en source ouverte. Il est possible de l'orienter vers une tâche par des consignes préalables (pre-prompt), sans ressources particulières. On peut aussi l'améliorer : la CNIL présente la génération augmentée de récupération (RAG), qui connecte le système à une base de connaissances, ainsi que le fine-tuning. Entraîner son propre modèle n'est accessible qu'à un nombre très limité d'acteurs, compte tenu des ressources et des compétences requises.

L'outil sur étagère convient à un indépendant qui produit des textes, des visuels ou du code sans donnée personnelle de tiers. Pour ce profil, le critère qui tranche est la nature des données saisies, pas la technologie. Les principes décrits plus haut s'appliquent surtout aux invites, et une saisie sans données de tiers limite la question.

L'outil sur étagère est moins adapté à un formateur qui veut interroger des dossiers de stagiaires, ou à une structure qui traite des fichiers clients. Là, le critère qui tranche est la présence de données personnelles dans les documents interrogés. Une base de connaissances construite à partir de tels dossiers contient des données personnelles, et les principes décrits plus haut restent pertinents.

Si vous ne savez pas quelle approche vous utilisez, commencez par lister les types de données que vous saisissez ou que vous rassemblez. Cette liste indique mieux que tout quel régime s'applique à votre cas.

Limites : hallucinations, confiance excessive et usages abusifs

La CNIL rappelle que les modèles génératifs ne sont pas des bases de connaissances. Ils suivent une logique probabiliste et ne produisent que le résultat le plus probable au regard des données sur lesquelles ils ont été entraînés. Ils peuvent donc générer des résultats inexacts mais plausibles, appelés hallucinations, notamment sur des informations absentes de leurs données d'entraînement ou postérieures à leur développement.

Une confiance excessive dans ces résultats, sans vérification appropriée, peut conduire à des décisions erronées. La CNIL décrit aussi l'effet « boîte noire » : il complique l'explication des résultats, et la détection des biais pour les fournisseurs. Pour un créateur qui publie un texte ou une affirmation générés, la conséquence est une vérification systématique avant publication.

La CNIL cite aussi des usages abusifs à anticiper : hyper-trucages (deepfakes), génération de codes malveillants, ou informations permettant des activités illégales ou dangereuses. Ces risques ne pèsent pas seulement sur les éditeurs. Ils concernent aussi ce que l'utilisateur choisit de produire et de diffuser.

Sources et date de consultation

Cette page s'appuie sur deux publications de la CNIL. La première, « IA et RGPD : la CNIL publie ses nouvelles recommandations pour accompagner une innovation responsable », date du 7 février 2025. La seconde, les questions-réponses sur l'utilisation d'un système d'IA générative, date du 18 juillet 2024. Les deux pages ont été consultées le 5 octobre 2026.

Les extraits consultés ne couvrent pas la totalité des deux textes. Pour les passages sur les droits des personnes et sur les approches techniques, la lecture intégrale de la page de la CNIL reste nécessaire. Cette synthèse ne remplace pas ces textes et ne les complète pas sur les points qu'elle n'aborde pas.

Une publication datée de 2024 ou de 2025 peut avoir été complétée depuis. Vérifiez la date de mise à jour sur le site de la CNIL avant de vous appuyer sur un passage précis, surtout pour une décision engageant des données de tiers.