Données synthétiques et confidentialité : formez-vous et testez sans exposer de données personnelles

Toute entreprise qui traite des données personnelles vit la même tension : l’équipe a besoin de données pour travailler, et les données dont elle a besoin sont précisément les plus protégées. Le scientifique souhaite former un modèle avec l'historique du client. L'équipe QA souhaite tester avec des cas similaires aux cas réels. L'analyste souhaite explorer sur une base de santé ou de crédit. Dans tous les cas, le chemin le plus court passe par les informations personnelles, et c'est là que LGPD tire la sonnette d'alarme.

Les données synthétiques émergent comme une réponse à cette tension. La promesse est simple : vous travaillez avec des données qui se comportent comme des données réelles, mais ne correspondent à aucune personne en particulier. Bien exécutée, cette promesse réduit le risque réglementaire et libère l’équipe. Mal exécutée, elle crée un faux sentiment de sécurité, qui peut être pire que le risque connu.

L'anonymisation traditionnelle ne suffit pas

Pendant des années, la réponse standard à la confidentialité a été de rendre anonyme : supprimer le nom, le numéro de sécurité sociale, l’adresse e-mail et passer à autre chose. Le problème est que l’anonymisation par suppression de champs est plus fragile qu’il n’y paraît.

La combinaison de données apparemment inoffensives identifie les personnes. Le code postal, la date de naissance et le sexe désignent ensemble un individu unique avec une fréquence surprenante. Un modèle d'achat, un parcours de déplacement ou une séquence de services peuvent faire office d'empreinte digitale. Lorsque cette base de données « anonymisée » est croisée avec une autre source, une ré-identification a lieu.

LGPD traite les données anonymisées comme hors de son champ d'application, mais seulement tant que l'anonymisation est irréversible compte tenu des efforts raisonnables. Si la réidentification est viable, les données redeviennent personnelles et avec elles les obligations reviennent. En d’autres termes, le masquage des champs ne met pas fin à la discussion, il ne fait que la reporter.

Les données synthétiques abordent le problème sous un autre angle. Au lieu d'essayer d'effacer l'identité des enregistrements réels, vous générez de nouveaux enregistrements qui n'ont jamais appartenu à personne, préservant ainsi le modèle statistique de l'ensemble. Il n’y a aucun individu derrière chaque ligne à réidentifier, car la ligne a été inventée.

Là où la confidentialité synthétique apporte de la valeur

Le gain apparaît sur plusieurs fronts du cycle des données.

Dans la formation de modèles, vous pouvez utiliser une base de données synthétique dérivée réelle pour développer et itérer sans déplacer de données sensibles dans l'environnement du scientifique. L'équipe expérimente à volonté et les données personnelles restent restreintes.

En matière de tests et d'approbation, la copie de production est l'un des plus grands vecteurs d'exposition qui existent dans les entreprises. Chaque réplique de la base réelle dans un environnement moins protégé est un risque qui se multiplie. Remplacer cette copie par une masse synthétique coupe le problème à sa racine, un sujet que j'aborde dans données synthétiques pour les tests et l'AQ.

Lors du partage, il existe des cas dans lesquels vous devez fournir des données à un partenaire, un fournisseur ou un chercheur externe. Le partage de données réelles nécessite une base juridique, contractuelle et de contrôle lourde. Le partage d’une version synthétique, validée pour la confidentialité, réduit considérablement la surface de risque.

Dans le secteur public, la valeur est encore plus élevée. Un organisme qui souhaite ouvrir les données à des fins d’innovation, de hackathons ou de recherche universitaire ne peut pas exposer les citoyens. Une base synthétique permet de diffuser quelque chose d'utile, avec la structure de données vraies, sans violer la confidentialité de ceux qui se cachent derrière les chiffres.

Le risque que personne ne peut ignorer : la fuite d'informations

C’est ici que se situe le point qui sépare ceux qui utilisent sérieusement les données synthétiques de ceux qui n’utilisent que l’étiquette. Un modèle génératif apprend à partir de données réelles. S'il apprend trop, il mémorise. Et un modèle qui mémorise peut reproduire des enregistrements réels presque intacts dans les données qu'il génère.

Imaginez une base de soins avec un patient au profil très inhabituel, propre à la base. Un générateur mal calibré peut produire un enregistrement synthétique identique ou presque identique à celui de ce patient, car c'était le seul exemple de ce modèle qu'il a vu. Les données sont techniquement synthétiques, mais en pratique elles révèlent la personne réelle. La promesse de confidentialité s’est évaporée.

Il s’agit de la fuite d’informations des données originales, et c’est le talon d’Achille des données synthétiques. Ce n'est pas un théoricien. Cela se produit particulièrement dans les cas rares, les cas aberrants et les petites bases, précisément les situations où la vie privée des individus compte le plus.

Il existe également un risque de déduction. Même sans reproduire l’intégralité d’un enregistrement, une base de données synthétique peut permettre à un attaquant de déterminer si une personne spécifique se trouvait ou non dans la base de données d’origine, ou d’en déduire un attribut sensible. La protection de la vie privée ne consiste pas seulement à éviter la copie littérale, elle consiste également à empêcher que les données divulguées révèlent quelque chose sur un individu.

Comment vérifier avant de faire confiance

La conclusion pratique n’est pas d’abandonner, c’est de valider. Les données synthétiques ne sont pas privées par décret, elles le sont lorsqu’elles sont mesurées. Quelques chèques que je facture pour toute initiative sérieuse.

Mesurez la distance par rapport à la donnée réelle. L'équipe doit vérifier si un enregistrement synthétique est trop proche d'un enregistrement original. Les documents synthétiques qui sont presque des copies de documents réels doivent être traités comme un défaut et non comme un détail.

Évaluez la résistance aux attaques par inférence. Il existe des tests qui simulent un attaquant essayant de savoir si un individu se trouvait dans la base. Soumettre la base synthétique à ce type d’évaluation donne une mesure concrète du risque plutôt qu’une promesse.

Appliquez des garanties formelles lorsque les données sont sensibles. Dans les contextes de la santé, de la finance ou du secteur public, il convient d’envisager des techniques offrant une garantie mathématique de confidentialité dans le processus de génération. Ils ont un coût de fidélité, mais ils échangent leur confiance contre une garantie, et cet échange en vaut généralement la peine lorsque les données sont critiques.

Documenter les décisions. Du point de vue de la conformité, montrer que vous avez évalué le risque de réidentification et de fuite, avec méthode et preuves, est ce qui conforte la position selon laquelle ces données peuvent être traitées en dehors du régime des données personnelles.

Le rôle du leader et de l'équipe juridique

Les données synthétiques sont une décision technique ayant des conséquences juridiques, elles ne peuvent donc pas être laissées à la seule ingénierie. L'équipe chargée des données construit et mesure, mais les aspects juridiques et de confidentialité doivent comprendre ce que signifient les mesures et aider à définir des limites acceptables.

Une bonne pratique consiste à traiter la génération de données synthétiques comme un processus avec un propriétaire, des critères d'acceptation et d'audit, et non comme un script isolé exécuté une fois par quelqu'un. Le décideur doit savoir quel niveau de fidélité a été atteint, quel risque résiduel pour la vie privée subsiste et qui a approuvé cette évaluation.

Lorsque cela est en ordre, les données synthétiques cessent d'être une zone grise et deviennent un atout défendable : vous pouvez expliquer, à l'autorité ou à un audit, pourquoi ces données n'exposent pas les personnes. C'est le véritable objectif, pas l'étiquette « synthétique », mais la capacité de garantir la confidentialité avec des preuves.