Barbara
MAITRISER LES FONDAMENTAUX
Guide sur la compréhension des définitions fondamentales et des principes clés
Differential privacy (DP) est un cadre mathématique rigoureux qui permet l’analyse et la manipulation de données sensibles tout en fournissant des garanties de confidentialité robustes. Ce concept se base sur le fait que l’inclusion ou l’exclusion d’une seule personne ne doit pas changer significativement les résultats de l’analyse ou de la requête effectuée sur l’ensemble des données. En d’autres termes, l’algorithme doit produire des résultats comparables lorsqu’on compare deux ensembles de données, ce qui rend difficile de déduire des informations sur une personne en particulier. Cette protection permet de garder les informations privées tout en permettant d’obtenir des insights utiles à partir des données.
DP a été introduit dans l’étude “Differential Privacy” de Cynthia Dwork alors qu’elle travaillait chez Microsoft Research. DP vise à protéger la vie privée du monde réel comme si les données étaient examinées dans une situation de refus (opt-out). Cette protection assure que les résultats touchant un individu peuvent seulement être aussi précis que les données disponibles pour tous les autres.
EXEMPLES ET UTILISATIONS
DP trouve notamment son utilité en protégeant les données personnelles dans le cadre d’une étude, comme dans l’exemple de John qui souhaite que ses informations restent confidentielles. DP peut ainsi permettre de retirer certaines données du champ d’étude tout en maintenant les résultats pertinents pour une analyse.
Par ailleurs, le Bureau du recensement des États-Unis utilise un cadre de confidentialité différentielle pour protéger la confidentialité des répondants tout en respectant les besoins de collecte et de rapport des données.
COMPOSANTES DE LA CONFIDENTIALITÉ DIFFÉRENTIELLE
DP utilise un certain vocabulaire formel et des concepts techniques pour décrire la confidentialité différentielle, mais les principes de base sont de limiter l’information obtenue sur une personne à partir des données diffusées, et ainsi garantir que les informations sensibles restent privées.
La version différentielle de la confidentialité se réfère à l’emphase mise sur la dissimilitude entre les résultats produits par un algorithme protégeant la confidentialité sur deux ensembles de données ne différant que d’un seul individu.
M mécanisme est une méthode ou un processus mathématique utilisé pour protéger la confidentialité des données tout en donnant des informations utiles.
ε est le paramètre de confidentialité qui contrôle le niveau de confidentialité offert par un mécanisme protégeant la confidentialité. De manière générale, plus ε est petit, plus la garantie de confidentialité est forte, mais cela peut affecter la qualité de sortie.
Il existe également un paramètre additionnel 𝛿 qui corrige la probabilité d’une transgression majeure de confidentialité.
COMPATIBILITÉ AVEC D’AUTRES ALGORITHMES
Le mécanisme M est considéré comme ε-confidentiellement private si la probabilité d’un compromis majeur de confidentialité (une transgression qui n’aurait pas lieu sous la confidentialité ε différentielle) est au plus 𝛿.
La confidentialité différentielle est résistante aux attaquants disposant d’informations complémentaires, ce qui signifie qu’ils ne pourront pas avoir accès à des informations confidentielles à travers les publications DP.
En conclusion, DP constitue une bonne alternative pour protéger la confidentialité des données dans cette ère du big data et de l’apprentissage machine. Plusieurs algorithmes sont compatibles avec DP et peuvent répondre à des cibles de différents niveaux d’exactitude. Finalement, la confidentialité différentielle est difficile à comprendre mais peut être très utile pour protéger les données personnelles.
