PMR - Recherche en Medicine respectant la vie Privée

Coordinateur : Jan Ramon INRIA de l’Université de Lille - CRIStAL

Équipe : Magnet du Groupe Thématique : DatInG.

Dates : 10/20 - 03/25

Résumé :

Depuis peu le domaine de recherche à l’intersection entre vie privée et apprentissage automatique connaît un essor très important. Malgré cela, de nombreuses questions restent ouvertes et limitent l’application de véritables systèmes d’apprentissage machine respectueux de la vie privée. À titre d’exemple, les protocoles supposent souvent des utilisateurs honnêtes, et chaque tâche d’apprentissage est étudiée isolément, ne prenant pas en compte son contexte. Dans ce projet, nous étudions de nouveaux algorithmes qui permettent de dépasser ces limitations. En particulier, nous proposons des algorithmes robustes qui prennent en considération les spécificités de l’application médicale, utilisant des notions de privacy plus affiné et de la connaissance de la domaine, qui peuvent raisonner sur le privacy de toute l’application plutôt que sur un seul pas dans le processus.

Abstract

Given the growing awareness of privacy risks of data processing, there is an increasing interest in privacy-preserving learning. However, shortcomings in the state of the art limit the applicability of the privacy-preserving learning paradigm. First, most approaches assume too optimistically a honest-but-curious setting. Second, most approaches consider one learning task in isolation, not accounting for the context where querying is a recurring activity. We will investigate new algorithms and models that address these shortcomings. Among others, we will propose robust algorithms taking into account specifics of the medical application domains we consider, using refined notions of privacy and prior domain knwoledge, and reasoning about privacy over the complete application rather than isolated steps.