Stage M2 Attaques de Confidentialité en Apprentissage Fédéré H/F - CEA Gif-sur-Yvette - 91

Le but du stage consiste à étudier les attaques de confidentialité dans le cadre de l'apprentissage fédéré [1]. Classiquement, un serveur malveillant (honnête mais curieux) tente d'inférer de l'information sur les données d'apprentissage à partir du gradient envoyé par le client (gradient-based attack [2]). Cela peut être fait par des méthodes d'optimisation inversée, où l'attaquant essaie de trouver les entrées (données originales) qui produiraient les gradients observés en minimisant la distance entre les gradients produits et observés tout en utilisant une fonction de régularisation qui permet de structurer les images reconstruites [3, 4, 5].

Dans un premier temps, le stagiaire se familiarisera avec l'apprentissage fédéré en implémentant un exemple jouet' de classification d'images. Dans un deuxième temps, il se concentrera sur les attaques à base de gradient en effectuant une étude bibliographique et en réalisant une étude comparative des attaques les plus prometteuses. Enfin le stagiaire travaillera avec son équipe encadrante à proposer une attaque innovante (en testant de nouvelles fonctions de régularisation ou en établissant des liens avec l'IA explicable).

[1] Google AI blog : https://ai.googleblog.com/2017/04/federated-learning-collaborative.html
[2] Zhu et al., Deep leakage from gradients, 2019
[3] Geiping et al., Inverting Gradients - How easy is IT to break privacy in federated learning?, 2020
[4] Yin et al., See through gradients : Image batch recovery via GradInversion, 2021
[5] Zhu et al., R-GAP : Recursive Gradient Attack on Privacy, 2021

Le stage s'adresse à un(e) étudiant(e) du cycle ingénieur/universitaire cherchant un stage M2 et manifestant l'envie de travailler dans le milieu de la recherche. Idéalement, le/la candidat(e) suit actuellement une formation en lien avec le domaine de l'Intelligence Artificielle/Machine Learning. La connaissance des algorithmes d'optimisation en Machine Learning ainsi que la maîtrise de Python sont indispensables. Durant le stage, le/la candidat(e) sera en relation directe avec les membres de l'équipe d'apprentissage fédéré (deux ingénieurs-chercheurs, un thésard et deux post-doctorants). Nous attendons qu'il/elle soit capable d'apporter sa rigueur, son enthousiasme et sa curiosité pour la recherche.

La durée du stage est de 6 mois minimum et sera rémunéré.

Pièces à fournir : CV + lettre de motivation + relevés de notes des 3 dernières années

Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles !
Vous avez encore un doute ? Nous vous proposons :
L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,
Une expérience à la pointe de l'innovation, comportant un fort potentiel de développement industriel,
Des moyens expérimentaux exceptionnels et un encadrement de qualité,
La possibilité de participer à la conférence JDSE (Junior conference on Data Science and Engineering) afin de vous familiariser avec le déroulement d'une conférence scientifique,
Un équilibre vie privé - vie professionnelle reconnu,
Un réseau de bus privatif à disposition des salariés,
Une politique de diversité et d'inclusion,
Un CSE actif en termes de loisirs et d'activités extra-professionnelles.

Conformément aux engagements pris par le CEA en faveur de l'intégration de personnes en situation de handicap, cet emploi est ouvert à tous et toutes.
In line with CEA's commitment to integrating people with disabilities, this job is open to all.

Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.

Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.

Implanté au coeur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.

Les 20 000 collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales :

- La conscience des responsabilités
- La coopération
- La curiosité