Post-doctorat en informatique (H/F)

Missions :
L’IA est en passe de devenir incontournable dans tous les secteurs de l’ingénierie et des services. Elle permet déjà de tirer profit de larges volumes de données disponibles ou fournies par des entités diverses (e.g., organisations, personnes, objets connectés). La mise à disposition de ces données posant cependant des problèmes de confidentialité et de protection de la vie privée, les approches d'apprentissage fédéré permettent un entrainement collaboratif des modèles d’IA, sans transmission des données. Une entité centrale est en effet chargée de coordonner l’apprentissage d’un modèle global, sur la base de modèles reçus d'entités clientes. Ces modèles sont eux-mêmes issus de données qui demeurent conservées localement et n’ont pas à être communiquées.

La sécurisation de ces approches pose plusieurs problèmes relatifs au passage à l’échelle et aux attaques que des entités malveillantes (e.g., clients) pourraient mener (e.g., en fournissant des modèles malicieux pour orienter le modèle global). Ces dernières visent essentiellement à tromper ou à détourner le modèle global (adversarial attacks). Les attaques par inférence d'appartenance (Membership inference attacks, MIA) consistent par exemple à collecter des informations sur les données utilisées pour la production du modèle d’IA. Les attaques de reconstruction tentent quant à elles de retrouver les données privées à partir des informations agrégées. Alors que les premières supposent une entité centrale malhonnête ou compromise, les deuxièmes peuvent se contenter d’analyser la mise à jour des paramètres partagée à partir de l'entraînement local (par exemple, le gradient local ou le vecteur de mise à jour des poids), afin de reconstruire les données d'entraînement locales privées.

Activités :
Les travaux menés au sein du LAMIH (UMR 8201) visent dans un premier temps à sécuriser les approches d’apprentissage fédéré face à ces risques d'incidents. Il s’agira par la suite d’étudier dans quelle mesure l’apprentissage fédéré (ou d’autres formes) peut contribuer à la sécurisation des infrastructures et des services. Les recherches seront menées en collaboration avec l’IRL ILLS (Montréal, Canada), où des missions pourront être réalisées.
Contexte de travail :
Le LAMIH (Valenciennes) est un laboratoire pluridisciplinaire et acteur de recherche reconnu dans les domaines du transport et de la mobilité : véhicules non polluants, transport intelligent, aide à la conduite, écoconduite, allégement des structures, logistique des transports, mobilité pour tous et mobilité intelligente.
Il dispose d’une compétence forte dans tout ce qui touche l’homme en interaction avec les systèmes techniques.
Le laboratoire est organisé en 4 départements :
• Automatique,
• Informatique,
• Mécanique,
• Sciences de l’Homme et du Vivant (SHV).
Ce projet de doctorat sera conduit au sein du département Informatique du LAMIH, à l'UPHF de Valenciennes (59).