H/F Doctorat Etude d'architectures innovantes pour l'intelligence artificielle embarquée

Sujet de thèse :
Dans le domaine de l'intelligence artificielle neuromorphique, les modèles basés sur l'énergie (EBM) connaissent un intérêt croissant, en raison de leur capacité à capturer les relations entre les variables en minimisant une fonction scalaire unique (fonction d'énergie) sans nécessiter de normalisation à l'échelle de l'ensemble des données. Un exemple proéminent d’EBM est certainement le modèle de réseau de Hopfield, binaire ou non, dont l’évolution de l’état de chaque unité (neurone) est dicté par une minimisation de sa contribution à l’énergie totale du système. Une fois l’équilibre atteint (le minimum d’énergie), une lecture du résultat peut être effectuée.

Les EBM présentent des caractéristiques les rendant attractifs pour des implémentations "proche physique" (analogiques / signaux mixtes). En effet tout système dynamique possédant une loi d’évolution dont les paramètres peuvent être ajustés peut être utilisé pour faire un modèle EBM réalisant une tâche arbitraire, comme de la classification d’images par exemple. Un système électrique analogique basé sur des mémoires non volatiles se prête bien à cet exercice, et quelques premières démonstration montrent l’intérêt de cette approche pour la sobriété énergétique.

Adosser ces EBM à des algorithmes d'apprentissage plus biologiquement plausibles et/ou basés sur des lois locales constitue une direction de recherche très prometteuse pour les application d'IA sobres en énergie et à l’Edge: il s’agit ici de rendre ces systèmes capables d’apprentissage à proprement parler, et pas d’inférence uniquement.

Ce sujet de thèse de doctorat prend appui sur des travaux menés au sein du laboratoire, sur une framework logiciel [2], des contributions sur l’algorithmique et l’architecture matérielle [3][4][5] qui s’apprêtent à faire l’objet de la réalisation d’un circuit démonstrateur mais également sur de travaux en cours sur l’apprentissage incréments/continu dans de tels systèmes.
Cette thèse s’attachera à une dimension exploratoire ouverte, pouvant aller au-delà des modèles EBM tout en restant dans le champ des approches « proche physique ». Il s’agira entre autres d'étudier les opportunités d’exploitation de technologies de réalisation différentes au-delà du CMOS (tel l'électronique imprimable / souple), de penser et expérimenter des lois d’apprentissages nouvelles ou émergentes ainsi que de mener des études sur la question des hyperparamètres dans ces réseaux. Ce dernier volet sera voué à étudier la question de la « mise à l’échelle » de ces modèles qui reste à ce jour difficile, avec des difficultés à traiter des problèmes au-delà d’un certain niveau de complexité. Il s’agira d’explorer de nouvelles topologies, organisations de ces réseaux (hiérarchiques), etc.

Ces investigations seront menées dans le cadre du projet "Emergences" [1] du programme cadre national PEPR IA de France 2030. Ces investigations seront menées en collaboration a
Voir plus sur le site emploi.cnrs.fr...