Doctorant - projet MAD

L'alignement des grands modèles de langage repose aujourd'hui sur des procédures largement empiriques, dont les fondements mathématiques restent mal compris. Cette thèse vise à en développer une analyse rigoureuse, à l'interface de l'optimisation non lisse, de la statistique en grande dimension et de l'apprentissage profond. On s'intéressera d'abord à l'effet des méthodes de réglage fin par adaptateurs de faible rang sur le comportement du modèle, en cherchant à quantifier le déplacement induit dans l'espace des distributions de sortie. On étudiera ensuite les garanties statistiques que l'on peut espérer d'un alignement construit à partir d'un nombre fini de données de préférence, ainsi que leur robustesse aux imperfections des annotations et aux décalages de distribution. Enfin, on cherchera à formuler l'alignement comme un problème d'optimisation structuré, de manière à en caractériser les solutions et à concevoir des algorithmes dont la convergence puisse être établie. Les développements théoriques seront confrontés à des expériences numériques sur des modèles de langue de taille modérée, afin d'évaluer leur pertinence pratique et d'orienter la conception de procédures d'alignement plus fiables.