Proposition de thèse H/F : Apprentissage du langage chez le robot : un modèle de langage bio-inspiré an

Sujet de thèse :
Contexte
Les récents progrès des modèles de langage de grande taille (LLMs) basés sur les Transformers [1] ont conduit à des systèmes capables de générer des conversations cohérentes et de répondre à une grande variété de requêtes avec une fluidité impressionnante. Cependant, ces modèles nécessitent d’être alimentés par d’immenses corpus de textes à l’échelle d’Internet, alors que les enfants humains reçoivent environ 4 à 5 ordres de grandeur de moins de données langagières pour atteindre la maîtrise du langage. Cette inefficacité en termes d’échantillonnage constitue un enjeu central pour la réduction de l’empreinte environnementale de l’IA générative, d’autant plus que ce secteur est appelé à devenir un marché de 1 300 milliards de dollars d’ici 2032, selon un rapport récent de Bloomberg Intelligence [2].
Une autre différence fondamentale entre les LLMs et les êtres humains est que ces derniers sont inextricablement ancrés dans un corps et dans le monde physique [3], alors qu’il reste très difficile d’établir un lien entre le langage produit par les LLMs et le monde réel, en dehors d’interactions purement textuelles [4]. Cela limite notamment leur utilisation en robotique, où l’adaptation à l’environnement physique et perceptif, ainsi qu’aux partenaires sociaux, est cruciale pour agir de manière appropriée. Ce défi, qui consiste à associer le langage aux objets et aux actions, est connu sous le nom de problème de l’ancrage symbolique (Symbol Grounding Problem) [5].
Nous faisons l’hypothèse que des principes inspirés de l’acquisition du langage chez l’humain peuvent permettre de surmonter ces limitations. En outre, concevoir des modèles de langage capables d’apprendre à partir du même type et de la même quantité de données que les humains pourrait conduire à des modèles cognitifs plus plausibles de l’acquisition du langage, et améliorer notre compréhension de la manière dont les humains parviennent à apprendre le langage avec une telle efficacité.
Cette interrogation est au cœur du présent projet.
________________________________________
Objectifs
Notre objectif est double :
1. Améliorer le potentiel des modèles de langage de grande taille en tant que modèles cognitifs de la compréhension du langage humain ;
2. Contourner leurs limitations en s’appuyant sur des approches bio-inspirées, en termes d’efficacité échantillonnale, d’ancrage symbolique, et de compétence sociale, pour des applications en robotique sociale.
Dans ce but, cette thèse vise à proposer un modèle computationnel cognitif permettant d’ancrer un LLM dans un agent robotique intrinsèquement motivé, interagissant socialement avec le monde en s’inspirant des mécanismes d’acquisition du langage chez l’humain.
Programme de recherche
En s’appuyant sur des travaux antérieurs inspirés du développement langagier de l’enfant, dans lesquels nous avons proposé un modèle cognitif pour l’ancrage symbolique basé sur des motivati
Voir plus sur le site emploi.cnrs.fr...