PhD H/F - Informatique/Sociologie - Réduire les risques psycho-sociaux des interactions humain-IAg par

Sujet de thèse :
Les outils d’IA générative (IAg), comme ChatGPT, sont de plus en plus souvent utilisés comme des compagnons (relations amicales, amoureuses ou sexuelles) ou des conseillers personnels. Cette diffusion massive des conversations ordinaires entre humains et IAg a provoqué l’émergence de problèmes publics autour des risques liés à l’usage excessif de ces technologies, en particulier l’addiction et la manipulation des comportements allant jusqu’à des cas de suicides.

Plusieurs travaux de recherche explorent les risques psychosociaux liés aux relations des humains avec des IAg lors de dialogues et l’urgence de mettre en place des outils pour prévenir les risques liés à différentes formes d’attachement.

La thèse est interdisciplinaire mêlant Informatique et Sociologie Les objectifs de la thèse dans son volet sciences sociales sont doubles. D’une part, il s’agit de comprendre la nature des interactions qui se nouent entre l’utilisateur et l’IAg, et comment celles-ci viennent s’insérer dans l’écologie des relations que les individus entretiennent avec des acteurs humains et non humains. S’il existe un champ constitué qui porte attention aux interactions avec des êtres artificiels (Velkovska et al.., 2020), nous avons peu de recul sur les usages des outils de nouvelle génération. D’autre part, il s’agit d’étudier comment les concepteurs cherchent à répondre à la panique morale en proposant des solutions techniques. Dans une perspective de STS, il s’agira d’analyser les mécanismes de traduction interdisciplinaire : comment une théorie psychologique peut être intégrée dans un dispositif technique. Sur le volet des sciences informatiques, l’objectif sera double. Il portera d’une part sur la détection automatique en temps réel du niveau d’attachement de l’humain envers l’IA à partir d’indices dans le dialogue (linguistiques, contextuels et structurels) et d’autre part sur la proposition de mécanismes d’adaptation en temps réel des IAg à travers des stratégies conversationnelles pour prévenir les risques d’attachement déviant (e.g. mise en garde, ajustement de l’alignement conversationnel et relationnel). L’un des enjeux est de développer une approche innovante centrée utilisateurs en intégrant dans le processus de recherche un collectif d'utilisateurs (ethic-by-design) qui participera à l’élaboration et à l’évaluation de stratégies conversationnelles.


L’approche sociologique permettra de comprendre la nature des interactions qui se créent avec ces IA et le sens qu’elles ont pour les utilisateurs, les épreuves qu’ils rencontrent, les risques et malaises qu’ils ressentent. Elle s’appuie sur des entretiens et l’analyse de corpus d’interactions. On cherchera à identifier et mesurer dans les corpus des indicateurs associés (mesure de l’attachement, marques de malaise…). L’approche informatique permettra de mettre en place et d’évaluer des solutions concrètes pour prévenir les risques dans le
Voir plus sur le site emploi.cnrs.fr...