Ingénieur.e LLM/MLOps
Référence : 2025-2023274
- Fonction publique : Fonction publique de l'État
-
Employeur :
Secrétariat Général
Ministère de la Justice Secrétariat général - Localisation : 35 rue de la gare 75019, Paris
Partager la page
Veuillez pour partager sur Facebook, Twitter et LinkedIn.
- Nature de l’emploi Emploi ouvert aux titulaires et aux contractuels
- Expérience souhaitée Non renseigné
-
Rémunération Fourchette indicative pour les contractuels Non renseignée Fourchette indicative pour les fonctionnaires Non renseignée
- Catégorie Catégorie A (cadre)
- Management Non
- Télétravail possible Oui
Vos missions en quelques mots
Vos activités principales
Vous participerez, dès votre arrivée, à la mise en production de modèles LLM internes dans un contexte sensible et souverain. Vous contribuerez à définir l’architecture technique d’une plateforme IA nationale et à faire évoluer nos outils vers une approche DevOps/MLOps structurée, réutilisable par l’ensemble des directions métiers.
·Mettre en place et maintenir des orchestrateurs de workflows IA (Airflow, n8n), ainsi que des serveurs d’inférence performants (vLLM, Ray Serve)
·Industrialiser des chaînes de traitement basées sur des architectures RAG, avec intégration de bases vectorielles (OpenSearch, Qdrant…) et de modèles LLM open source ou entraînés en interne
·Monitoring et maintenance des modèles : Surveiller les performances et la dérive des modèles en production, gestion des erreurs LLM, optimisation de temps de réponse de modèles
·Garantir la reproductibilité des expériences via le versioning des modèles et des jeux de données (DVC, MLflow)
·Contribuer, avec les équipes techniques, à la mise en place et l’optimisation de l’infrastructure IA souveraine hébergée sur un Cloud sécurisé supportant les modèles de langages : : load-balancing, auto-scaling
·Assurer la résilience et la continuité des services Ops en collaboration étroite avec le DevOps en suivant ces sujets pour garantir la stabilité, la performance et la sécurité des infrastructures supportant les modèles IA
Votre hiérarchie
La Direction de programme est composée d’un.e directeur.ice (N+2), et d’un adjoint.e (N+1).
Vos interlocuteurs métiers
Agents et prestataires des directions métier du Ministère de la Justice (DSJ, DAP, DACS, DACG, DPJJ, SG) et avec la direction du numérique
Profil recherché
Vos principales compétences à mettre en œuvre
·Architecture logicielle avec expérience spécifique dans le déploiement de LLMs à grande échelle
·Expertise en optimisation des performances d'inférence de LLMs (quantization, distillation, etc.)
·Maîtrise des workflows RAG et des frameworks LLMOps (LangChain, LlamaIndex, Haystack)
·Expérience avec les serveurs d’inférence (TGI, vLLM, Triton) pour optimiser les temps de réponse
·Connaissance approfondie des techniques de traçabilité et d’auditabilité des modèles (logs, métadonnées, versioning complet)
·Sensibilité DevSecOps : chiffrement, authentification, cloisonnement des accès aux données sensibles
Connaissances
Connaissance des outils de CI/CD (Jenkins, GitLab CI, CircleCI).
Connaissance des conteneurs et des orchestrateurs (Docker, Kubernetes)
Frameworks Big Data (Cloudera, Kafka, Hive…)
Stack LLMOps : LCEL, LangChain
Maîtrise des librairies Pandas, Pytorch, Tensorflow etc.
Bases vectorielles (OpenSearch, Weaviate, Pinecone)
Savoir-faire
Automatisation des processus de déploiement et de gestion des infrastructures
Outils de monitoring et de traçabilité de modèles : MLflow, Prometheus, Grafana
Règles de sécurité informatique
Veille technique
Orchestration de workflows IA : Airflow, n8n
Serveurs d’inférence : vLLM, Triton
Gestion des environnements sensibles et sécurité des modèles
Savoir-être
Travailler en méthode agile
Sensibilité pour l’approche produit et l’utilisateur au centre
Expériences professionnelles antérieures souhaitées
Diplômé(e) d'une école d'ingénieurs ou d'un master en informatique, avec une spécialisation en Ops, Machine Learing, IA, cloud computing ou un domaine similaire. Expérience professionnelle significative dans un rôle d’ingénieur.e MLOps, de préférence dans un environnement gouvernemental ou réglementé. Une expérience dans le déploiement à l’échelle de modèles LLM (internes ou open source) dans un cadre contraint ou réglementé est un atout majeur. Une appétence pour la construction de plateformes mutualisées ou de briques IA génériques utilisées dans différents produits métiers sera valorisée.
Localisation
Éléments de candidature
Personnes à contacter
- Haï-Ha Trinh-Vu hai-ha.trinh-vu@justice.gouv.fr
- Elise Farge Di Maria elise.farge-di-maria@justice.gouv.fr
Qui sommes-nous ?
L’intelligence artificielle constitue aujourd’hui un levier majeur de transformation et doit aider la Justice à relever ses nombreux défis : faciliter l’accès au droit, accélérer les délais de traitement des procédures, sécuriser le travail des agents pénitentiaires, améliorer les conditions de travail. Le traitement plus rapide d’importants volumes d’informations, l’aide à la recherche et à la rédaction, l’automatisation de certaines tâches répétitives, chronophages ou à faible valeur ajoutée sont autant de perspectives majeures pour les agents du ministère.
Préconisée par le rapport sur l’intelligence artificielle remis au ministre de la Justice le 23 juin 2025, la direction de programme IA portera cette ambition pour la Justice.
La direction de programme est rattachée au secrétariat général du ministère de la Justice, qui assure une mission générale de coordination et de soutien aux services du ministère, et qui exerce les fonctions prévues par le décret n° 2014-834 du 24 juillet 2014 relatif aux secrétaires généraux des ministères.
En rejoignant cette direction, vous aurez un impact significatif sur la justice en France, en contribuant à des projets innovants qui rendent la justice plus équitable et efficace. Ce poste offre l'opportunité de combiner expertise technique et engagement, dans un environnement stimulant où l'innovation sert le bien commun.
Descriptif du service
La Direction de programme IA regroupe des compétences pluridisciplinaires (juridique, technique, portage de produits, métier, etc.) qui lui sont pour partie affectées en propre et pour partie mises à disposition par d’autres services du ministère.
Elle construit et fait évoluer la stratégie IA du ministère, en lien avec les parties prenantes. Elle identifie les cas d’usages de l’IA au ministère, et les bénéfices attendus sur ces cas d’usage. Elle propose aux instances de gouvernance les décisions d’investissement et les projets à lancer. Elle fédère autour de cette stratégie les services et directions du ministère, et s’assure de leur participation à sa réalisation.
Elle s’assure au quotidien que les produits IA, ceux qu’elle porte directement et ceux portés par d’autres équipes du ministère, à qui elle apporte soutien et expertise, sont créés et évoluent dans un souci d’efficience globale, apportent bien la valeur attendue notamment pour les agents du ministère, et respectent les impératifs de performance, de conformité réglementaire, de sécurité et de souveraineté.
Elle définit et conduit une stratégie pour la montée en compétence des agents du ministère sur l’IA, et veille à la bonne adéquation des produits IA aux besoins de ces utilisateurs. La direction de programme assure le secrétariat de l’observatoire de l’IA, instance distincte qui sera chargée d’accompagner la mise en œuvre de la stratégie du ministère en la matière.
À propos de l'offre
-
Emploi ouvert aux fonctionnaires de catégorie A et aux contractuels
Renseignements et candidature
Haï-Ha Trinh-Vu
hai-ha.trinh-vu@justice.gouv.fr
Elise Farge Di Maria
elise.farge-di-maria@justice.gouv.fr -
Poste nécessitant une enquête administrative de sécurité
Moyens mis à votre disposition (matériel, logiciels spécifiques, véhicules…) :
Ordinateur portable
Restauration : oui (restaurant administratif)
Accessibilité en transport / Parking : Rosa Parks : transports en commun (RER E Rosa Parks, T3b, M12 Front populaire, M7 Corentin Cariou puis navette fluviale, bus 35 et 239) / Parking possible sur demande
-
Vacant à partir du 15/10/2025
-
Architecte technique
