Missions :
- Adapter et spécialiser des modèles de langage open source sur des jeux de données métier.
- Mettre en ?uvre des techniques d?alignement visant à améliorer la pertinence, la fiabilité et la qualité des réponses générées.
- Définir les formats de données, prompts et structures conversationnelles adaptés à l?entraînement des modèles.
- Concevoir et industrialiser des processus rigoureux d?évaluation et de benchmark des performances des modèles.
- Participer à l?amélioration continue des méthodes d?apprentissage et d?optimisation des modèles.
- Accompagner les équipes techniques sur les sujets liés à l?intelligence artificielle générative.
- Compétences techniques requises
- Fine-Tuning de modèles
- Maîtrise des techniques d?adaptation de modèles de langage telles que LoRA et QLoRA.
- Expérience sur des frameworks spécialisés de fine-tuning (Unsloth, Axolotl, TRL ou équivalent).
- Structuration et préparation des données
- Expérience dans la conception et la structuration de jeux de données d?entraînement.
- Maîtrise des formats conversationnels utilisés pour les modèles génératifs (ChatML, Alpaca ou équivalent).
- Alignement et optimisation
- Mise en ?uvre de méthodes d?optimisation des réponses basées sur l?apprentissage par renforcement ou les préférences.
- Connaissance des frameworks d?alignement tels que TRL, OpenRLHF, verl ou solutions similaires.
- Évaluation et benchmarking
- Conception de protocoles de validation et de mesure des performances.
- Utilisation de benchmarks standards et d?outils d?évaluation comparative des modèles.
- Compétences complémentaires appréciées
- Intérêt pour les problématiques liées à la sécurité informatique ou aux systèmes complexes.
- Connaissance des plateformes de déploiement et d?inférence de modèles d?IA.
- Excellente maîtrise de Python et de PyTorch.
- Connaissance des environnements MLOps et des outils d?industrialisation IA.
-
- Expert en Intelligence Artificielle et Modèles de Langage
- Description de mission anonymisée
- Dans le cadre d?un programme d?innovation technologique, nous recherchons un(e) Expert(e) en Intelligence Artificielle spécialisé(e) dans les Modèles de Langage (LLM/SLM) afin de concevoir, adapter et évaluer des modèles de traitement du langage naturel dédiés à des cas d'usage métier à forte valeur ajoutée.
- En collaboration avec les équipes techniques et les équipes métier, le consultant interviendra sur les activités suivantes :