Especialista en Fine-Tuning de LLMs - NVIDIA Stack
Formacion
- Ingeniería en Sistemas, Ciencias de la Computación, Matemáticas, IA o carrera afín
- Maestría o especialización en ML/IA
- NCA-GENL - NVIDIA AI Associate (Generative AI)
- NCP-GENL - NVIDIA Certified Professional (Generative AI Large Models) - certificación objetivo
- NCP-AAI - NVIDIA Certified Professional (Agentic AI) - para integración post-ajuste - deseable
- Deep Learning Specialization - DeepLearning.AI (Coursera)
- NVIDIA DLI (Deep Learning Institute) - cursos oficiales en NeMo, CUDA y fine-tuning
- Inglés intermedio-avanzado - documentación técnica NVIDIA y papers en inglés
Experiencia
- 4-7 años en Machine Learning, MLOps o ingeniería de inteligencia artificial
- Mínimo 2 años ejecutando procesos de fine-tuning de LLMs en ambientes de producción
- Experiencia comprobable con GPUs NVIDIA en entornos de entrenamiento - A100, H100 o RTX PRO
- Manejo de modelos de 7B parámetros o superior (Llama, Mistral, Qwen, Gemma, Nemotron)
- Historial de modelos ajustados entregados y funcionando en producción, con métricas de evaluación documentadas
Habilidades técnicas
Fine-Tuning de LLMs - Técnicas
- SFT (Supervised Fine-Tuning) - dataset curation, tokenización, entrenamiento supervisado
- LoRA y QLoRA - ajuste eficiente en bajo consumo de VRAM, configuración de rank y alpha
- RLHF (Reinforcement Learning from Human Feedback) y DPO (Direct Preference Optimization)
- Preparación y curación de datasets - limpieza, formateo JSONL/Alpaca/ShareGPT, balanceo
- Evaluación de modelos - benchmarks estándar, métricas BLEU, ROUGE, perplexity, human eval
- Gestión de hiperparámetros - learning rate schedulers, batch size, warmup steps, gradient accumulation
Stack NVIDIA - Core
- NVIDIA NeMo Framework - configuración de jobs de fine-tuning, ajuste de hiperparámetros para DGX SuperPOD con GPUs A100 80GB
- NVIDIA DGX Spark - fine-tuning de modelos hasta 70B parámetros con 128GB de memoria unificada sobre arquitectura Grace Blackwell
- CUDA - programación GPU, optimización de kernels, diagnóstico de rendimiento
- TensorRT-LLM - optimización de inferencia post-entrenamiento, cuantización de precisión
- NVIDIA NIM (Inference Microservices) - empaquetado, despliegue y exposición de modelos ajustados como APIs OpenAI-compatibles
- DCGM (Data Center GPU Manager) - monitoreo, telemetría y diagnóstico de GPUs en producción
- NGC (NVIDIA GPU Cloud) - catálogo de contenedores, modelos base y datasets preentrenados
Frameworks de Entrenamiento
- Unsloth - fine-tuning optimizado para bajo consumo de memoria en GPUs NVIDIA, soporte LoRA/QLoRA
- Hugging Face Transformers y PEFT - librerías de referencia para ajuste eficiente
- TRL (Transformer Reinforcement Learning) - entrenamiento con RLHF y DPO
- PyTorch - framework base de entrenamiento, autograd, DataLoader, mixed precision (fp16/bf16)
- JAX - opcional para modelos especializados
Modelos Base de Referencia
- Llama 4 / Llama 3.x - familia Meta, referencia del mercado open source
- Nemotron 3 Nano / Super / Ultra - familia NVIDIA optimizada para fine-tuning con Unsloth y DGX Spark
- Mistral 7B / Mixtral - modelos europeos eficientes para fine-tuning liviano
- Qwen 2.5 / Gemma 3 / Phi-4 - alternativas para casos de modelos pequeños eficientes
MLOps e Infraestructura
- Python avanzado - PyTorch, scikit-learn, pandas para pipelines de datos
- Docker y Kubernetes - contenedores de entrenamiento, orquestación de jobs
- Slurm - gestor de colas para entrenamiento distribuido en clústeres GPU
- MLflow y Weights & Biases - tracking de experimentos, visualización de métricas, comparación de runs
- Git y DVC - versionado de código, modelos y datasets
- Linux avanzado - administración de servidores GPU, montaje de volúmenes, optimización del sistema
Consideraciones:
Trabajo home office
Pago por factura (honorarios profesionales)
Sueldo: $35,000.00 - $45,000.00 al mes
Lugar de trabajo: Empleo remoto