Buscamos Arquitetos(as) de Plataforma de IA para atuação em um projeto estratégico de consultoria e sustentação em uma grande instituição do segmento bancário.
O desafio será apoiar a construção e evolução da plataforma corporativa de IA, permitindo que diferentes squads coloquem aplicações de IA Generativa em produção com segurança, governança, observabilidade, escalabilidade e controle de custos.
Principais responsabilidades:
• Definir e evoluir a arquitetura-alvo da plataforma interna de IA;
• Arquitetar gateway de LLM com abstração de provedores, roteamento, fallback, rate limiting e quotas;
• Desenvolver estratégias multiprovedor e mitigação de vendor lock-in;
• Criar arquiteturas de referência para RAG, sumarização, classificação e agentes;
• Estruturar multitenancy e integração com IAM corporativo;
• Implementar tracing ponta a ponta para chamadas de LLM e agentes;
• Estruturar métricas de latência, tokens, erros, qualidade e utilização;
• Implementar acompanhamento de custos por squad e feature;
• Criar mecanismos de avaliação e regressão de prompts, modelos e ferramentas;
• Estruturar experimentação, testes A/B, shadow deployment, feature flags e rollout progressivo;
• Definir SLOs, resiliência, capacity planning e estratégias para incidentes de provedores;
• Desenvolver SDKs e caminhos padronizados para adoção segura da plataforma pelos squads.
Requisitos:
• Experiência comprovada com aplicações de LLM em produção;
• Python sólido;
• LiteLLM, Portkey, Kong AI Gateway ou equivalente;
• AWS Bedrock, Azure OpenAI ou GCP Vertex AI;
• Langfuse, LangSmith, Arize Phoenix, Helicone ou similares;
• Promptfoo, Ragas, Braintrust, TruLens ou harness próprio;
• LangChain/LangGraph, LlamaIndex ou equivalente;
• RAG em produção: embeddings, chunking, vector stores, reranking e avaliação de retrieval;
• Kubernetes, containers, Terraform e CI/CD;
• IAM, redes e criptografia;
• Arquitetura de APIs e sistemas distribuídos.
Diferenciais:
• Sistemas agênticos em produção;
• Human-in-the-Loop e supervisão de agentes;
• Experiência em instituições financeiras ou ambientes regulados;
• FinOps aplicado à IA;
• Contribuição para projetos open source do ecossistema de IA;
• Certificações de arquitetura Cloud.
🏦 Projeto: Grande cliente do segmento bancário
Se interessou? Candidate-se à vaga e realize sua entrevista técnica com a SophIA:
NAVA-PLATAFORMAIA
https://entrevista.starmindai.ai