Buscamos um profissional na interseção entre Inteligência Artificial e Cibersegurança. Alguém que entende os riscos de agentes de IA em produção e, a partir desse entendimento, é capaz tanto de auditar e mitigar essas vulnerabilidades quanto de construir defesa em profundidade e governar a operação segura desses sistemas — e de ensinar cada uma dessas frentes. Não buscamos apenas um usuário avançado de ferramentas de IA, mas alguém com visão crítica sobre os riscos específicos que agentes e aplicações baseadas em LLMs introduzem em ambientes corporativos, da configuração de tools até o incidente em produção.
O perfil ideal já trabalhou com segurança de aplicações de IA em alguma capacidade, seja auditando a segurança de agentes de IA e integrações via MCP, implementando guardrails e defesa em profundidade para aplicações de IA, ou atuando em governança/MLSecOps (supply chain de modelos, monitoramento e resposta a incidentes de IA). Tem linguagem técnica precisa e consegue traduzir conceitos complexos de IA para profissionais de segurança e vice-versa.
Experiência esperada:
- 3+ anos de experiência em segurança da informação combinada com atuação prática em sistemas de IA ou LLMs
- Vivência real com ao menos um dos seguintes contextos: segurança de agentes de IA e integrações via tools/MCP, implementação de guardrails e defesa em profundidade para aplicações de IA, ou governança/MLSecOps (supply chain de modelos, monitoramento e resposta a incidentes de IA)
- Experiência com automação de tarefas de segurança usando Python e APIs de LLMs (OpenAI, Anthropic, Mistral ou equivalentes)
- Familiaridade prática com Garak (NVIDIA) e PyRIT (Microsoft) para validar a robustez de defesas implementadas
Conhecimentos técnicos essenciais
Segurança de agentes de IA:
- Excessive agency: identificação de cenários em que o agente pode agir além do escopo pretendido, com métricas como Unsafe Action Rate e Privilege Escalation Distance
- Tool poisoning: como descrições de ferramentas manipuladas enganam o agente na escolha da tool
- Auditoria de segurança de servidores MCP: autorização (OAuth 2.1), exposição de credenciais e PII em servidores mal configurados
- Riscos de sistemas multiagente: contexto/memória envenenados e escalonamento de instrução maliciosa entre agentes
- Mitigação com princípio de menor privilégio e aprovação humana para ações de alto risco
Guardrails e defesa de aplicações de IA:
- Defesa em profundidade: as cinco camadas de guardrail (input, retrieval, dialog, execution, output rails)
- Implementação de guardrails com NeMo Guardrails (orquestração open source) e Llama Guard (classificação de conteúdo inseguro)
- Mitigação de prompt injection e tool abuse com least-privilege e filtragem de input/output
- Validação de defesas implementadas com um novo ciclo de red teaming (Garak/PyRIT)
Governança e MLSecOps:
- Supply chain de modelos: verificação de proveniência e integridade (model signing, model cards) e riscos de model poisoning/backdoors em modelos open source
- Monitoramento de produção de sistemas de IA: anomalias de output, uso indevido de tools, tentativas de bypass de guardrail
- Resposta a incidentes de IA: o que muda em relação ao IR tradicional e como estruturar um playbook específico
- Governança e conformidade regulatória de sistemas de IA (EU AI Act), conectada a GRC tradicional
Diferenciais
- Pesquisa publicada ou apresentação em eventos sobre segurança de IA (DEF CON AI Village, NeurIPS workshops, USENIX Security, Black Hat, Mind the Sec ou equivalentes)
- Experiência com fine-tuning ou implantação de LLMs em ambientes corporativos, com visão sobre os riscos introduzidos em cada etapa
- Conhecimento de regulação e governança de IA além do EU AI Act (ex.: NIST AI RMF) aplicado à segurança
- Criação de conteúdo técnico público: artigos, repositórios, cursos ou palestras sobre segurança em sistemas de IA
- Capacidade de transformar projetos reais e experiências profissionais em aulas práticas e acessíveis;
- Conhecimento básico de ferramentas de gravação (microfone, câmera, iluminação) ou disposição para receber orientação técnica nesse processo;
- Boa comunicação verbal e escrita para apresentar conceitos técnicos de forma clara, estruturada e com linguagem próxima da comunidade de tecnologia.