Engenheiro llm ops
Remoto LATAM
Esta vaga é 100% remota e está aberta a candidatos de qualquer país da LATAM (Argentina, Bolívia, Brasil, Chile, Colômbia, México, Paraguai, Uruguai). Mesmo que a ficha mencione uma cidade, não é necessário morar lá: a empresa contrata em toda a região.
MissionHiresAmérica Latina (Remoto)
53 pessoas interessadas nesta vaga
Seja um dos primeiros a se candidatar
Mais de candidaturas iniciadas pelo TOKA
WhatsApp, e-mail e sites dos empregadores
Candidaturas iniciadas pelo TOKA
WhatsApp, e-mail e sites dos empregadores
SalárioSalário não especificado
Jornadafull-time
Modalidaderemote
Publicado19 sept
Mais de candidaturas iniciadas pelo TOKA
WhatsApp, e-mail e sites dos empregadores
Candidaturas iniciadas pelo TOKA
WhatsApp, e-mail e sites dos empregadores
Engenheiro LLM Ops para atuação remota em toda a América Latina, em regime full-time. Responsável por gerenciar e otimizar modelos de linguagem grandes (LLM), garantindo desempenho, escalabilidade e confiabilidade em produção. Experiência com pipelines de inferência, monitoramento e implantação de modelos é essencial.
Sobre a vaga
Procuramos um Engenheiro de LLM Ops para construir e operar a camada de plataforma de IA da empresa: uma gateway de modelos linguísticos (LLM) e uma gateway de MCP, que atuam como intermediárias entre nossos sistemas e provedores externos de modelos (OpenAI, Anthropic, Google, entre outros) e ferramentas/servidores MCP. O profissional será responsável por garantir que esses serviços sejam escaláveis, seguros e confiáveis, com foco em desempenho, custo e governança.
Responsabilidades principais
Projetar, implementar e manter uma gateway de LLMs que ofereça uma interface unificada para múltiplos provedores de modelos.
Desenvolver roteamento inteligente de modelos, fallbacks, retries, balanceamento de carga e seleção dinâmica de provedor/modelo conforme o caso de uso.
Gerenciar credenciais e chaves de acesso a provedores com segurança, incluindo rotação e uso de gerenciadores de segredos.
Implementar caching (inclusive cache semântico) para reduzir custos e latência nas chamadas.
Construir e operar uma gateway de MCP para exposição, descoberta e controle de acesso a ferramentas e servidores MCP.
Definir políticas de acesso por ferramenta/servidor (quem pode invocar o que).
Auditar e registrar o uso de ferramentas MCP com rastreabilidade completa de ponta a ponta.
Implementar medidas de governança, segurança e conformidade: guardrails, filtragem de conteúdo, proteção contra injeção de prompts e vazamento de dados.
Aplicar mascaramento ou redação de dados sensíveis (PII) em prompts, respostas e logs.
Estabelecer políticas de acesso (RBAC), cotas e limites de uso por equipe, aplicativo ou usuário.
Manter registros de auditoria e apoiar exigências de compliance e privacidade.
Monitorar custos (FinOps de IA): atribuir gastos por equipe, aplicativo ou feature, com orçamentos e alertas.
Criar observabilidade para IA: tracing, métricas de latência, custo, uso e qualidade.
Desenvolver dashboards e alertas para consumo, erros e degradação de provedores.
Definir SLAs/SLOs para a plataforma de IA e elaborar planos de resposta a incidentes, incluindo falhas em provedores.
Apoiar equipes de produto e engenharia na integração com a gateway.
Requisitos indispensáveis
Experiência sólida em Python (ou linguagem backend similar) no desenvolvimento de serviços e APIs em produção.
Conhecimento em design e operação de gateways de API, proxies ou camadas de middleware em escala.
Domínio em contêineres e orquestração com Docker e Kubernetes.
Experiência com pelo menos uma das principais nuvens: AWS, GCP ou Azure.
Habilidade em integrar APIs de provedores de LLMs (OpenAI, Anthropic, entre outros).
Fundamentos fortes em segurança: gestão de credenciais, autenticação/autorização (RBAC, OAuth), e tratamento de dados sensíveis (PII).
Visão de plataforma: capacidade de criar abstrações reutilizáveis e confiáveis para outros times consumirem.
Compreensão dos desafios específicos dos LLMs: latência variável, custos dinâmicos, comportamento não determinístico e necessidade de monitoramento avançado.
Não é esta? Receba toda semana vagas de Suporte Técnico / TI em São Paulo
Vagas similares sugeridas
Ver todas as ofertas de Suporte Técnico / TI
Perguntas frequentes
- A vaga é totalmente remota?
- Sim, a vaga de Engenheiro LLM Ops é totalmente remota, podendo ser exercida em qualquer lugar da América Latina. Isso oferece flexibilidade, mas certifique-se de ter uma conexão estável com a internet e um ambiente adequado para trabalho remoto, pois a posição exige disponibilidade e engajamento contínuos.
- Por qual meio devo enviar a candidatura?
- A candidatura deve ser enviada através do link externo fornecido na descrição da vaga. Não há e-mail ou WhatsApp específico para o envio de candidaturas, então siga o processo indicado na plataforma que está acessando a vaga para garantir que sua aplicação seja processada corretamente.
- Que perguntas fazer sobre salário antes da entrevista?
- Como a faixa salarial não foi divulgada, prepare perguntas como: 'Qual é a faixa salarial prevista para esta posição?' e 'Existem benefícios adicionais ou participação nos lucros?' Isso ajuda a entender melhor as condições oferecidas e alinhar suas expectativas antes de prosseguir no processo seletivo.