Vou adicionar recursos de LLM ao seu backend em python com rag citado e controle de custos

Você quer um recurso de LLM que forneça respostas fundamentadas, falhe de forma segura e não te surpreenda na conta. Eu implemento isso em backends Python existentes.

O que eu construo: retrieval (RAG) com citações, para que cada resposta indique sua fonte; saídas estruturadas, validadas com pydantic antes de qualquer coisa ser salva ou executada; passos de agente que aguardam a aprovação de uma pessoa antes de alterar dados; roteamento e cache do modelo para manter o custo por solicitação sob controle; e um conjunto de avaliação, para que a qualidade seja medida ao invés de julgada a olho nu.

Como eu trabalho: leio seu código antes de fazer alterações, escrevo o teste que vai falhar primeiro, e te mostro a funcionalidade usando seus próprios dados antes de entregar. Background: Python de produção (Django REST, pytest, workers de fila na AWS) em uma plataforma que já oferece recursos de LLM, após anos de trabalho remoto para equipes na Nova Zelândia, Cingapura e Austrália.

O que você recebe: a funcionalidade no seu repositório com testes, uma breve nota de design e os resultados da avaliação.

Me envie uma mensagem primeiro com sua stack e o que a funcionalidade deve fazer.