Vou fazer ajuste fino e treinar LLMs com pytorch e huggingface

Eu ajusto modelos abertos com seus dados para que eles realmente entendam sua terminologia, seus documentos e seu caso de uso.

O que eu faço

• Ajusto modelos de pesos abertos com LoRA ou ajuste completo, usando PyTorch e HuggingFace
• Limpo e estruturo seus dados brutos em um conjunto de treinamento utilizável, geralmente a parte mais difícil
• Construo uma avaliação para que a qualidade seja medida, não adivinhada
• Exporto para produção: ONNX, TorchScript ou uma API de inferência implantada
• Executa na sua infraestrutura, assim não há custos por token na API

Trabalho recente: ajustei um modelo com a documentação interna de um cliente. A precisão no benchmark deles passou de aproximadamente 60% para mais de 90%, rodando na própria infraestrutura deles.

Como eu trabalho

Eu crio o conjunto de avaliação antes de treinar qualquer coisa. Sem ele, não dá para saber se uma tentativa melhorou ou piorou as coisas, e a maioria dos projetos de ajuste pula essa etapa.

Também te aviso quando o ajuste não é a melhor solução, às vezes RAG ou uma melhor promptagem te levam lá por muito menos.

Me envie uma mensagem com seu caso de uso e o tamanho do dataset, e te digo o que é realista.