Eu vou consertar, depurar ou melhorar sua integração de API llm ou chatgpt


Sobre este Serviço
Tradução automática
Sua funcionalidade de LLM quase funciona? Vou descobrir o porquê e consertar.
Problemas típicos que eu resolvo:
- Chamadas de API que falham, dão timeout ou retornam JSON quebrado
- Chamadas de ferramenta e saída estruturada que o modelo ignora
- Chatbots RAG que pegam documentos errados ou inventam coisas
- Prompts que funcionam no teste, mas não com usuários reais
- alto custo de tokens, respostas lentas, streaming com bugs
Me envie o código e um exemplo do que acontece de errado. Eu reproduzo, conserto e explico o que mudou. Funciona com OpenAI e APIs compatíveis com OpenAI; Python é o preferido, TypeScript e Java também.
Sobre mim: eu crio sistemas LLM que rodam em produção: IA codificando documentos médicos para hospitais, e um gerador de relatórios que faz cerca de 170 chamadas de LLM por relatório com retries e cache.
Conheça mais sobre Filip Jukic
AI Engineer for LLM agents, private LLMs and Python backends
- A partir deÁustria
- Membro desdeset. de 2022
Idiomas
Alemão, Croata, Inglês, Francês
Tradução automática
Perguntas frequentes
Tradução automática
Com quais modelos e APIs você trabalha?
OpenAI (GPT) e qualquer API compatível com OpenAI, incluindo modelos abertos auto-hospedados no llama.cpp. Se usar outra coisa, me avise antes de fazer o pedido.
O que você precisa de mim?
O código (convite ao repositório ou zip), como executá-lo e 2 ou 3 exemplos de onde dá ruim. Uma chave de API de teste basta; eu nunca preciso das suas chaves de produção.
E se o conserto for maior que o pacote?
EU te digo o que achei e o que seria preciso para um conserto completo antes de fazer mais trabalho. Você decide se quer ampliar o pedido; nada é adicionado sem o seu OK.
