Vou construir um chatbot de IA no telegram que responde a partir dos seus documentos, com citações

Essa é a falha contra a qual este sistema foi construído. Cada citação é checada com os trechos realmente recuperados, e uma referência inventada é descartada ao invés de exibida. Na minha avaliação, foram 18/18 respostas sem referências inventadas.

Ele diz isso claramente. Recusar é um comportamento planejado, não um acidente, e é avaliado como tudo o mais: na minha construção, todas as cinco perguntas sem resposta foram recusadas, nenhuma delas respondida de qualquer jeito.

Eles se tornam um índice que você possui e mantém. Eu não guardo cópia após a entrega. As embeddings rodam localmente na CPU, então o indexamento não envia nada para lugar algum; apenas uma pergunta e os trechos recuperados chegam ao modelo de linguagem.

O indexamento não custa nada — roda na sua própria máquina. Responder custa tokens do modelo, e a construção tem dois limites rígidos contados no banco de dados, por pessoa por dia e por mês, então reiniciar não dá uma nova cota para ninguém.

Sim. O conjunto de documentos é uma configuração, não um código: aponte para novos arquivos e reindexe. Na minha avaliação, substituir todas as sete publicações por outro conjunto é uma edição de um arquivo de configuração.

Sim, mas não com esse serviço — esse é meu outro, o bot no Telegram e Mini App que substitui um processo manual. É baseado em regras: menus, formulários e passos que você define. Me envie uma mensagem se não tiver certeza de qual dos dois se encaixa.