O que é e como funciona na prática
O moinho d quixote é basicamente uma ferramenta de processamento que roda como servidor local e expõe endpoints REST para gerar conteúdo via chamadas HTTP. A ideia é simples: você manda um prompt em JSON e recebe texto estruturado de volta. Nada de mágica, só uma interface bem construída sobre modelos de linguagem rodando em máquina própria ou em container. A instalação segue o padrão: clone o repositório, rode o script de setup e suba os containers. Em máquinas boas, leva cerca de 8 a 12 minutos do início ao primeiro request funcionando. Em máquinas mais modestas, pode levar 30 minutos ou mais dependendo da quantidade de memória disponível. O gargalo real não é a instalação em si, mas o download dos modelos quando o hardware é fraco.
O que muita gente não leva em conta na primeira vez é que o moinho d quixote precisa de pelo menos 16 GB de RAM livre para rodar com modelos de médio porte. Se você tentar rodar com 8 GB, o sistema vai usar swap e aí sim vai parecer que está travado. Eu passei duas horas achando que era bug no docker-compose antes de perceber que o processo estava apenas paginando memória silenciosamente no disco.
moinho d quixote instalação e configuração
Depois de clonar o repositório, entre na pasta e rode o comando de build. O arquivo de configuração principal é o config.yaml na raiz, onde você define qual modelo usar, a porta de escuta e os parâmetros de geração. A maioria dos problemas que vejo em fóruns vem de configuração errada nesse arquivo, especialmente o campo model_path apontando para um caminho que não existe no container. Os modelos disponíveis são carregados sob demanda pela primeira vez. Isso significa que o primeiro request pode levar de 30 segundos a 2 minutos enquanto o modelo é baixado da cache local. A partir daí, a resposta costuma ficar em torno de 3 a 8 segundos por requisição, dependendo do tamanho do prompt e do modelo escolhido. Não espere latência de milissegundo como em serviços cloud.
👉 Clique no botão abaixo para saber mais sobre o assunto!
Outro detalhe prático que ninguém menciona: o moinho d quixote tem um limite de concurrency padrão configurado para 4 requisições simultâneas. Se você mandar 10 prompts ao mesmo tempo num script automatizado, as 6 extras ficam enfileiradas esperando. A solução é ajustar o parâmetro max_workers no arquivo de configuração para algo entre 8 e 16, desde que sua GPU ou CPU tenha fôlego. Eu aumentei para 12 num servidor com 64 GB de RAM e consegui processar batches de 500 prompts em cerca de 25 minutos, contra 2 horas no padrão.
Alternativas quando o moinho d quixote não resolve
Existem cenários onde essa ferramenta simplesmente não entrega o resultado esperado. Se você precisa de respostas em tempo real com latência abaixo de 500 ms, o moinho d quixote não é a escolha certa. Também não funciona bem se o seu workload envolve múltiplos idiomas diferentes misturados na mesma requisição — o modelo padrão foi treinado principalmente com dados em inglês e espanhol, então a qualidade cai bastante em português com texturas regionais ou jargões técnicos específicos. Para quem precisa de algo mais leve rodando em recursos menores, existem implementações alternativas que usam modelos quantizados e ocupam menos memória. Elas sacrificam um pouco de qualidade em troca de performance, o que faz sentido dependendo do caso de uso. Se o seu objetivo é apenas gerar resumos, classificar texto ou extrair campos estruturados de documentos, a diferença de qualidade muitas vezes não compensa o custo extra de hardware.
O download oficial fica no repositório principal do projeto no GitHub, na aba de releases. Recomendo sempre pegar a versão mais recente e conferir as notas de release antes, porque há casos conhecidos de incompatibilidade com versões mais novas do docker que precisam de ajustes manuais no docker-compose.yaml. Eu já perdi tempo demais com isso.
