Há um princípio silencioso no yoga que se aplica de forma surpreendentemente boa à tecnologia: usar exatamente o esforço que o momento exige — nem mais, nem menos. A maior parte das equipas que usam IA hoje está a fazer o contrário. Estão a gastar o máximo de esforço em cada tarefa, quer ela precise disso ou não, e a pagar pelo privilégio um token de cada vez.
Vamos falar sobre por que razão os seus custos com IA continuam a aumentar — e como trazê-los de volta a algo intencional.
Os modelos de ponta são construídos para consumir tokens
Os modelos de ponta da Anthropic e da OpenAI são genuinamente notáveis, e uma grande parte de porquê é que a geração mais recente simplesmente faz mais trabalho por pedido. Raciocinam passo a passo. "Pensam" antes de responder. Executam ciclos agenticos mais longos e com várias etapas. Dão respostas completas, bem cautelosas e ricas em contexto.
Isto é uma verdadeira vitória na experiência do utilizador. As respostas são melhores, mais cuidadosas e mais capazes do que os modelos lacónicos de há alguns anos. Mas traz consigo um efeito secundário estrutural que vale a pena nomear de forma clara:
Estes modelos são tarifados por token, e foram concebidos para usar mais tokens.
Mais raciocínio, mais produção, mais ida e volta — tudo isso melhora a experiência e aumenta o consumo. Os incentivos de quem lhe vende tokens e os seus, enquanto comprador, não apontam na mesma direção. Acaba por pagar por uma deliberação profunda em tarefas que precisavam apenas de uma resposta de uma linha.
O que isto realmente custa a uma empresa
Numa única conversa, o custo é invisível — uma fração de cêntimo. O problema é a escala.
- Um fluxo de trabalho de apoio ao cliente que trata 50,000 mensagens por dia.
- Um pipeline de conteúdos que gera centenas de rascunhos.
- Um agente interno que entra em ciclo cinco ou seis vezes por tarefa para "raciocinar tudo".
Multiplique o uso de tokens por chamada pela sobrecarga de raciocínio, depois pelo volume, depois por 30 days. Um fluxo de trabalho que parecia trivialmente barato na demonstração torna-se uma despesa operacional séria e recorrente — e uma que cresce sempre que adiciona uma funcionalidade ou um cliente. Pior ainda, é imprevisível: um modelo que decide pensar mais profundamente este mês aumenta discretamente a sua fatura sem que ninguém publique uma única linha de novo código.
Para uma pequena ou média empresa, essa imprevisibilidade é o verdadeiro imposto.
A alternativa local: Ollama
Aqui está a mudança de mentalidade. Nem toda a tarefa precisa de um modelo de ponta. Na verdade, a maioria não precisa.
Ollama permite-lhe executar modelos open-source capazes — Llama, Mistral, Qwen e muitos outros — diretamente no seu próprio hardware ou num servidor modesto. Uma vez em funcionamento, o custo marginal de um pedido desce para praticamente zero. Já pagou pelo processamento; não há contador por token a girar.
A contrapartida é que um modelo local de 7B–30B não é tão brilhante de forma abrangente como um modelo de ponta. Mas, para trabalho bem definido e repetível — classificação, extração, resumo, encaminhamento, elaboração de textos com base num modelo — um modelo local mais pequeno é mais do que suficiente. A arte está em saber que tarefas manter localmente e quais escalar.
As custom skills do AnythingLLM: a verdadeira alavanca
É aqui que vive a maior parte da poupança.
AnythingLLM é uma aplicação open-source que integra modelos locais (via Ollama) num espaço de trabalho limpo com suporte para documentos/RAG — e, crucialmente, um sistema de custom skills. Em vez de pedir a um modelo que raciocine do zero sobre a mesma tarefa sempre que ela surge, codifica-se a parte repetível do trabalho como uma skill determinística: código real que executa de forma previsível, chama as suas APIs, formata a sua saída e só devolve ao modelo as decisões genuinamente ambíguas.
O resultado é um híbrido:
- Código determinístico faz o trabalho pesado e repetível — de graça, sempre, da mesma forma.
- O modelo é invocado apenas para a pequena parte da tarefa que realmente exige julgamento.
Obtém o mesmo resultado final, com uma fração do consumo de tokens — porque deixou de pagar a um modelo de linguagem para reconstituir um processo que já conhece.
Onde entram os servidores MCP
Um pequeno modelo local só é útil na medida em que consegue alcançar algo. Essa é a função dos servidores MCP (Model Context Protocol).
MCP é um standard aberto para ligar modelos de IA a ferramentas, dados e sistemas em tempo real — bases de dados, repositórios de ficheiros, APIs internas, sistemas de tickets, o seu CRM. O AnythingLLM suporta servidores MCP, o que significa que o seu stack local não é um chatbot fechado; é um agente que pode ler dados reais e executar ações reais através de uma interface limpa e normalizada.
É isto que torna a abordagem local viável para trabalho sério. Os fornecedores de ponta querem que faça tudo dentro da sua janela de contexto tarifada por tokens. O MCP permite-lhe manter os dados, as ferramentas e a lógica determinística do seu lado — e gastar tokens apenas no pensamento propriamente dito.
Dicas práticas: reescrever uma skill standard como uma custom skill otimizada
Eis como pegar numa tarefa que atualmente entrega a um modelo de ponta e reconstruí-la para funcionar por uma fração do custo.
Analise primeiro o seu gasto de tokens. Identifique os 3–5 fluxos de trabalho que correm com mais frequência. É aí que a poupança se multiplica. Não otimize a coisa que executa duas vezes por semana.
Separe o determinístico do ambíguo. Leia com atenção o que o modelo faz realmente em cada chamada. As partes que são iguais todas as vezes — obter dados, aplicar um formato, validar campos, encaminhar — não precisam de um modelo de linguagem.
Passe as partes determinísticas para código. Numa custom skill do AnythingLLM, essa lógica torna-se uma função handler. Corre sempre da mesma maneira, com custo de tokens zero.
Reduza o prompt à decisão. Dê ao modelo apenas a questão genuinamente ambígua, com contexto suficiente para responder. Nada de repetir todo o processo em cada chamada. Entrada menor, saída menor, fatura menor.
Traga dados em tempo real através do MCP, não do prompt. Não cole um documento de 4,000 tokens no contexto quando uma ferramenta MCP pode obter exatamente o campo de que precisa, quando precisa.
Faça o encaminhamento pela dificuldade. Execute a versão do dia a dia num modelo local Ollama. Reserve o modelo de ponta para os 5% genuinamente difíceis — e deixe a sua skill decidir quando escalar.
Meça antes e depois. Acompanhe tokens por tarefa antes e depois. As equipas que fazem isto regularmente encontram reduções de 80–95% nos fluxos de trabalho de maior volume.
A conclusão intencional
A IA de ponta vale o que custa — quando a tarefa realmente o exige. O erro é usá-la como padrão para tudo, e financiar discretamente um contador por token que foi desenhado para continuar a subir.
Execute o trabalho de rotina localmente. Codifique o que é repetível como custom skills. Ligue-o ao mundo real com MCP. Guarde os modelos de ponta para os momentos que realmente deles precisam.
Isso não é cortar nos cantos. É simplesmente usar o esforço certo para o momento — o que, por coincidência, é uma boa prática tanto no tapete como na cloud.