NOTAS DE QUEM CONSTRÓI · #057

O token ficou mais barato e a conta de IA subiu mesmo assim

O preço do token caiu, mas 73% das empresas estouraram o orçamento de IA no último ano. O motivo não é quanto custa o modelo, é quantas vezes ele é chamado.

Welly4 MIN

O token ficou mais barato e a conta de IA subiu mesmo assim

Se a aposta da sua empresa foi trocar de modelo para um mais barato e esperar a fatura de IA cair, vale rever a conta. A pesquisa State of FinOps 2026, da FinOps Foundation, publicada em junho deste ano com 1.192 respondentes que juntos gerenciam mais de 83 bilhões de dólares em gasto anual de nuvem, mostra que 73% das empresas estouraram a projeção de gasto com IA no último ano. E o motivo não é o preço do token: é quantas vezes o token é usado.

O mesmo levantamento traz o dado que explica o paradoxo. Em 2023, inferência (o custo de rodar o modelo, e não de treiná-lo) era cerca de um terço do orçamento de IA das empresas. Hoje é 85%. O preço por token caiu, isso é fato conhecido, mas o número de chamadas por tarefa subiu mais rápido que o preço caiu. Um agente que planeja, busca contexto, chama uma ferramenta, confere o resultado e só depois responde faz isso em quatro ou cinco idas e vindas ao modelo. Um chat simples faz uma.

Num log de execução, essa diferença fica visível assim:

1. chamada: planejar a tarefa
2. chamada: buscar contexto no banco
3. chamada: executar ferramenta (API externa)
4. chamada: validar o resultado da ferramenta
5. chamada: gerar a resposta final

Cinco chamadas de modelo para uma tarefa que, num chat comum, seria uma pergunta e uma resposta. Multiplica isso por milhares de execuções por dia e o preço por token vira a variável menos importante da conta.

O orçamento virou parte do trabalho de FinOps, não só da TI

Outro número do mesmo relatório mostra a velocidade da mudança: há dois anos, 31% dos times de FinOps diziam gerenciar gasto de IA como parte do escopo. Hoje são 98%. Não é mais uma linha isolada de "testes de IA" na planilha, é a maior fonte de variação do orçamento de tecnologia.

Antes2026
Times de FinOps que gerenciam gasto de IA (2024)31%98%
Fatia do orçamento de IA em inferência (2023)~33%85%

A leitura errada é achar que o problema é escolher o modelo certo. A leitura certa é que ninguém está medindo o que realmente custa: não é o modelo, é a tarefa. Uma tarefa que precisa de três chamadas custa três vezes mais que uma de uma chamada, seja qual for o preço por token daquele mês.

Onde o gasto escapa, na prática

É o padrão que aparece em relato atrás de relato do setor: o time troca de modelo, comemora a fatura mais barata do mês seguinte e, dois ou três meses depois, a conta volta a subir. Não porque o modelo ficou caro de novo, mas porque o mesmo agente passou a rodar em mais processos, com mais contexto carregado em cada chamada e mais tentativas quando o resultado sai errado na primeira vez.

Nenhum dashboard de "custo por token" pega isso. Ele mostra que o preço unitário caiu e para por aí. O que precisa aparecer é custo por tarefa concluída, por processo, por agente em produção, separado de custo por experimento que ainda está em piloto. E enquanto o financeiro olha só a média do preço por token, quem está no código já sabe: o agente que foi liberado para três times em vez de um não ficou três vezes melhor, ficou três vezes mais caro, e ninguém atualizou a planilha para avisar.

O preço do token é a parte que todo mundo olha porque é a que cai. O volume de chamadas é a parte que ninguém mede porque exige abrir o agente e contar.

Na Overflow, a fase de piloto de uma implementação de IA dura de duas a quatro semanas justamente para isso: definir a métrica e o teto de custo antes de escrever a primeira linha de código, não depois que o agente já está rodando solto em produção. É a etapa que evita descobrir o volume de chamadas real só quando a fatura chega. Dá pra ver como funciona esse processo em /ia-first.

O que dá para fazer na segunda

Três coisas que não dependem de esperar o próximo relatório de mercado:

Primeiro, troque a métrica que o time olha. Custo por token engana porque cai todo trimestre. Custo por tarefa concluída não cai sozinho, e é o número que importa para decidir se vale manter o agente rodando daquele jeito.

Segundo, ponha um teto de chamadas por execução em cada agente novo antes de colocar em produção, não depois que ele já processou seis meses de volume sem limite. Um agente sem teto de iteração tende a tentar de novo até dar certo, e cada tentativa é uma chamada nova.

Terceiro, quando alguém propuser trocar de modelo para economizar, peça a projeção de volume de chamadas junto com o preço por token. Modelo mais barato com o dobro de chamadas não é economia, é a mesma conta com um número diferente na primeira casa.

Fontes

COMPARTILHARLINKEDINXWHATSAPP

// NEWSLETTER

O que a gente aprende, você recebe.

Bastidor de projeto, decisão técnica e o que estamos vendo em IA dentro das empresas. Sem enrolação e sem spam.

// PRÓXIMO PASSO

Tem um problema
parecido?