Modelos de raciocínio vs modelos padrão: quando a cadeia de pensamento vale o custo

Todo modelo de raciocínio cobra duas vezes: primeiro pelos tokens que ele gasta “pensando”, depois pelos tokens da resposta que você lê. Esses tokens de raciocínio não aparecem na resposta e nem sempre chegam até você, mas são contados e cobrados como tokens de saída. É por isso que a conta de um modelo de raciocínio pode surpreender quem está acostumado a pagar por token de saída comum.

A decisão prática raramente é “qual modelo é melhor”. É encaixar o modelo certo na tarefa certa. Tarefas estreitas, repetitivas e bem definidas costumam sair mais baratas em um modelo padrão. Tarefas ambíguas, de vários passos, que exigem planejamento, tendem a compensar o custo extra de um modelo que pensa antes de responder. O que segue é um critério para separar esses dois casos, com base na documentação oficial da OpenAI e da Anthropic.

Resumo rápido

• Modelos de raciocínio geram tokens de raciocínio antes da resposta, e esses tokens são cobrados como saída, mesmo que você não os veja.
• Tokens de raciocínio ocupam espaço na janela de contexto e podem ficar caros em conversas longas.
• Existe um controle de esforço (reasoning.effort na OpenAI, output_config.effort na Anthropic) que ajusta quanto o modelo pensa.
• Não usar raciocínio é a escolha certa em classificação, extração, voz e recuperação rápida de informação.
• Raciocínio compensa em código agêntico, depuração difícil, planejamento e decisões com informação ambígua.
• Quem custa menos nem sempre vence: resposta errada em tarefa crítica gera retrabalho que apaga a economia.

O que são tokens de raciocínio

A documentação da OpenAI define modelos de raciocínio como aqueles que usam tokens internos de raciocínio antes de produzir uma resposta. Esses tokens ajudam o modelo a planejar, usar ferramentas, comparar alternativas, lidar com ambiguidade e resolver tarefas de vários passos. A empresa diz que esses modelos funcionam bem em resolução de problemas complexos, programação, raciocínio científico e fluxos agênticos de múltiplas etapas.

A frase decisiva para quem cuida do custo está na própria documentação: os tokens de raciocínio não são visíveis pela API, mas ocupam espaço na janela de contexto e são cobrados como tokens de saída. Ou seja, o que o modelo “pensa” entra na sua fatura pelo mesmo preço do que ele escreve.

A Anthropic descreve o mesmo mecanismo sob o nome de thinking (pensamento). Segundo a documentação da Claude Platform, os tokens que Claude gasta raciocinando são cobrados como tokens de saída, mesmo quando o texto do raciocínio não é devolvido, e contam para o limite de max_tokens junto com o texto da resposta. Um detalhe importante: pedir para não exibir o raciocínio reduz a latência, não o custo. Você continua pagando pelos tokens completos.

Por que o custo sobe mais do que parece

A primeira surpresa é que o raciocínio é cobrado como saída. A saída costuma ser a parte mais cara da conta, várias vezes mais cara que a entrada. Então cada token gasto pensando pesa como saída, não como entrada. Em tarefas simples, o modelo costuma pensar pouco. Em tarefas complexas, a própria documentação da OpenAI observa que o número de tokens de raciocínio pode variar de algumas centenas a dezenas de milhares. Essa variação é o que faz a conta oscilar de um mês para o outro.

A segunda surpresa é o efeito no contexto. Como tokens de raciocínio ocupam espaço na janela, conversas longas acumulam esse material e chegam mais rápido ao limite. A OpenAI recomenda reservar pelo menos 25.000 tokens para raciocínio e saída quando se começa a experimentar com esses modelos. Se a janela ou o limite de max_output_tokens for atingido antes de qualquer saída visível, a resposta volta com status incomplete, e você ainda assim paga pela entrada e pelos tokens de raciocínio consumidos. Ou seja, dá para gastar sem receber resposta.

A Anthropic trata do mesmo ponto de outro ângulo. Em modelos que mantêm o raciocínio de turnos anteriores no contexto, os blocos de pensamento antigos continuam na janela e contam como tokens de entrada quando lidos do cache. Em modelos que só mantêm o último turno, o pensamento vira um custo por turno, porque sai do contexto depois. A diferença entre esses dois comportamentos muda bastante o custo de um fluxo agêntico longo, e o comportamento varia por modelo.

A tabela de decisão: quando o raciocínio compensa

A documentação de melhores práticas da OpenAI separa dois papéis. De um lado os modelos que pensam mais, bons para planejar, lidar com ambiguidade e decidir, que ela chama de “planejadores”. De outro os modelos de menor latência e menor custo, desenhados para execução direta de tarefas bem definidas, chamados de “executores”. A própria OpenAI observa que a maioria dos fluxos reais combina os dois: um modelo que pensa define a estratégia, outro mais barato executa.

Repare no padrão. Quando a resposta certa já é conhecida e o trabalho é volume, o raciocínio só adiciona custo e espera. Quando o problema tem mais de um caminho e o erro é caro, o raciocínio tende a se pagar.

Os controles de esforço na prática

As duas plataformas dão uma alavanca para calibrar quanto o modelo pensa. Vale conhecer porque é ela que evita tanto o desperdício quanto a economia que sai pela culatra.

Na OpenAI, o parâmetro reasoning.effort na Responses API (ou reasoning_effort na Chat Completions) guia quanto o modelo deve pensar. Os valores suportados dependem do modelo e podem incluir none, minimal, low, medium, high, xhigh e max. A documentação associa none a tarefas críticas de latência que não se beneficiam de raciocínio, citando voz, recuperação rápida de informação e classificação. O nível medium é descrito como o padrão para a maioria das cargas, um ponto equilibrado entre latência, desempenho e custo. Os níveis mais altos, xhigh e max, a própria empresa recomenda só usar quando suas avaliações mostram ganho claro que justifique a latência e o custo extras.

Os modelos GPT-5.6 e GPT-6 também têm dois modos de raciocínio: standard, que é o padrão, e pro, para tarefas difíceis. O modo pro faz mais trabalho, agrega esses tokens e os cobra nas taxas normais do modelo escolhido, o que aumenta o uso de tokens e o custo. Modo e esforço são controles independentes.

Na Anthropic, o parâmetro equivalente é output_config.effort. A documentação recomenda, para reduzir custo ou latência em uma carga que já usa pensamento, baixar o esforço primeiro, porque ele escala a resposta inteira, pensamento incluído. Um alerta útil: o esforço é orientação, não limite rígido. Para um teto firme de gasto, a documentação manda usar max_tokens.

Custo, cache e o efeito colateral escondido

Um ponto que engana muita gente é a interação entre pensamento e cache de prompt. Na Claude Platform, mudanças na configuração de pensamento e no nível de esforço são renderizadas no próprio prompt. Isso significa que trocar de um nível de esforço para outro invalida o cache: os pontos de cache passam a errar e você paga de novo pela entrada. Em fluxos com muitos prompts grandes, esse efeito secundário pode pesar mais do que a economia pretendida com o raciocínio.

A Anthropic também observa que blocos de pensamento são gravados junto com resultados de ferramentas durante um ciclo de uso. Esses blocos contam como tokens de entrada quando lidos do cache. O recado é direto: material de raciocínio que você nunca mais vê na resposta ainda pode contribuir para o consumo de entrada.

Exemplo: escritório de contabilidade em Belo Horizonte

Considere um escritório de contabilidade em Belo Horizonte que atende pequenas empresas. O trabalho de todo mês tem duas partes bem diferentes.

A primeira é classificar e organizar. Chegam notas fiscais, extratos e comprovantes em formatos variados. O sistema precisa identificar o tipo de documento, ler valores e datas e encaminhar cada item para a pasta certa. É trabalho repetitivo, numeroso e com resposta esperada bem definida. Nesse pedaço, um modelo padrão costuma dar conta, porque não há muito o que “pensar”: o esforço extra só adicionaria custo e tempo de espera por um resultado que já seria obtido de forma direta.

A segunda parte é a análise. Quando o contador precisa avaliar se um conjunto de lançamentos é coerente, encontrar a origem de uma divergência ou decidir como tratar uma operação fora do padrão, o problema fica ambíguo e de vários passos. É aí que um modelo de raciocínio tende a compensar: alguns cenários exigem reconstruir o raciocínio, comparar hipóteses e voltar atrás, e o custo extra pode se pagar em menos idas e vindas.

O ponto central é não usar o mesmo modelo para as duas partes por preguiça de separar. Classificar milhares de documentos com um modelo de raciocínio no esforço máximo multiplica o gasto sem melhorar o resultado. Analisar uma divergência complexa com um modelo que não pensa pode gerar uma conclusão errada que, no fim, custa mais que os tokens economizados. Este é um cenário ilustrativo, para mostrar o critério de escolha. Não há aqui números de resultado, porque eles variam muito de operação para operação.

Erros comuns

• Achar que tokens de raciocínio são grátis. Eles são cobrados como saída, a faixa mais cara, mesmo quando o texto não aparece.
• Desligar a exibição do raciocínio para economizar. Isso reduz latência, não custo. A cobrança dos tokens completos continua.
• Usar esforço máximo por padrão. A própria documentação da OpenAI recomenda os níveis altos só quando as avaliações mostram ganho claro.
• Ignorar o efeito no cache. Mudar o nível de esforço invalida o cache e reencarece a entrada em prompts grandes.
• Deixar a janela de contexto apertada. Sem folga para raciocínio, a resposta volta incompleta e você paga sem receber texto visível.
• Usar o mesmo modelo para tudo. Separar tarefas estreitas das ambíguas é o que produz economia real.
• Decidir só pelo preço por token. Uma resposta errada em tarefa crítica gera retrabalho que apaga qualquer economia.

Perguntas frequentes

Tokens de raciocínio são cobrados mesmo se eu não os vejo?

Sim. As duas plataformas confirmam isso na documentação. A OpenAI afirma que os tokens de raciocínio não são visíveis pela API, mas ocupam a janela de contexto e são cobrados como tokens de saída. A Anthropic diz o mesmo sobre os tokens de pensamento do Claude.

Qual é a diferença entre modo e esforço na OpenAI?

São controles independentes. O modo (standard ou pro) escolhe a execução, e o esforço define quanto raciocínio o modelo aplica dentro desse modo. O modo pro faz mais trabalho e por isso aumenta o uso de tokens e o custo.

Como cortar custo sem desligar o raciocínio?

Baixando o esforço primeiro. Na Anthropic, a documentação recomenda exatamente isso: o esforço escala a resposta inteira, pensamento incluído. Para um teto firme de gasto, use max_tokens, que é um limite rígido, diferente da orientação do esforço.

Quando eu deveria não usar um modelo de raciocínio?

Em tarefas estreitas, previsíveis e de alto volume, como classificação, extração, resumos curtos e atendimento por voz em tempo real. Nesses casos a resposta certa já é conhecida e o raciocínio só acrescenta custo e latência.

Modelos de raciocínio ficam caros em conversas longas?

Podem. Como o raciocínio ocupa a janela de contexto, ele acelera a chegada ao limite. Em modelos que mantêm o pensamento de turnos anteriores, esses blocos antigos ainda contam como tokens de entrada quando lidos do cache. O comportamento varia por modelo.

Preciso escolher um único modelo para todo o projeto?

Não. A própria documentação da OpenAI observa que a maioria dos fluxos reais combina os dois tipos: um modelo que pensa para planejar e decidir, e um modelo mais barato para executar tarefas bem definidas. Separar os papéis é a forma mais confiável de equilibrar custo e qualidade.

Fontes e leitura recomendada

• OpenAI: Reasoning models (API docs), define tokens de raciocínio, esforço, modo pro e o limite de contexto.
• OpenAI: Reasoning best practices, compara modelos que pensam e modelos de execução, e explica como escolher.
• OpenAI: Pricing, traz os preços por milhão de tokens de entrada e saída.
• Claude Platform Docs: Thinking, confirma que os tokens de pensamento são cobrados como saída e contam para max_tokens.
• Claude Platform Docs: Steering thinking, detalha custo, cache e como o pensamento é decidido por requisição.
• Claude Platform Docs: Effort, descreve o parâmetro de esforço e seus níveis.
• IA Mágica: Modelos de raciocínio, como funcionam, explicação introdutória do conceito.
• IA Mágica: Integrações com OpenAI e ChatGPT, para ver como a plataforma se encaixa no seu fluxo.
• IA Mágica: Integrações com Anthropic Claude, mesmo ponto do lado da Anthropic.