Modelos pequenos de IA: quando um modelo leve resolve

Um modelo pequeno de IA resolve bem tarefas estreitas e repetitivas: classificar mensagens, extrair campos de documentos, resumir, traduzir textos curtos, decidir para onde encaminhar um pedido e executar etapas simples dentro de um agente maior. Nessas tarefas, ele costuma responder mais rápido e custar uma fração do modelo principal da mesma empresa. Onde ele falha é no raciocínio longo, em problemas ambíguos e em trabalhos que exigem planejar muitas etapas.

Em outubro de 2026, as três grandes têm opções leves com preço a partir de US$ 0,10 por milhão de tokens de entrada (Claude Haiku 5.5 e GPT-6 Luna), o Google oferece a linha Flash-Lite, e há modelos abertos pequenos, como Gemma 4 e Qwen3.5, que rodam no seu próprio computador. Este guia mostra quando trocar o modelo grande por um leve, como combinar os dois e quais números foram conferidos nas documentações oficiais.

Resumo rápido

• Modelo pequeno é a escolha certa para alto volume, baixa latência e tarefas com resposta verificável: classificação, extração, roteamento, resumo.
• Claude Haiku 5.5 e GPT-6 Luna custam US$ 0,10 de entrada e US$ 0,50 de saída por milhão de tokens em prompts curtos; o Gemini 3.5 Flash-Lite custa US$ 0,30 e US$ 2,50 e tem camada gratuita na API.
• Os preços mudam com o tamanho do prompt: acima de 100 mil tokens no Haiku 5.5 e acima de 272 mil no GPT-6 Luna, a tarifa sobe.
• Roteamento é o padrão mais útil: o modelo leve faz o grosso e chama o modelo grande só quando precisa.
• Gemma 4 (E2B, E4B, 12B), Qwen3.5 (0,8B a 9B) e Llama 3.2 (1B e 3B) são opções abertas para rodar localmente.

O que é um modelo pequeno, na prática

“Pequeno” tem dois sentidos que vale separar.

• Modelos leves de API: versões mais rápidas e baratas oferecidas pelas empresas, como Haiku, Luna, mini, nano e Flash-Lite. Você não sabe o tamanho exato deles; sabe o preço, a latência relativa e os limites. Alguns têm a mesma janela de contexto dos modelos grandes.
• Modelos abertos de poucos parâmetros: modelos que você baixa e roda na sua máquina ou servidor. Aqui o tamanho é público (1B, 4B, 9B bilhões de parâmetros) e define quanta memória de vídeo você precisa.

Nos dois casos, a lógica é a mesma: trocar parte da capacidade de raciocínio por velocidade e custo. A Anthropic, por exemplo, descreve o Haiku 5.5 como feito para “tarefas de alto volume e sensíveis a latência, como classificação, extração e roteamento”. O Google descreve o Gemini 3.5 Flash-Lite como um modelo multimodal de baixa latência otimizado para execução de alto volume e baixo custo.

Modelos leves atuais das grandes empresas

Os números abaixo foram conferidos nas páginas oficiais em 17 de outubro de 2026. Preços em dólar por milhão de tokens, faixa padrão (prompts curtos), sem descontos de lote ou cache.

Dois cuidados. Primeiro, “a partir de” importa: no Haiku 5.5, um prompt acima de 100 mil tokens custa cinco vezes mais por token de entrada; no GPT-6 Luna, acima de 272 mil tokens, a tabela muda para a requisição inteira. Segundo, a Anthropic avisa que o Haiku 5.5 usa um tokenizador mais novo, em que o mesmo texto vira cerca de 30% mais tokens do que no Haiku 4.5. Comparar preço por token entre modelos sem medir o seu próprio texto engana. Nosso guia de tokens e custo de API mostra como fazer essa conta.

Disponibilidade no Brasil: a Anthropic diz que o Haiku 5.5 está disponível na API e em AWS, Google Cloud e Microsoft Azure; a OpenAI e o Google listam os modelos na API sem página específica sobre o Brasil para eles. Antes de contratar, confira as regiões de processamento no painel do fornecedor. Para mais detalhes sobre os produtos do Google, veja nossa página de integrações do Google Gemini.

Quando um modelo leve resolve

Uma boa regra: se você consegue escrever um teste automático que diz se a resposta está certa, a tarefa provavelmente cabe num modelo pequeno.

Bons candidatos

• Classificação: separar e-mails ou mensagens por assunto, urgência ou sentimento.
• Extração estruturada: tirar CNPJ, valores, datas e itens de notas, pedidos e formulários, devolvendo JSON. Combina com structured outputs, que forçam o formato.
• Roteamento: decidir qual fluxo, equipe ou modelo deve tratar cada pedido.
• Resumos e compactação: condensar conversas longas para caber no contexto. A Anthropic cita compactação e resumo entre os usos do Haiku 5.5.
• Subagentes: etapas repetitivas dentro de um agente maior, como ler páginas, filtrar resultados ou preencher planilhas.
• Atendimento simples: responder perguntas frequentes com base em uma base de conhecimento.

Quando subir de modelo

• Raciocínio de várias etapas com dados ambíguos (análise jurídica, diagnóstico de problemas complexos).
• Programação de projetos inteiros. Na própria comparação da Anthropic, o Sonnet 5.5 supera o Haiku 5.5 em todos os benchmarks listados.
• Textos longos e autorais em que estilo e precisão contam muito.
• Decisões com alto custo de erro, sem revisão humana.

Se a dúvida é entre famílias de modelos grandes, nosso comparativo sobre como escolher entre Claude, GPT e Gemini ajuda.

Roteamento: modelo leve primeiro, grande quando precisa

Raramente a escolha é “só pequeno” ou “só grande”. Os padrões mais comuns combinam os dois.

• Classificador na entrada: um modelo leve lê o pedido e decide se ele vai para uma resposta simples, para um fluxo específico ou para o modelo mais capaz.
• Cascata: o modelo leve tenta primeiro. Se a resposta não passa numa validação (formato errado, confiança baixa, regra violada), a mesma tarefa sobe para o modelo grande.
• Orquestrador e subagentes: um modelo grande planeja e distribui; modelos leves executam as partes repetitivas. A Anthropic cita um cliente que usa o Haiku 5.5 como modelo auxiliar com o Opus 5.5 no comando.
• Executor com conselheiro: a Anthropic oferece, em beta, a advisor tool, em que um modelo mais rápido e barato executa a tarefa e consulta um modelo mais capaz no meio da geração para pedir um plano ou correção. Haiku 5.5 pode ser o executor, com Opus 5.5 como conselheiro.

Outra alavanca é o nível de esforço. Haiku 5.5 e GPT-6 Luna aceitam ajustar quanto o modelo “pensa” antes de responder. Para classificação, esforço baixo costuma bastar; para extração difícil, aumente e meça.

Modelos pequenos abertos e rodar local

Rodar localmente faz sentido quando os dados não podem sair da empresa, quando não há internet confiável ou quando o volume é tão alto que vale pagar o hardware. As opções abaixo foram conferidas nas páginas oficiais e no Hugging Face.

O Google explica um detalhe útil sobre o Gemma 4: o “E” de E2B e E4B significa parâmetros efetivos, e a memória para carregar os pesos é maior do que o número sugere. No modelo 26B A4B, que é de mistura de especialistas, só 4 bilhões de parâmetros trabalham por token, mas os 26 bilhões precisam estar na memória. A conta de hardware, portanto, é pelo total.

Para instalar e testar, o caminho mais simples é o Ollama, que tem Gemma 4 e Qwen3.5 na biblioteca oficial. O passo a passo está em como rodar IA local com Ollama, e a comparação entre famílias abertas maiores, em modelos open-weights.

Como testar antes de trocar de modelo

1. Junte exemplos reais: separe de 50 a 200 casos do seu dia a dia, com a resposta correta anotada.
2. Rode o modelo atual e o leve: mesmo prompt, mesmo formato de saída.
3. Meça acerto, custo e tempo: custo por tarefa, não por token, porque tokenizadores diferentes contam o mesmo texto de forma diferente.
4. Olhe os erros: se os erros do modelo leve se concentram num tipo de caso, roteie só esse tipo para o modelo grande.
5. Monitore depois: repita o teste a cada troca de versão.

Exemplo: distribuidora de autopeças em Goiânia

Imagine uma distribuidora de autopeças em Goiânia que recebe pedidos de oficinas por e-mail e WhatsApp, cada um escrito de um jeito: código da peça, nome popular, modelo do carro, às vezes uma foto da nota antiga.

1. Extração com modelo leve: um modelo como Haiku 5.5, GPT-6 Luna ou Gemini 3.5 Flash-Lite lê cada mensagem e devolve um JSON com cliente, itens, quantidades e urgência.
2. Validação automática: o sistema confere os códigos no catálogo. Se algum item não bate ou o modelo marca dúvida, o pedido sobe para um modelo maior, com o catálogo de peças como contexto.
3. Revisão humana: pedidos acima de um valor combinado vão para um vendedor aprovar antes de faturar.
4. Opção local: se a empresa não quiser enviar dados de clientes para fora, pode testar um Gemma 4 12B ou Qwen3.5 9B num servidor próprio, aceitando que vai precisar validar mais.

O ganho esperado vem do volume: a maior parte dos pedidos é simples e não precisa do modelo caro. Quanto isso economiza depende do perfil de pedidos e só aparece no teste com exemplos reais.

Erros comuns

• Comparar só o preço por token. Tokenizador, tamanho do prompt e esforço de raciocínio mudam o custo final. Meça por tarefa.
• Usar o modelo leve sem validação. Sem checagem de formato e de regras, erros passam direto para o cliente.
• Esquecer a faixa de prompt longo. Colar documentos enormes num modelo barato pode cair na tarifa mais alta.
• Escolher local pelo preço do token. Hardware, energia e manutenção também custam. Local se justifica mais por privacidade e controle.
• Usar o mesmo prompt do modelo grande. Modelos pequenos rendem mais com instruções curtas, exemplos e formato de saída fixo.

Perguntas frequentes

Modelo pequeno é a mesma coisa que modelo open source?

Não. Haiku, Luna e Flash-Lite são modelos fechados, acessados por API. Gemma, Qwen e Llama têm pesos abertos e podem ser baixados. Existem modelos abertos grandes e modelos fechados pequenos.

Qual modelo pequeno é o melhor?

Depende da tarefa e do idioma. Benchmarks publicados pelas empresas servem de ponto de partida, mas só um teste com os seus casos em português mostra qual acerta mais pelo menor custo.

Dá para usar de graça?

A Gemini API tem camada gratuita para Gemini 3.5 Flash-Lite, 3.1 Flash-Lite e Gemma 4, com limites. Modelos abertos rodando localmente não cobram por token, mas exigem hardware.

Preciso de placa de vídeo para rodar um modelo pequeno local?

Para os menores, não necessariamente. O Google indica as versões E2B e E4B do Gemma 4 para celulares e navegadores. Para 9B a 12B com boa velocidade, uma GPU com memória suficiente ajuda bastante.

O modelo leve tem janela de contexto menor?

Nem sempre. Haiku 5.5, GPT-6 Luna e Gemini 3.5 Flash-Lite têm janelas na faixa de 1 milhão de tokens. Os modelos abertos pequenos têm janelas menores, como os 128 mil do Gemma 4 E2B e E4B.

Fontes e leitura recomendada

• Anthropic: Claude Haiku 5.5 (documentação)
• Anthropic: anúncio do Claude Haiku 5.5
• Anthropic: Advisor tool
• OpenAI: GPT-6 Luna
• OpenAI: preços da API
• Google: Gemini 3.5 Flash-Lite
• Google: preços da Gemini API
• Google: visão geral do Gemma 4
• Qwen3.5-9B no Hugging Face
• Meta: Llama 3.2 3B Instruct no Hugging Face