Alucinação é quando um modelo de IA gera, com tom confiante, uma informação falsa ou sem apoio no material que recebeu: um artigo de lei que não existe, um preço inventado, uma citação que o documento não contém. Ela acontece porque o modelo foi treinado para produzir a continuação mais provável de um texto, não para checar fatos, e porque os métodos de treino e avaliação costumam premiar o chute em vez da admissão de dúvida.
Não existe configuração que zere o problema. O que funciona é empilhar defesas: dar ao modelo permissão explícita para dizer “não sei”, fornecer as fontes certas no contexto, exigir citação de cada afirmação, conectar o modelo a dados verificáveis e revisar o que é crítico. Este guia explica as causas e as técnicas gerais, com base na documentação oficial da OpenAI, da Anthropic e do Google.
Resumo rápido
- Alucinação é resposta plausível e errada. O modelo não “mente”: ele completa texto com o que parece provável.
- Pesquisadores da OpenAI argumentam que treino e avaliação recompensam chutar em vez de reconhecer incerteza.
- As técnicas mais baratas estão no prompt: permitir “não sei”, pedir citações diretas e restringir a resposta aos documentos enviados.
- Para fatos atuais ou internos, conecte o modelo a fontes: busca na web com citação, documentos com citação ou RAG.
- Verificação continua obrigatória em decisões de alto risco. Nenhum fornecedor promete eliminar alucinações.
O que é alucinação (e o que não é)
A documentação da Anthropic define o fenômeno como o momento em que o modelo gera texto factualmente incorreto ou inconsistente com o contexto fornecido. São dois casos diferentes, e vale separar:
- Erro factual: o modelo afirma algo falso sobre o mundo, como a data de uma lei ou o autor de um livro.
- Infidelidade ao contexto: você entregou um contrato e o modelo cita uma cláusula que não está nele, ou resume a política de cancelamento ao contrário.
Nem todo erro é alucinação. Se o documento enviado está desatualizado e o modelo repete o que está escrito, o problema é da fonte. Se a pergunta é ambígua e o modelo escolhe uma interpretação razoável, o problema é da pergunta. Diferenciar essas situações ajuda a escolher a correção certa, em vez de trocar de modelo por reflexo.
Por que o modelo inventa
Ele foi treinado para prever texto, não para checar fatos
Um modelo de linguagem aprende, no pré-treino, a prever a próxima palavra (na verdade, o próximo token) em uma quantidade enorme de texto. Fatos que aparecem muitas vezes e de forma consistente tendem a ser aprendidos. Fatos raros, como o CNPJ de uma empresa pequena ou o horário de um consultório, não têm padrão estatístico que o modelo consiga reproduzir. Quando perguntado, ele produz algo com o formato certo e o conteúdo errado.
Treino e avaliação recompensam o chute
No artigo Why Language Models Hallucinate (setembro de 2025), pesquisadores da OpenAI e do Georgia Tech argumentam que os modelos alucinam porque os procedimentos de treino e avaliação recompensam adivinhar em vez de reconhecer incerteza. A analogia é a de uma prova de múltipla escolha sem desconto por erro: deixar em branco garante zero, chutar às vezes acerta. Modelos otimizados para ir bem nesses testes aprendem a chutar. Os autores propõem mudar a forma como os benchmarks mais usados pontuam respostas incertas, em vez de apenas criar novos testes de alucinação.
Para quem usa IA na empresa, a lição prática é direta: se você não disser ao modelo que “não sei” é uma resposta aceitável, ele tende a preencher a lacuna.
Falta de contexto e conhecimento desatualizado
O modelo só sabe o que aprendeu até a data de corte do treino e o que está no contexto da conversa. Perguntas sobre preços atuais, normas recentes ou dados internos da sua empresa ficam fora dos dois, e o modelo responde com o que parece provável.
Perguntas com premissa falsa e pressão de formato
“Qual o prazo do artigo 47 da resolução X?” pressupõe que o artigo existe. Pedidos como “liste 10 fontes” pressionam o modelo a entregar o formato pedido mesmo sem conteúdo para preenchê-lo. Em agentes que executam várias etapas, um erro inicial vira premissa das etapas seguintes e se propaga.
Tipos de alucinação e a defesa mais indicada
| Situação | Exemplo | Defesa principal |
|---|---|---|
| Fato raro ou específico | Telefone de um fornecedor, número de uma norma | Buscar o dado em fonte confiável (ferramenta, banco de dados, busca) em vez de perguntar à memória do modelo |
| Informação recente | Preço atual, regra publicada na semana passada | Grounding com busca na web e citação da fonte |
| Documento longo | Contrato de 60 páginas, manual técnico | Extrair citações literais antes de responder e restringir a resposta a elas |
| Base interna grande | Políticas, FAQ, histórico de chamados | RAG com citação e recusa quando o trecho não existe |
| Cálculo ou dado estruturado | Saldo, estoque, soma de notas | Function calling para consultar o sistema e calcular fora do modelo |
| Tarefa em várias etapas | Agente que pesquisa, resume e envia e-mail | Pontos de verificação entre etapas e aprovação humana antes de ações |
Técnicas no prompt: o que reduz alucinação sem mudar a arquitetura
O guia “Reduce hallucinations” da Anthropic lista técnicas que valem para qualquer modelo, porque atacam o comportamento de chute descrito acima.
1. Dê permissão explícita para dizer “não sei”
Segundo a Anthropic, permitir que o modelo admita incerteza é uma técnica simples que pode reduzir bastante as informações falsas. Escreva a frase exata que ele deve usar: “Se a informação não estiver nos documentos, responda: não encontrei essa informação na base”.
2. Peça citações diretas antes da análise
Para documentos longos (a Anthropic cita textos acima de 20 mil tokens), peça primeiro as frases literais relevantes e só depois a análise baseada nelas. O modelo passa a se apoiar no texto real em vez de na impressão geral do documento.
3. Exija que cada afirmação tenha apoio, e que o resto seja removido
Peça que, depois de redigir, o modelo procure uma citação que sustente cada afirmação e retire o que não tiver apoio. É uma autorrevisão orientada por evidência, útil em comunicados, relatórios e respostas a clientes.
4. Restrinja o conhecimento externo
Instrua o modelo a usar apenas os documentos fornecidos e não o conhecimento geral. Isso evita que ele “complete” a política do seu hotel com a política padrão do mercado.
Mais técnicas de estrutura de prompt estão no nosso guia de engenharia de prompts avançada.
Técnicas na arquitetura: dar ao modelo fontes verificáveis
Prompt bom não resolve falta de informação. Quando a resposta depende de dados atuais ou internos, a solução é levar esses dados ao modelo e exigir rastreabilidade.
Grounding com busca na web
O Google descreve o Grounding with Google Search como a conexão do Gemini a conteúdo da web em tempo real, com o objetivo de reduzir alucinações, responder sobre eventos recentes e mostrar as fontes das afirmações. A resposta traz anotações que ligam trechos do texto às URLs usadas. A OpenAI oferece uma ferramenta de busca na web na API com a mesma lógica: respostas com citações do tipo url_citation, que trazem URL, título e localização da fonte citada. Busca na web tem custo por consulta; confira a página de preços de cada fornecedor antes de ativar em produção.
Documentos com citação nativa
A API da Anthropic tem um recurso de citações: você envia documentos com "citations": {"enabled": true} e a resposta indica os trechos exatos que sustentam cada afirmação. Isso permite mostrar ao usuário de onde veio cada frase e conferir automaticamente se o trecho citado existe.
RAG para bases internas
Quando a base é grande ou muda com frequência, RAG (geração aumentada por recuperação) busca os trechos relevantes a cada pergunta e os entrega ao modelo. O pipeline completo, com busca híbrida e avaliação, está no nosso guia prático de RAG e bancos vetoriais. Aqui basta lembrar: RAG reduz alucinação quando a busca traz o trecho certo e o prompt obriga o modelo a admitir quando ele não veio.
Ferramentas para dados exatos
Saldo, estoque, status de pedido e cálculos não devem sair da “memória” do modelo. Use function calling para que ele consulte o sistema e structured outputs para que a resposta venha em formato validável. Veja function calling e structured outputs.
Verificação: como pegar o que escapou
A própria Anthropic observa que essas técnicas reduzem bastante as alucinações, mas não as eliminam, e recomenda validar informações críticas. Algumas formas de verificação:
- Melhor de N: rode o mesmo prompt mais de uma vez e compare. Respostas inconsistentes entre execuções são sinal de alucinação.
- Refinamento iterativo: use a resposta como entrada de um segundo pedido que verifica ou aprofunda cada afirmação.
- Raciocínio revisável: em modelos com raciocínio estendido, revisar o resumo do raciocínio ajuda a achar premissas erradas. Entenda como esses modelos funcionam em modelos de raciocínio.
- Checagem automática de citações: confira por código se cada trecho citado existe no documento de origem.
- Conjunto de teste próprio: monte perguntas reais com a resposta correta e inclua perguntas cuja resposta não está na base. Meça acertos e recusas corretas. Um sistema que nunca diz “não sei” está chutando.
- Revisão humana por risco: resposta a cliente sobre horário pode ir direto; parecer jurídico, laudo ou valor de cobrança passa por pessoa.
Exemplo: assistente interno de um escritório de contabilidade em Belo Horizonte
Um escritório de contabilidade em Belo Horizonte quer um assistente para a equipe responder clientes sobre documentos exigidos, prazos internos do escritório e procedimentos de abertura de empresa. O primeiro teste, com o modelo respondendo de memória, mostra o problema: ele cita prazos genéricos e procedimentos de outros estados com total segurança.
A versão revisada combina as camadas deste guia:
- Fontes: o manual interno e as listas de documentos ficam em uma base RAG; regras oficiais são consultadas por busca na web com citação, restrita a sites de órgãos públicos.
- Prompt: instrução para responder apenas com os trechos recebidos, citar o identificador de cada um e usar a frase “não encontrei isso na base; encaminhe ao responsável” quando faltar informação.
- Dados exatos: status de processos de cada cliente vem do sistema do escritório por function calling, nunca do modelo.
- Revisão: qualquer resposta que envolva valor de imposto ou prazo legal é marcada para conferência de um contador antes do envio.
Um trecho do prompt de sistema:
Você apoia a equipe do escritório. Responda somente com base nos
trechos entre <trechos>. Para cada afirmação, cite o id do trecho
entre colchetes. Se a resposta não estiver nos trechos, escreva
exatamente: "Não encontrei isso na base; encaminhe ao responsável."
Não use conhecimento geral sobre legislação. Se a pergunta envolver
valor de imposto ou prazo legal, acrescente a etiqueta [REVISAR].O resultado esperado não é um assistente que sabe tudo, e sim um que mostra a fonte quando sabe e admite quando não sabe.
Erros comuns
- Trocar de modelo como primeira reação. Modelos diferentes erram de formas diferentes, mas sem fonte e sem permissão para dizer “não sei” todos tendem a chutar.
- Pedir “seja preciso” e achar que resolveu. Instrução genérica não substitui fonte no contexto e exigência de citação.
- Aceitar citação sem conferir. O modelo pode inventar a própria citação. Verifique por código se o trecho existe.
- Usar o modelo como banco de dados. Preço, estoque e cadastro vêm do sistema, não da memória do modelo.
- Testar só com perguntas que têm resposta. Sem perguntas fora da base no teste, você não mede a recusa correta.
- Deixar agentes agirem sem checkpoint. Em fluxos com várias etapas, um erro vira premissa. Coloque aprovação humana antes de ações irreversíveis, como discutimos no guia de agentes autônomos.
Perguntas frequentes
Modelos mais novos alucinam menos?
Cada geração de modelo muda o comportamento, mas nenhum documento oficial consultado para este guia promete eliminar o problema, e a Anthropic afirma que as técnicas reduzem sem eliminar. Trate qualquer melhoria como ganho, não como garantia, e teste o modelo novo com o seu próprio conjunto de perguntas antes de trocar.
Baixar a temperatura resolve alucinação?
Temperatura menor deixa as respostas mais previsíveis, não mais verdadeiras. Se o modelo não tem a informação, ele pode dar a mesma resposta errada de forma consistente. A defesa real é fonte no contexto e permissão para dizer “não sei”.
RAG elimina alucinação?
Não. RAG reduz o problema quando a busca recupera o trecho certo e o prompt obriga o modelo a se apoiar nele. Se a busca falha ou o prompt não exige citação, o modelo volta a completar com a memória.
Como medir se meu assistente alucina?
Monte um conjunto de perguntas reais com respostas conhecidas, inclua perguntas sem resposta na base e meça três coisas: acerto, fidelidade às fontes e recusa correta. Repita o teste sempre que trocar modelo, prompt ou base.
Alucinação tem implicação jurídica para a empresa?
A resposta enviada ao cliente é da empresa, não do modelo. Por isso, defina o que pode sair sem revisão e registre as fontes usadas. Para dados pessoais, veja também as orientações de segurança e LGPD.
Qual técnica aplicar primeiro?
Comece pelo prompt: permissão para dizer “não sei”, restrição às fontes e citação obrigatória. Custa pouco e vale para qualquer fornecedor. Depois conecte as fontes (busca, documentos com citação ou RAG) e, por fim, monte o conjunto de teste. Para integrações com o Claude, veja nossa página de integrações da Anthropic.
