Como separar conhecimento ausente de fonte contraditória na avaliação de respostas de IA

Para avaliar uma resposta de IA, separe o que não foi sustentado pelas evidências disponíveis do que entra em conflito com fontes recuperadas. Ausência de apoio não prova falsidade, e divergência entre documentos não demonstra, por si só, que o modelo errou. O diagnóstico depende da pergunta, do escopo e da validade das fontes.

Em um sistema RAG, que busca documentos antes de produzir a resposta, registre separadamente a qualidade da recuperação e o comportamento da geração. Um documento necessário pode não ter chegado ao modelo. Também é possível que ele tenha recebido evidências suficientes e mesmo assim inventado uma conclusão. As duas situações pedem correções diferentes.

Resumo rápido

• Rotule cada afirmação e preserve os trechos usados como evidência.
• Distinga ausência no contexto, falha de recuperação e falta de informação na base.
• Verifique escopo e vigência antes de declarar que duas fontes se contradizem.
• Avalie fidelidade ao contexto separadamente de correção perante uma referência válida.
• Defina quando responder parcialmente, pedir esclarecimento ou encaminhar para revisão.

O que significa evidência ausente

Uma afirmação está sem apoio quando o material disponível para a avaliação não permite sustentá-la. Isso descreve a relação entre afirmação e evidência observada. Não é uma leitura direta do conhecimento interno do modelo. Se o assistente informa um prazo sem referência, o avaliador não pode deduzir apenas pela frase se ele memorizou uma informação correta ou inventou algo plausível.

Convém separar três situações operacionais. Na primeira, o contexto enviado ao modelo não contém o trecho necessário. Na segunda, esse trecho existe na base autorizada, mas a busca não o recuperou. Na terceira, a informação nem sequer está disponível naquela base. Identificar qual delas ocorreu exige inspecionar o processo, não perguntar ao modelo se ele sabia a resposta.

Também pode faltar acesso, em vez de conteúdo. Um documento pode existir e estar fora da permissão do usuário. A avaliação deve respeitar esse limite: recuperar material indevido para melhorar uma nota de resposta seria uma falha do sistema. Registre que a informação não estava disponível no escopo autorizado, sem sugerir que a empresa inteira desconhece o assunto.

A documentação do Ragas apresenta métricas distintas para recuperação, fidelidade e correção factual. Essa separação sustenta a ideia de examinar componentes diferentes. Os rótulos e o fluxo de revisão propostos aqui são uma recomendação de avaliação, não uma taxonomia obrigatória da ferramenta.

Uma rubrica para apoio, contradição e indeterminação

Divida a resposta em afirmações que possam ser verificadas. Uma frase sobre prazo, canal e documento necessário pode conter conclusões independentes. Se o prazo tem apoio e o canal foi inventado, uma nota única para o parágrafo esconde o problema. Preserve a pergunta original para evitar avaliar uma resposta correta para uma pergunta diferente.

Registre junto de cada rótulo o trecho exato, a fonte e a justificativa curta do avaliador. Se houver referência esperada preparada por um especialista, indique sua origem e validade. A referência também pode estar desatualizada. Um teste que trata qualquer gabarito antigo como verdade absoluta pode penalizar uma resposta mais adequada à pergunta atual.

Não transforme falta de apoio em uma classificação automática de mentira. Se o modelo afirma algo correto sem evidência permitida, pode falhar no requisito de rastreabilidade mesmo acertando o fato. Se reproduz fielmente um documento errado, pode passar no critério de fidelidade e falhar no critério de correção. Preserve as duas observações.

Como distinguir conflito real de diferença de escopo

Antes de marcar contradição, transforme as afirmações em proposições comparáveis. Elas falam da mesma pessoa, unidade, produto ou procedimento? Valem para o mesmo período e para as mesmas condições? Um manual de atendimento de uma filial e um regulamento de outra podem divergir sem se contradizer no caso perguntado. Falta de contexto pode parecer conflito.

A dimensão temporal merece um campo próprio. Uma regra substituída pode estar correta como registro histórico e inadequada como orientação atual. Registre data de vigência, data de publicação e momento da consulta separadamente quando existirem. O documento mais recente não vence automaticamente: ele pode ser uma comunicação complementar que não altera a regra aplicável ao caso.

Como política de trabalho, estabeleça uma hierarquia de evidências para cada domínio. Para um procedimento interno, a norma aprovada e vigente pode ter precedência sobre uma apresentação informal. Para uma especificação de produto, a documentação do responsável pode pesar mais que um resumo comercial. Exceções documentadas precisam ser verificadas, não descartadas por um ranking genérico.

Não use contagem de páginas como voto sobre a verdade. Vários sites podem copiar a mesma fonte desatualizada. Também não basta uma URL parecer oficial: confira autoria, documento, contexto e trecho. A ontologia PROV-O do W3C distingue relações de revisão, derivação e fonte primária. Esses conceitos ajudam a organizar proveniência, sem decidir automaticamente qual afirmação é verdadeira.

Se duas fontes igualmente aplicáveis permanecem incompatíveis após essa revisão, mantenha o conflito no registro. Escolher uma silenciosamente transforma um problema editorial ou operacional em uma resposta aparentemente segura. O assistente pode explicar quais documentos divergem e qual decisão humana ainda precisa ocorrer, sem fabricar uma conciliação que nenhum deles sustenta.

Como separar a recuperação da geração na avaliação

Armazene a consulta, os filtros autorizados, os identificadores dos documentos recuperados e o contexto efetivamente enviado ao modelo. O resultado retornado pela busca pode ser diferente do material que entrou na geração por causa de cortes, ordenação ou limites definidos pela aplicação. Investigar só a primeira lista deixa parte do caminho sem observação.

Faça uma avaliação da recuperação usando perguntas com evidências relevantes previamente identificadas. Verifique se essas evidências chegaram ao contexto, e não apenas se apareceu algum documento sobre o mesmo assunto. Depois avalie se a resposta respeita o conteúdo recebido. O texto sobre esteiras de avaliação de RAG ajuda a situar essa organização.

Uma intervenção diagnóstica útil é fornecer manualmente o contexto correto, mantendo a pergunta e as demais condições registradas. Se a resposta passa a cumprir o critério, há indício de falha no caminho de recuperação. Se continua sem apoio, investigue instruções e geração. Esse teste controlado não prova uma causa universal; ele orienta a próxima inspeção.

A Anthropic descreve Contextual Retrieval como uma abordagem que acrescenta contexto explicativo aos trechos usados na recuperação. A existência desse recurso não garante resolver divergências documentais. Melhorar o acesso ao trecho e decidir qual versão é aplicável continuam sendo problemas diferentes. Para conhecer o ecossistema, veja as integrações do Claude.

Registre erros de extração e de segmentação como possíveis causas próprias. Uma tabela sem cabeçalho pode levar o modelo a associar um prazo ao serviço errado. Um trecho que perdeu a ressalva pode aparentar uma regra absoluta. Nesses casos, alterar apenas o texto de instrução do assistente pode ocultar o defeito da base sem corrigi-lo.

Exemplo: assistência técnica em Belo Horizonte

Imagine uma assistência técnica fictícia em Belo Horizonte que usa IA para orientar atendentes sobre coleta de equipamentos. O exemplo é ilustrativo e não apresenta resultados de uma implantação. A base inclui um procedimento aprovado, um comunicado operacional e materiais antigos preservados para consulta histórica. A pergunta é sobre o atendimento de uma unidade específica.

Em um primeiro teste, a busca retorna apenas a descrição do serviço. O assistente informa um prazo de coleta que não aparece naquele material. O avaliador marca a afirmação como sem apoio no contexto. Em seguida, consulta a base autorizada e verifica se existe uma orientação aplicável. Só essa inspeção permite distinguir lacuna da base de falha da busca.

Em outro teste, chegam um procedimento antigo e sua revisão vigente. Se as condições e a unidade são as mesmas e a revisão substitui explicitamente a orientação anterior, a divergência pode ser resolvida pela relação de substituição. A resposta deve usar a regra aplicável e indicar sua referência. A versão antiga não precisa ser apagada para deixar de orientar o presente.

Um terceiro teste traz um comunicado específico cuja autorização não está clara e que diverge do procedimento aprovado. A equipe não inventa qual documento prevalece. Registra o conflito, pede ao responsável pelo processo que esclareça a vigência e limita a resposta do assistente. Essa decisão passa a compor um novo caso de avaliação depois de documentada.

Para tornar os testes úteis, inclua também uma pergunta histórica e outra sem informação suficiente sobre a unidade. A primeira verifica se o sistema sabe selecionar a versão pertinente à época solicitada. A segunda verifica se pede o dado ausente em vez de assumir uma filial. O comportamento esperado muda com a pergunta, mesmo quando os documentos são os mesmos.

Como pontuar abstenção e calibrar os avaliadores

Abster-se não precisa significar encerrar a conversa. O assistente pode responder à parte sustentada, explicar a limitação e solicitar um dado específico. Quando o bloqueio é um conflito, deve nomear a divergência. Quando falta evidência, deve dizer que não conseguiu confirmar no material disponível. Essas mensagens têm significados diferentes para quem precisa resolver o problema.

Defina na rubrica o que constitui uma abstenção adequada. Considere se a limitação foi explicada, se a parte respondida tem apoio e se o encaminhamento ajuda. Penalize tanto a certeza indevida quanto a recusa genérica quando a evidência permitia responder. Não escolha um limite numérico universal: calibre a decisão conforme o uso e o impacto de uma conclusão incorreta.

Para calibrar revisores, peça avaliações independentes de uma amostra comum e discuta divergências com base nos trechos. Inclua casos difíceis, como fonte correta fora do período e resposta parcialmente sustentada. Atualize o manual com exemplos resolvidos e mantenha casos separados para testar o efeito da mudança. Uma regra ajustada ao próprio conjunto de treino pode parecer melhor sem generalizar.

Se usar um modelo como avaliador, valide sua classificação contra revisão humana e preserve a justificativa verificável. Não aceite uma citação gerada sem conferir o trecho. O guia sobre avaliadores de qualidade em português complementa o tema. O próprio juiz pode interpretar mal uma exceção, omitir condições ou repetir o erro da resposta avaliada.

No relatório, apresente separadamente falta de evidência, conflito não resolvido, contradição da resposta e abstenção inadequada. O perfil de IA generativa do NIST descreve riscos de conteúdo falso apresentado com confiança e de justificativas fabricadas. Esse risco recomenda verificar o suporte, sem supor que a linguagem segura revela conhecimento confiável.

Erros comuns

Classificar tudo como alucinação. Isso impede separar defeitos de busca, lacunas da base e invenção na resposta. Tratar a fonte mais recente como vencedora automática. Confirme vigência e escopo. Confundir fidelidade com verdade. Uma resposta pode repetir corretamente um documento inadequado ao caso.

Usar o próprio modelo como única autoridade. Uma justificativa fluente não substitui evidência. Ignorar versões no conjunto de testes. A pergunta histórica pode exigir outro documento. Premiar qualquer recusa. A boa avaliação também identifica quando o sistema deixou de responder algo que estava suficientemente sustentado.

Perguntas frequentes

Sem fonte significa que a resposta é falsa?

Não. Significa que o apoio exigido não foi observado naquele contexto de avaliação. A resposta pode coincidir com um fato correto e ainda falhar em rastreabilidade. Para afirmar falsidade, é preciso uma referência aplicável que sustente essa conclusão.

Duas fontes diferentes sempre representam contradição?

Não. Elas podem tratar de períodos, unidades ou condições diferentes. Compare as proposições sob o mesmo escopo antes de marcar conflito. Quando faltar contexto para essa comparação, registre a indeterminação e solicite os dados necessários.

Como saber se o problema está na busca?

Verifique se a evidência existia na base autorizada e se chegou ao contexto utilizado. Uma execução controlada com o trecho correto pode ajudar no diagnóstico. Preserve as condições do teste e evite concluir que uma única execução explica todos os casos.

Uma resposta fiel ao contexto pode estar errada?

Sim. Se o contexto contém uma regra desatualizada ou uma afirmação incorreta, reproduzi-la pode manter fidelidade e falhar em correção. Por isso, avalie proveniência, vigência e aplicabilidade da referência separadamente da adesão do modelo ao texto.

Quando o assistente deve encaminhar para uma pessoa?

Quando a decisão exige resolver um conflito sem critério suficiente, obter uma autorização ou validar uma interpretação que a rubrica reserva ao responsável. O encaminhamento deve explicar a pendência e preservar as evidências necessárias para que alguém consiga resolvê-la.

Fontes e leitura recomendada

• Ragas: métricas disponíveis, separação das dimensões de avaliação.
• W3C: PROV-O, proveniência e relações de revisão.
• Anthropic: Contextual Retrieval, recuperação de trechos contextualizados.
• NIST: perfil de riscos de IA generativa, conteúdo falso e confiança indevida.