Temperatura e parâmetros de geração: como controlar a resposta da IA

Configurar corretamente a temperatura e os parâmetros de amostragem probabilística é um dos passos mais determinantes para transformar um modelo de linguagem em uma ferramenta de trabalho estável e confiável. Enquanto a maioria dos usuários interage com inteligências artificiais exclusivamente pelas interfaces gráficas padrão de chat, desenvolvedores e arquitetos de soluções que consomem APIs precisam calibrar hiperparâmetros como Temperature, Top-P, Top-K e Presence Penalty para equilibrar criatividade e rigor factual em suas aplicações.

No Brasil, onde soluções de inteligência artificial são integradas a sistemas de atendimento bancário, triagem fiscal, diagnóstico em saúde e suporte a vendas, deixar esses parâmetros nas configurações padrão de fábrica costuma ser a principal causa de respostas incoerentes ou alucinações inesperadas. Ajustar a temperatura não significa alterar o conhecimento do modelo, mas sim ditar o nível de risco probabilístico que o algoritmo tem permissão para assumir ao prever a próxima palavra da frase. A seguir, explicamos como cada parâmetro funciona na prática, como calibrá-los por caso de uso e como obter saídas determinísticas.

Resumo rápido

• A temperatura controla o grau de aleatoriedade na escolha de tokens: valores próximos a 0 produzem respostas determinísticas e precisas; valores próximos a 1 ou mais estimulam criatividade e variedade.
• Top-P (amostragem por núcleo) filtra a distribuição probabilística para considerar apenas as palavras cuja probabilidade acumulada atinja um determinado limiar percentual.
• Top-K limita a escolha estritamente às K palavras mais prováveis no vocabulário, sendo muito utilizado em modelos abertos e nas APIs do Google.
• Penalidades de frequência e presença (Presence e Frequency Penalty) evitam repetições enfadonhas de termos e incentivam o modelo a abordar novos tópicos.
• Para extração de dados estruturados (JSON), código de programação e cálculos, a temperatura recomendada é sempre 0 ou muito próxima disso (0,1 a 0,2).
• Recomenda-se alterar Temperature ou Top-P de cada vez, evitando ajustar ambos simultaneamente sem um protocolo claro de testes.

Como os modelos de linguagem escolhem a próxima palavra

Para entender o papel dos parâmetros de geração, é preciso desmistificar como um modelo generativo opera em nível matemático. Um modelo de linguagem não pensa em conceitos prontos como um ser humano: ele calcula continuamente distribuições de probabilidade sobre um vocabulário fixo de milhares de pedaços de palavras (tokens).

Quando uma frase é processada, a última camada da rede neural gera uma lista de pontuações brutas (chamadas de logits) para cada token possível do dicionário. A função matemática Softmax converte esses logits em porcentagens reais que somam 100%. Por exemplo, após a frase “A capital do Brasil é”, o token “Brasília” pode receber 92% de probabilidade, enquanto “o” recebe 4%, “uma” recebe 2% e “São” recebe 1%.

É nesse momento que os hiperparâmetros de geração entram em ação, ditando a regra que o algoritmo deve seguir para sortear a palavra vencedora a partir dessa lista de probabilidades calculadas.

Para entender como formular instruções que facilitem a previsibilidade das respostas antes mesmo de mexer nos parâmetros, confira nosso manual sobre engenharia de prompts avançada com few-shot e chain-of-thought.

O papel da Temperatura (Temperature) na prática

A temperatura é um fator divisor aplicado sobre os logits antes do cálculo da função Softmax. Ela remodela a curva de distribuição de probabilidade, tornando-a mais íngreme ou mais suave:

• Temperatura baixa (0.0 a 0.2): Aumenta a distância entre a palavra mais provável e as demais. O modelo quase sempre escolhe o token com a pontuação máxima (abordagem gananciosa ou Greedy Decoding). O resultado é uma saída altamente previsível, conservadora, factual e quase idêntica a cada execução.
• Temperatura moderada (0.5 a 0.7): O padrão comumente adotado para redação de e-mails corporativos, sínteses de relatórios e atendimento ao cliente. Permite alguma variedade linguística sem desviar do tema central nem gerar divagações absurdas.
• Temperatura alta (0.8 a 1.2): Nivela a distribuição de probabilidades, dando chances reais para palavras menos óbvias serem selecionadas. Útil para brainstorming de nomes de marcas, poemas, criação ficcional e exploração criativa de hipóteses.
• Temperatura extrema (acima de 1.5): Na maioria das arquiteturas, ultrapassar esse valor desregula a coerência gramatical do texto, gerando frases desconexas e erros grosseiros de concordância.

Para aprender técnicas comprovadas que reduzem a invenção de dados pelo modelo em qualquer faixa de temperatura, veja nosso artigo sobre alucinação em IA: por que o modelo inventa e como reduzir.

Entendendo Top-P (Nucleus Sampling) e Top-K

Enquanto a temperatura altera a forma da curva de probabilidades, os parâmetros Top-P e Top-K atuam como filtros que cortam antecipadamente os candidatos antes do sorteio final:

Top-P (Amostragem por Núcleo): Estabelece um percentual acumulado de corte. Se você definir Top-P como 0.9, o algoritmo ordena as palavras da mais provável para a menos provável e soma suas chances até atingir 90%. Todas as palavras que ficaram de fora dessa fatia de 90% são sumariamente descartadas. Isso evita que tokens bizarros com 0,01% de chance sejam escolhidos por acidente em temperaturas moderadas.

Top-K: Em vez de olhar para a soma das probabilidades percentuais, o Top-K fixa um número absoluto de tokens concorrentes. Se Top-K for configurado como 40, apenas os quarenta tokens mais prováveis no vocabulário inteiro concorrerão, independentemente de suas porcentagens relativas. As APIs da OpenAI geralmente utilizam Top-P por padrão, enquanto as ferramentas do Google Gemini e modelos abertos no Hugging Face frequentemente permitem combinar ambos.

Para entender como modelos mais novos que pensam antes de responder lidam com esses parâmetros, leia nosso guia sobre modelos de raciocínio: como funcionam e quando vale pagar por eles.

Matriz de calibração de parâmetros por tipo de tarefa

A tabela a seguir apresenta os valores recomendados de configuração técnica para os cenários operacionais mais comuns em sistemas corporativos:

Presence Penalty e Frequency Penalty

Dois hiperparâmetros complementares oferecidos em plataformas como OpenAI são a Penalidade de Presença e a Penalidade de Frequência, ambos variando em escalas de -2.0 a 2.0:

1. Presence Penalty (Penalidade de Presença): Aplica uma taxa fixa negativa aos logits de qualquer palavra que já tenha aparecido no texto até o momento, independentemente de quantas vezes ela surgiu. Um valor positivo (como 0.3) encoraja o modelo a mudar de assunto e introduzir conceitos novos ao longo do artigo.
2. Frequency Penalty (Penalidade de Frequência): Aplica uma penalização proporcional ao número de vezes que a palavra já se repetiu. Quanto mais vezes o modelo usar o termo “empresa” ou “cliente”, mais difícil será repeti-lo, forçando o uso de pronomes ou sinônimos naturais.

Configurar valores moderados (entre 0.1 e 0.4) para essas penalidades melhora sensivelmente a fluidez de textos longos em língua portuguesa, evitando aquele padrão robótico em que a mesma expressão é repetida a cada parágrafo.

Exemplo: cartório de registro de imóveis em Campinas

Para compreender o impacto real dessa calibração no cotidiano jurídico brasileiro, consideremos o caso de um cartório de registro de imóveis situado em Campinas, São Paulo, que implementou uma rotina automatizada com IA para ler escrituras públicas e gerar certidões resumidas de ônus reais.

No início do projeto piloto, a equipe técnica utilizou o modelo com as configurações padrão da API (Temperature 1.0 e Top-P 1.0). Os resultados geraram apreensão no departamento jurídico:

• O problema da aleatoriedade: Ao analisar a matrícula de um imóvel residencial no bairro Cambuí, o sistema emitiu certidões ligeiramente diferentes a cada clique do escrivão. Em uma execução, chamou uma penhora judicial de “bloqueio patrimonial cautelar”, enquanto em outra omitiu a porcentagem exata da fração ideal do terreno por adotar sinônimos imprecisos.
• A intervenção técnica: O desenvolvedor do cartório ajustou a chamada da API, travando a Temperature em 0.0, fixando o Top-P em 1.0 e ativando o modo de saída estruturada em JSON (Structured Outputs).
• O resultado em produção: A partir desse ajuste de parâmetros, o sistema passou a extrair invariavelmente os mesmos números de CPF, números de matrícula e gravames, com zero desvio textual entre execuções consecutivas.

A simples calibração do hiperparâmetro de temperatura eliminou o risco de divergências documentais e garantiu a segurança jurídica necessária para homologar o sistema perante a corregedoria do tribunal.

Erros comuns

• Ajustar Temperature e Top-P ao mesmo tempo: Alterar simultaneamente ambos os parâmetros em testes sem isolar qual deles foi o responsável pela melhora ou piora das respostas.
• Usar temperatura alta para extração de dados: Deixar a temperatura em 0.7 ou 1.0 para extrair valores monetários ou códigos de rastreio de e-mails, gerando dígitos inventados.
• Aumentar demais as penalidades de repetição: Elevar Frequency Penalty acima de 1.0 em textos técnicos, forçando o modelo a evitar termos indispensáveis como “servidor” ou “banco de dados” e gerando construções bizarras.
• Acreditar que temperatura 0.0 garante verdade absoluta: Esquecer que se o modelo não souber um fato ou se o prompt induzir a um erro, a temperatura zero apenas fará o modelo errar com absoluta certeza e convicção.
• Não registrar os parâmetros nos logs de auditoria: Fazer requisições em produção sem salvar nos bancos de log quais parâmetros foram passados na chamada, impossibilitando reproduzir bugs relatados por clientes.
• Copiar parâmetros de tutoriais sem testar no seu domínio: Aplicar configurações sugeridas para escrita criativa em fluxos de negócios que exigem conformidade financeira rígida.

Perguntas frequentes

Temperatura 0.0 garante que duas chamadas idênticas devolverão exatamente o mesmo texto?

Na quase totalidade dos casos sim, aproximando a resposta do determinismo matemático. No entanto, pequenas variações de arredondamento de ponto flutuante na infraestrutura paralela de GPUs dos provedores em nuvem podem gerar variações mínimas em casos muito raros.

Qual é a diferença entre Temperature e Top-P?

A temperatura suaviza ou acentua a curva de probabilidades de todo o vocabulário, enquanto o Top-P corta a cauda da distribuição, eliminando opções improváveis que somam além de um teto percentual definido.

Posso mudar a temperatura durante uma conversa contínua?

Sim. Na arquitetura de APIs, cada requisição enviada ao modelo é independente e recebe seu próprio conjunto de parâmetros no corpo da mensagem (payload HTTP).

Modelos de raciocínio como o1 aceitam ajuste de temperatura?

Em alguns modelos especializados em raciocínio encadeado (como a família o1 da OpenAI), os provedores travam a temperatura internamente em 1.0 para preservar o funcionamento correto dos tokens de raciocínio ocultos.

Como descobrir a melhor temperatura para a minha aplicação?

Monte um conjunto de testes com pelo menos vinte perguntas reais do seu negócio e execute baterias comparativas com temperaturas 0.0, 0.3 e 0.7, avaliando qual entrega o melhor balanço entre clareza e precisão factual.

Fontes e leitura recomendada

• OpenAI API Reference: parâmetros de criação de chat, temperatura, top_p e penalidades
• Anthropic Claude Documentation: controle de amostragem e técnicas de modulação de respostas
• Google AI for Developers: guia de parâmetros de geração e amostragem na API Gemini
• Hugging Face Blog: como funcionam as estratégias de amostragem e decodificação em LLMs