Modelos de IA abertos: DeepSeek, Llama, Qwen e quando vale usar

Modelos de IA abertos, como DeepSeek, Llama, Qwen, Mistral e Gemma, são modelos cujos pesos (os números que formam a “memória” treinada da rede) podem ser baixados e executados na sua própria máquina ou nuvem. Vale usar quando os dados não podem sair da sua infraestrutura, quando o volume é tão alto que pagar por token fica caro, ou quando você precisa ajustar o modelo a fundo para um domínio. Para a maioria das empresas pequenas, uma API comercial continua mais simples e barata no início.

O detalhe que mais gera problema não é técnico, é jurídico: “aberto” quase nunca significa “faça o que quiser”. Cada família tem uma licença diferente, algumas com restrições comerciais relevantes. Este guia explica a diferença entre open-weights e open-source, compara as licenças, mostra o hardware necessário e lista os riscos que você precisa avaliar antes de colocar um modelo aberto em produção.

Resumo rápido

• Open-weights significa pesos disponíveis para download; open-source, pela definição da OSI, exige também código e informações detalhadas sobre os dados de treino.
• As licenças variam por modelo, não só por família: Apache 2.0 e MIT são permissivas; a licença do Llama e outras têm condições próprias.
• A regra de bolso de memória é parâmetros × bytes por parâmetro, mais uma folga; quantização em 4 bits reduz isso a cerca de um quarto do formato de 16 bits.
• Hugging Face é o principal repositório de pesos; Ollama é o caminho mais curto para rodar localmente.
• Usar o aplicativo de um fornecedor e rodar os pesos dele localmente são situações de privacidade completamente diferentes.

Open-weights não é o mesmo que open-source

Em software tradicional, open-source tem definição clara: código-fonte disponível sob licença que permite usar, estudar, modificar e redistribuir. Em IA, o “código-fonte” de um modelo inclui também os dados e o processo de treinamento, e quase nenhum fornecedor publica isso.

A Open Source Initiative (OSI) publicou em 2024 a Open Source AI Definition 1.0. Por ela, um sistema de IA só é open-source se disponibilizar, sob termos aprovados pela OSI, três coisas: os parâmetros (pesos), o código completo de treino e inferência, e informações sobre os dados detalhadas o suficiente para que alguém qualificado consiga construir um sistema substancialmente equivalente. A maioria dos modelos populares entrega só a primeira parte, às vezes sob licença restritiva. Por isso, o termo mais preciso é open-weights: pesos abertos.

Na prática, para quem vai usar o modelo numa empresa, a pergunta relevante é mais simples: o que a licença deste modelo específico me permite fazer?

As licenças, família por família

As licenças mudam entre versões da mesma família, às vezes entre tamanhos do mesmo lançamento. A tabela abaixo é um ponto de partida; antes de usar comercialmente, leia o arquivo LICENSE na página do modelo exato que você vai baixar.

O que observar em qualquer licença

• Uso comercial: é permitido? Há limite de usuários ou de faturamento?
• Política de uso aceitável: lista de usos proibidos que passa a valer como obrigação contratual.
• Atribuição e nome: exigência de aviso, arquivo NOTICE ou prefixo no nome de modelos derivados.
• Uso das saídas: algumas licenças regulam o uso das respostas do modelo para treinar outros modelos.
• Licença herdada: um modelo ajustado (fine-tuned) a partir de outro geralmente carrega as obrigações do original, mesmo que o arquivo diga outra coisa.

Quando rodar um modelo aberto vale a pena

Vale a pena quando

• Os dados não podem sair de casa. Prontuários, processos sob sigilo, dados bancários. Com o modelo rodando no seu servidor, nada é enviado a terceiros.
• O volume é alto e estável. Milhões de chamadas por mês numa tarefa repetitiva podem tornar um servidor dedicado mais barato que pagar por token. Faça a conta com seus números, incluindo pessoal e energia.
• Você precisa de customização profunda. Ajuste fino com dados próprios, controle do formato de saída, modelo especializado e pequeno para uma tarefa só.
• Você quer independência de fornecedor. O modelo baixado continua funcionando mesmo se a empresa que o criou mudar preços ou descontinuar a versão.
• O uso é offline ou na borda. Notebook em campo, dispositivo sem internet confiável.

Não vale a pena quando

• O volume é baixo ou irregular: a GPU fica parada e o custo por resposta sobe.
• A tarefa exige a qualidade dos maiores modelos comerciais e os abertos que cabem no seu hardware não passam no seu teste.
• Não há ninguém na equipe para operar, atualizar e proteger o servidor.
• Você precisaria de um modelo enorme rodando com baixa latência para muitos usuários ao mesmo tempo, o que exige infraestrutura cara.

Existe um meio-termo: usar modelos abertos por meio de provedores de nuvem ou de inferência, pagando por token. Você ganha liberdade de trocar de provedor e de modelo, mas os dados voltam a sair da sua infraestrutura. Para comparar com APIs comerciais, rode o mesmo conjunto de 20 a 30 casos reais em todas as opções e compare qualidade, custo e latência lado a lado.

Hardware e quantização em linhas gerais

A memória necessária para carregar um modelo depende de dois números: quantos parâmetros ele tem e quantos bytes cada parâmetro ocupa. Em 16 bits (formato comum de distribuição), cada parâmetro ocupa 2 bytes. A quantização reduz essa precisão para 8 ou 4 bits, diminuindo memória e acelerando a execução, com alguma perda de qualidade, geralmente pequena em 8 bits e mais perceptível em níveis agressivos.

Esses valores cobrem só os pesos. Some uma folga para o contexto da conversa (o chamado KV cache), que cresce com o tamanho do prompt e com o número de usuários simultâneos. Em modelos do tipo mistura de especialistas (mixture of experts, MoE), só parte dos parâmetros é usada a cada token, o que acelera a resposta, mas todos os pesos ainda precisam caber na memória.

Na prática: modelos de 7 a 14 bilhões de parâmetros quantizados rodam em notebooks recentes e em GPUs de consumo; modelos de 30 a 70 bilhões pedem GPU com bastante memória ou computadores com memória unificada grande; os maiores modelos abertos exigem servidores com várias GPUs.

Onde baixar e como rodar

• Hugging Face: o principal repositório de pesos. Cada modelo tem uma página (model card) com licença, tamanho, formato e instruções. Prefira repositórios oficiais dos fornecedores e arquivos no formato safetensors, que não executam código ao serem carregados.
• Ollama: ferramenta que baixa e roda modelos com um comando, já em versões quantizadas, e expõe uma API local. É o caminho mais curto para testar; temos um passo a passo em como rodar IA local com Ollama.
• llama.cpp e formato GGUF: base de muitas ferramentas locais; GGUF é o formato de arquivo quantizado mais comum para rodar em CPU e GPU de consumo.
• Servidores de inferência: para produção com muitos usuários, existem servidores como o vLLM, que otimizam o atendimento a várias requisições simultâneas.

Exemplo com Ollama, depois de instalado: baixar um modelo e consultá-lo pela API local, que por padrão escuta na porta 11434.

ollama pull llama3.1:8b

curl http://localhost:11434/api/chat -d '{
  "model": "llama3.1:8b",
  "messages": [
    {"role": "user", "content": "Resuma em 3 tópicos a política de cancelamento abaixo: ..."}
  ],
  "stream": false
}'

O nome do modelo é só um exemplo; consulte a biblioteca do Ollama para ver as famílias e tamanhos disponíveis.

Riscos que você precisa avaliar

Alinhamento e segurança

Modelos comerciais acessados por API passam por filtros e monitoramento do fornecedor. Ao rodar pesos abertos, essas camadas ficam por sua conta. Versões ajustadas por terceiros podem ter removido salvaguardas. Se o modelo vai conversar com clientes, implemente seus próprios filtros de entrada e saída e teste respostas a pedidos abusivos.

Viés e censura

Todo modelo carrega escolhas de quem o treinou. Testes independentes relatam que alguns modelos de origem chinesa evitam ou enviesam respostas sobre temas politicamente sensíveis na China. Para a maioria das tarefas de negócio, isso não aparece; para conteúdo jornalístico, educacional ou político, teste especificamente.

Dados e compliance

Diferencie três situações. Usar o aplicativo ou a API oficial do DeepSeek envia dados para a empresa; a política de privacidade do serviço informa que os dados pessoais são coletados, processados e armazenados na República Popular da China. Rodar os pesos do mesmo modelo no seu servidor não envia nada a ninguém. E usá-lo por um provedor de nuvem coloca os dados sob as regras desse provedor. Do ponto de vista da LGPD, a primeira situação envolve transferência internacional de dados pessoais, que precisa de base legal e salvaguardas; veja segurança e LGPD na implantação de IA.

Também avalie a origem dos arquivos. Baixe pesos de repositórios oficiais, confira a licença e mantenha registro de qual versão está em produção. Em setores regulados, a política de compras da empresa ou do cliente pode restringir o uso de software de determinadas origens, mesmo rodando localmente.

Exemplo prático: rede de clínicas odontológicas em Recife

Uma rede com quatro unidades quer resumir anotações clínicas e gerar rascunhos de orientações pós-procedimento. Os dados são de saúde, categoria sensível na LGPD, e a direção não quer que saiam da rede.

1. Licença: a equipe compara três modelos abertos de tamanho médio e descarta um cuja licença impõe condições que o jurídico não quer assumir. Fica com dois sob Apache 2.0.
2. Teste: 25 anotações reais anonimizadas, avaliadas por uma dentista. Um dos modelos erra termos técnicos em português; o outro passa.
3. Hardware: o modelo aprovado, quantizado em 4 bits, roda em um servidor com uma GPU de consumo na unidade central, atendendo as outras unidades pela rede interna.
4. Controles: acesso só pela rede interna, registro de quem consultou o quê, revisão humana obrigatória antes de qualquer texto chegar ao paciente.

Para tarefas sem dados de pacientes, como posts de redes sociais, a rede continua usando uma API comercial. As duas abordagens convivem.

Erros comuns

• Tratar “aberto” como “livre”. Ler só o nome da família e não a licença do modelo exato.
• Confundir app com pesos. Proibir “o DeepSeek” sem distinguir o serviço online do modelo rodando localmente, ou o contrário.
• Subestimar a operação. Servidor, atualizações, segurança, monitoramento e substituição de hardware entram no custo.
• Quantizar demais. Níveis muito agressivos economizam memória, mas podem degradar respostas em português e em tarefas de raciocínio. Teste antes.
• Baixar de qualquer lugar. Repositórios não oficiais podem trazer versões alteradas ou arquivos inseguros.

Perguntas frequentes

Modelos abertos são tão bons quanto os comerciais?

Os maiores modelos abertos chegam perto dos comerciais em várias tarefas, mas os que cabem em hardware modesto costumam ficar abaixo. A resposta depende da sua tarefa: teste com seus próprios casos antes de decidir.

Posso usar um modelo aberto comercialmente?

Na maioria dos casos, sim, mas depende da licença. Apache 2.0 e MIT permitem uso comercial com poucas obrigações; licenças próprias podem impor limites de porte, usos proibidos e regras de atribuição. Leia o arquivo de licença da versão exata.

Rodar o DeepSeek localmente envia dados para a China?

Não. Os pesos são arquivos que rodam no seu hardware, sem conexão com o fornecedor. O envio de dados acontece quando você usa o aplicativo ou a API oficial do serviço.

Preciso de GPU?

Para modelos pequenos quantizados, CPU e memória suficientes já funcionam, só que mais devagar. Para uso com vários usuários ou modelos maiores, uma GPU com memória adequada faz grande diferença.

Existem modelos abertos com raciocínio?

Sim. O DeepSeek-R1 foi um dos primeiros, e outras famílias seguiram. Entenda como esses modelos funcionam no guia de modelos de raciocínio.

Fontes e leitura recomendada

• Open Source Initiative: The Open Source AI Definition 1.0
• DeepSeek-R1 no Hugging Face (licença e versões destiladas)
• Meta: Llama 4 Community License Agreement
• Mistral AI: pesos dos modelos e licenças
• Google Open Source Blog: Gemma 4 sob Apache 2.0
• Ollama