"Posso usar IA no meu computador, isolado da internet?"

Recebi essa pergunta de um leitor e acho que vale compartilhar aqui a resposta: pode, sim — mas deixa eu explicar como isso funciona, porque tem alguns detalhes que fazem toda a diferença antes de você sair baixando qualquer coisa.

Primeiro, entenda o que você está baixando

Uma Inteligência Artificial de conversa (um LLM, ou "Grande Modelo de Linguagem") é, no fundo, um programa que aprendeu a prever qual é a próxima palavra mais provável numa frase, depois de ter "lido" uma quantidade gigantesca de textos. É por isso que ela consegue responder perguntas, escrever textos e ajudar a programar.

A maioria das pessoas conhece ferramentas como o ChatGPT ou o Claude, que funcionam em computadores gigantes de grandes empresas. Você manda a pergunta pela internet, ela é processada lá longe, e a resposta volta pra você. Ou seja: nesses casos, você depende da internet e da empresa por trás da ferramenta.

Mas existe outro caminho: os chamados modelos abertos. São versões de IA que qualquer pessoa pode baixar de graça e instalar direto no computador. Depois de baixado, o modelo roda inteiramente na sua máquina — sem mandar nada para fora, sem precisar de internet, sem depender de mais ninguém. É exatamente isso que te permite usar IA num computador isolado.

Então sim, funciona sem internet — mas com algumas condições

Isso é real e funciona bem, mas vem com contrapartidas que eu sempre explico para quem está começando:

• Você troca comodidade por trabalho de configuração. Vai precisar instalar um programa específico para rodar o modelo — os mais usados são o Ollama e o LM Studio. Nenhum dos dois é difícil, mas exige um primeiro passo de instalação que o ChatGPT não exige.
• Você troca poder de processamento por hardware próprio. As empresas grandes têm computadores enormes rodando o modelo. No seu caso, quem faz esse trabalho é a sua própria placa de vídeo. Isso significa que o tamanho e a qualidade do modelo que você consegue rodar dependem diretamente do hardware que você tem em casa.
• Você troca um pouco de inteligência por privacidade e liberdade. Os modelos que cabem num computador doméstico, hoje, respondem muito bem — mas ainda erram mais e "inventam" informações com mais frequência do que os modelos gigantes de nuvem, principalmente em perguntas complicadas com várias etapas de raciocínio.

O que realmente decide se vai funcionar bem: a placa de vídeo

Se eu pudesse te dar um único conselho técnico, seria este: o que importa é a memória da sua placa de vídeo, não o processador nem a RAM comum do computador. É essa memória que determina o tamanho do modelo que cabe ali e a velocidade das respostas.

Para te dar uma ideia prática:

• Com uma placa de vídeo de 8 GB de memória (por exemplo, uma Nvidia RTX 3060 ou 4060), você já roda modelos leves e bem competentes — como Llama 3.2, Mistral 7B ou Qwen3 8B. As respostas saem numa velocidade parecida com a de alguém digitando rápido, ótima para o uso do dia a dia.
• Com 12 GB a 16 GB de memória (como uma RTX 4070 Ti Super ou 4080), você já roda versões maiores — modelos na faixa de 12B a 32B, como Gemma 27B ou Qwen3 32B — com qualidade de resposta bem próxima à de modelos pagos intermediários.

Além disso, você vai precisar de pelo menos 16 GB de memória RAM comum (32 GB, se for pra configuração maior) e um SSD com uns 20 a 50 GB livres, dependendo do modelo escolhido.

Uma dica que costumo dar: existem versões "compactadas" dos modelos, que ocupam bem menos espaço e memória, com uma perda de qualidade quase imperceptível no uso comum. É praticamente o padrão hoje em dia, e os números que te dei acima já consideram essas versões compactadas.

E se você tiver um Mac?

Aqui vale uma observação à parte, porque muita gente se surpreende: os Macs modernos (M1, M2, M3, M4) usam um tipo de memória diferente, em que a mesma RAM do computador também funciona como memória de vídeo. Na prática, isso muda a conta:

• Um Mac com 16 GB de memória já roda modelos básicos tranquilamente.
• Um Mac com 36 GB ou mais roda modelos avançados com ótima velocidade, sem os limites mais rígidos das placas de vídeo tradicionais.

Por isso, muita gente que quer rodar modelos maiores sem montar um computador dedicado a jogos acaba optando por um Mac.

Para que serve, na prática, um computador isolado rodando IA?

Isso costuma fazer mais sentido em algumas situações específicas:

• Documentos sensíveis: resumir contratos, PDFs longos ou papéis do imposto de renda sem risco de essa informação vazar para fora do seu computador.
• Código de projetos privados: ter ajuda para escrever e revisar programação sem enviar nada do seu projeto para servidores externos.
• Uso ilimitado: escrever textos, gerar ideias ou estudar um assunto repetidas vezes, sem custo por pergunta e sem depender de estar online.

Minha recomendação para começar

Não vá direto para o modelo mais avançado. Comece pequeno: instale o Ollama ou o LM Studio, baixe um modelo leve (na faixa de 7B a 8B) e teste nas suas tarefas reais do dia a dia. Só depois de ver como isso funciona na prática é que vale a pena pensar em investir numa placa de vídeo melhor para rodar modelos maiores.

E um último ponto: essa área muda rápido. Vale voltar a pesquisar de tempos em tempos, porque o "melhor modelo doméstico" de hoje costuma ser superado por outro em questão de semanas.