Neste artigo
- O que é o Ollama e o que ele faz?
- Como instalar e rodar o primeiro modelo?
- Quanto de hardware você precisa?
- Quais modelos escolher primeiro?
- Como usar o modelo local nos seus scripts?
- O que o modelo local faz bem e o que ele não faz
- Ollama é gratuito?
- Funciona sem internet depois de baixar o modelo?
- O modelo local substitui ChatGPT no dia a dia?
- Dá para usar no notebook sem placa de vídeo?
- Como remover um modelo que não uso mais?
Rodar um modelo de linguagem na sua máquina deixou de ser projeto de fim de semana: com o Ollama, o caminho inteiro é instalação, um comando de download e uma conversa no terminal. Este tutorial cobre do zero até o modelo respondendo via API local para os seus scripts, sem pagar por chamada e sem mandar nada para fora do computador.
Instale o Ollama, baixe um modelo com ollama pull, converse com ollama run e integre nos seus programas chamando a API local na porta 11434, que fala o mesmo protocolo de quem já usa API externa. A máquina precisa de memória de sobra: modelos úteis começam na casa de 4 GB de RAM. Para encaixar essa ferramenta na rotina, o guia de IA no dia a dia do desenvolvedor organiza o que vale usar agora.
O que é o Ollama e o que ele faz?
O Ollama é um gerenciador de modelos locais: ele baixa versões empacotadas de modelos abertos, resolve a quantização que os torna viáveis em hardware comum e expõe tudo por linha de comando e por HTTP local. Você não precisa configurar runtime, biblioteca de inferência nem CUDA na mão. O papel dele na rotina é parecido com o de um gerenciador de pacotes: listar, baixar, atualizar e servir modelos com um comando cada.
Como instalar e rodar o primeiro modelo?
No Linux e no macOS, a instalação é um script; no Windows, o instalador gráfico resolve. Depois, o fluxo básico tem dois comandos:
ollama pull llama3.2
ollama run llama3.2
O pull baixa os arquivos do modelo, e o run abre a sessão interativa no terminal: você digita, o modelo responde localmente, e o tempo da primeira resposta depende do hardware. Para sair da sessão, o comando é /bye. O catálogo lista variantes por tamanho, e a regra prática é começar pelo modelo menor que resolver a tarefa, porque cada degrau de tamanho dobra a exigência de memória.
Quanto de hardware você precisa?
Memória é o recurso que decide. Modelos de 3 bilhões de parâmetros rodam bem com 8 GB de RAM e servem para resumo, reformulação e tarefa simples. A faixa de 7 a 8 bilhões pede 16 GB e entrega conversa e código com qualidade razoável. Modelos acima disso precisam de 32 GB ou de placa com VRAM de sobra, e aí o custo do hardware começa a competir com meses de API. Processador importa menos que memória; com GPU dedicada, a velocidade melhora de forma visível, mas não é requisito para começar.
💡 Dica: rode ollama ps depois de carregar um modelo para ver a memória em uso. Se a máquina começar a usar swap, o modelo é grande demais para o hardware, e a lentidão não é bug, é aritmética.
Quais modelos escolher primeiro?
Para tarefa de texto e código no dia a dia, as famílias abertas mais usadas têm variantes de 3 a 8 bilhões de parâmetros que servem como ponto de partida, e o catálogo do Ollama indica o tamanho de cada uma. Escolha uma variante pequena, teste as suas tarefas reais e suba um degrau só quando a resposta convincentemente melhor justificar a memória. Comparar dois modelos no mesmo terminal é a forma mais rápida de calibrar a expectativa, e vale repetir o teste a cada mudança de tarefa.
Como usar o modelo local nos seus scripts?
O Ollama sobe um servidor HTTP local quando está ativo, e a API aceita chamadas simples:
curl http://localhost:11434/api/generate -d '{
"model": "llama3.2",
"prompt": "Resuma este parágrafo em uma frase: ...",
"stream": false
}'
Do ponto de vista do código, trocar a API externa pela local costuma ser mudança de endereço e de nome de modelo. É o caminho natural para automatizar revisão de texto, classificação e resumo sem custo por chamada. Para tarefas que pedem raciocínio mais forte, o contraste com serviços de modelo gigante fica claro em ferramentas como o Gemini CLI com contexto de um milhão de tokens, e a decisão entre local e serviço é o tema do guia de IA no dia a dia da programação.
O que o modelo local faz bem e o que ele não faz
O terreno forte do local é a tarefa recorrente sobre texto seu: resumir, reescrever, classificar, extrair campos, gerar primeiro rascunho de código pequeno. Nesses casos, a latência do próprio hardware é aceitável, o custo por chamada é zero e a repetição diária transforma o modelo em ferramenta de fluxo, com script agendado inclusive.
Os limites aparecem em três situações. Conhecimento recente: o modelo só sabe o que estava no treinamento, e não navega na internet, então data posterior ao corte é território de busca. Contexto longo: janelas de contexto são mais curtas nos modelos que cabem em memória comum, e documentos grandes precisam ser fatiados. Raciocínio complexo: os degraus acima na qualidade costumam vir com dezenas de bilhões de parâmetros que hardware doméstico não roda com conforto.
Em compensação, existe uma vantagem que nenhum serviço online replica: o dado nunca sai da máquina. Código proprietário, documento jurídico e informação de cliente podem passar pelo modelo sem sair da rede local, e esse argumento de privacidade é o que decide a adoção em muitas empresas antes de qualquer discussão de desempenho.
Perguntas frequentes
Ollama é gratuito?
A ferramenta é gratuita e de código aberto, e os modelos do catálogo têm licenças abertas que permitem uso local, incluindo uso comercial na maior parte dos casos. O custo real é o hardware e a eletricidade, e não licença.
Funciona sem internet depois de baixar o modelo?
Funciona. Depois que o modelo está no disco, a inferência roda offline, e é justamente esse o atrativo para dado sensível ou ambiente sem rede. Internet entra apenas para baixar modelo novo ou atualização.
O modelo local substitui ChatGPT no dia a dia?
Substitui para tarefa simples e repetitiva, como resumo, reformulação e extração, e decepciona em raciocínio longo e contexto extenso, onde os modelos de fronteira via API seguem à frente. A resposta honesta é que os dois ocupam nichos diferentes.
Dá para usar no notebook sem placa de vídeo?
Dá, com memória suficiente. A inferência roda em CPU, com velocidade menor. Para tarefa em lote, a diferença de tempo se acumula; para conversa e protótipo, notebook com 16 GB de RAM atende bem.
Como remover um modelo que não uso mais?
O comando ollama rm seguido do nome do modelo apaga os arquivos e devolve o espaço em disco. Vale revisar a lista com ollama list de tempos em tempos, porque modelos acumulados ocupam dezenas de gigabytes.