Conteúdo detalhado
🚀 Por que Ollama pra começar
Rodar um LLM "na mão" envolve baixar pesos, compilar bibliotecas e ajustar mil flags. O Ollama resolve isso: é um runtime que baixa, gerencia e roda modelos locais com um único comando. Você digita ollama run e, em segundos, está conversando. É a menor fricção possível até o seu primeiro resultado.
🆕 Novo aqui?
"Runtime" é o programa que carrega o modelo na memória e gera o texto (a "inferência"). Sem ele, os pesos são só um arquivo parado no disco.
"Ollama" é um desses runtimes — feito para ser fácil. Por baixo ele usa o llama.cpp (o motor que faz o modelo rodar em CPU e GPU), mas esconde toda a complexidade atrás de comandos simples, em macOS, Linux e Windows.
Leia da esquerda para a direita: você instala uma vez, depois é só baixar (pull) e rodar (run) quantos modelos quiser. A faixa azul lembra o ponto central: é tudo local.
✓ Com Ollama
- ✓Um comando baixa e roda o modelo
- ✓Usa GPU automaticamente quando há
- ✓Mesmo fluxo em Mac, Linux e Windows
- ✓Já vem com uma API local pronta
✗ Compilando na mão
- ✗Baixar pesos e converter formatos você mesmo
- ✗Compilar bibliotecas e acertar drivers
- ✗Dezenas de flags antes do primeiro "oi"
- ✗Ótimo para aprender — péssimo para começar
📥 Instalar em 1 comando
A instalação é a parte mais curta deste módulo. Em macOS e Linux é um único comando colado no terminal; no Windows é um instalador clicável. Veja os três passos:
Rodar o instalador
No Mac/Linux, cole o comando abaixo. No Windows, baixe o app em ollama.com/download e clique em instalar.
Confirmar que entrou
Rode ollama --version. Se aparecer um número de versão, está pronto.
O serviço já roda
O Ollama sobe um serviço de fundo que escuta em localhost:11434. É a API local que vamos usar lá na frente (módulo 3.5).
⌨️ Copie e rode: instalar o Ollama
Objetivo: deixar o comando ollama disponível na sua máquina.
Como verificar: o script termina sem erro e, ao final, sugere rodar um modelo. Se você tem GPU NVIDIA, ele detecta o CUDA sozinho. Passe para o próximo bloco para confirmar a versão.
⌨️ Copie e rode: confirmar a instalação
Objetivo: provar que o Ollama está instalado e respondendo.
Como verificar: apareceu uma linha com ollama version is ...? Então o motor está no ar. Se der "comando não encontrado", feche e reabra o terminal (ou, no Windows, reinicie a sessão).
💡 Dica prática
Aquele | sh no fim do comando significa "execute o script que acabou de baixar". É o padrão oficial do Ollama, mas o bom hábito vale sempre: antes de canalizar um script para o shell, vale abrir a URL no navegador e dar uma olhada no que ele faz.
💬 Seu primeiro chat
Hora do momento "uau". Um único comando baixa um modelo (se ainda não estiver no disco) e abre um prompt de conversa direto no terminal. Comece com o llama3.2 — é leve, baixa rápido e roda bem na maioria das máquinas.
⌨️ Copie e rode: abrir o chat
Objetivo: baixar um modelo e conversar com ele agora.
Como verificar: na primeira vez ele mostra uma barra de download; depois aparece um prompt >>>. Digite, por exemplo, "explique o que é IA local em 2 frases" e leia a resposta saindo da sua própria máquina. Para encerrar, digite /bye.
📊 O que está acontecendo
- Sem internet depois do download: baixou uma vez, roda offline para sempre.
- A primeira resposta pode demorar um pouco — é o modelo subindo para a memória. As próximas vêm mais rápido.
- Nada é enviado para fora: seu prompt e a resposta ficam só no seu computador.
Equilíbrio ótimo. Comece por aqui se está na dúvida.
Mais "inteligente", bom em código e raciocínio. Pede mais RAM/VRAM.
Minúsculo e rápido. Salva o dia em máquinas modestas.
💡 Dica prática
Travou ou ficou lento demais? Saia com /bye e tente um modelo menor (o gemma2:2b quase sempre roda). Tamanho de modelo vs. memória é o assunto do tópico 5 — e ali você aprende a escolher sem chutar.
🗂️ Gerenciando modelos
Com o tempo você vai colecionar alguns modelos. Quatro comandos dão conta de quase tudo: pull baixa, list mostra o que você tem, ps mostra o que está rodando agora e rm apaga para liberar disco.
⌨️ Copie e rode: os 4 comandos do dia a dia
Objetivo: baixar, listar, inspecionar e remover modelos.
Como verificar: rode ollama list e veja a tabela com nome, tamanho e data. Depois de um ollama rm, rode list de novo — o modelo sumiu e o espaço voltou.
📁 Onde ficam os arquivos
Os pesos baixados ficam guardados localmente, em uma pasta do Ollama:
É por isso que um modelo de vários GB só baixa uma vez: nas próximas, o Ollama lê do disco. Fique de olho no espaço — modelos grandes somam rápido.
📐 O tamanho certo pro seu hardware
Aquele número na tag — :2b, :7b, :14b — é o tamanho do modelo em bilhões de parâmetros. Mais parâmetros = mais "inteligência", mais memória e mais lentidão. A regra de ouro do iniciante: comece pequeno e suba só quando precisar.
✓ Começar pequeno
- ✓Baixa rápido e roda na primeira tentativa
- ✓Você sente a velocidade real da sua máquina
- ✓Sobe de tamanho com confiança, sabendo o limite
✗ Pegar o maior de cara
- ✗Download enorme antes de qualquer resultado
- ✗Pode não caber na memória (erro de "out of memory")
- ✗Roda arrastado e te faz achar que "local é ruim"
📊 Guia rápido por memória (regra de bolso)
Valores aproximados, contando que o Ollama baixa por padrão uma versão "quantizada" (comprimida) — a fundo no módulo 3.3. Para o cálculo certo de memória, veja a Trilha 2.
💡 Dica prática
Não sabe quanta memória você tem? Volte um instante à Trilha 2: no Linux, free -h; com GPU NVIDIA, nvidia-smi mostra a VRAM. Esse número é exatamente o teto que decide qual tag :Nb cabe.
🛠️ Customizar com Modelfile
Até aqui você usou os modelos "de fábrica". Mas dá para criar a sua própria versão — com personalidade, regras e tom fixos — sem treinar nada. O segredo é o Modelfile: uma receitinha de texto que o Ollama transforma num modelo pronto e nomeado por você.
🆕 Novo aqui?
"Modelfile" é um arquivo de texto (parecido com um Dockerfile, se você conhece) que define a receita do seu modelo: de qual modelo base partir (FROM), qual instrução fixa dar (SYSTEM) e quais parâmetros usar. O Ollama "assa" essa receita num modelo novo que você chama pelo nome.
⌨️ Copie e rode: criar "meu-assistente"
Objetivo: nascer um assistente com personalidade fixa, a partir de um modelo que você já baixou.
1) Crie um arquivo chamado Modelfile (sem extensão) com este conteúdo:
2) Na mesma pasta, transforme a receita num modelo:
Como verificar: rode ollama list e veja meu-assistente na lista. Ao conversar, ele já obedece ao tom que você definiu — sem precisar repetir o system prompt toda vez. Troque os trechos em <...> pelo que fizer sentido para você.
Auto-checagem (opcional): qual comando você usa para baixar um modelo sem abrir o chat?
📌 Resumo do módulo
Próximo módulo:
3.2 — Interface tipo ChatGPT: Open WebUI & LM Studio