Conteúdo detalhado
🧰 Preparando o terreno
Um lab de IA local não precisa de nada exótico — precisa de três coisas em ordem: sistema operacional atualizado, espaço livre em disco e um terminal à mão. É a fundação sobre a qual tudo nas próximas trilhas vai rodar. Pular essa parte é a causa nº 1 de "instalei e não funcionou".
🆕 Novo aqui?
"Driver" é o programa que deixa o sistema conversar com uma peça de hardware — no nosso caso, a placa de vídeo (GPU). Sem o driver certo, a GPU existe na máquina mas o software de IA não consegue usá-la. "Terminal" é a janela de texto onde você digita comandos (Terminal no macOS, PowerShell no Windows, qualquer shell no Linux) — quase todo o setup passa por ele.
Vale ter o mapa mental da pilha que faz IA local acontecer. Cada camada se apoia na de baixo: o modelo só roda se o runtime existe; o runtime só usa a GPU se o driver está instalado; e tudo isso vive sobre o hardware.
Leia a pilha de baixo para cima: o hardware sustenta o driver, que destrava a GPU para o runtime, que finalmente carrega o modelo. Este módulo cuida das camadas 1 e 2 — o resto vem na Trilha 3.
✓ Terreno pronto
- ✓Sistema operacional na versão atual
- ✓30–50 GB livres em disco para os modelos
- ✓Driver da GPU instalado e enxergando a placa
- ✓Terminal aberto e você confortável de colar comandos
✗ Terreno improvisado
- ✗SO travado numa versão antiga sem atualizar
- ✗Disco quase cheio — modelo nem termina de baixar
- ✗GPU presente, mas sem driver (roda tudo na CPU, lento)
- ✗Medo do terminal — trava no primeiro comando
🍎 macOS (Apple Silicon)
Se você tem um Mac com chip da família M (M1, M2, M3, M4), boa notícia: a base já vem quase pronta. A GPU é integrada e a Apple a expõe via Metal — não existe driver separado para instalar. Falta só uma peça: um gerenciador de pacotes para trazer as ferramentas de linha de comando. Esse é o Homebrew.
🆕 Novo aqui?
- Metal = a API gráfica da Apple; é o que runtimes como Ollama usam para rodar o modelo na GPU do Mac. Já vem no sistema.
- MLX = framework de machine learning da Apple, feito para a memória unificada do Apple Silicon (mais no tópico 5).
- Homebrew = o gerenciador de pacotes mais usado no Mac; instala programas de terminal com um comando só.
⌨️ Exemplo prático: instalar o Homebrew
Objetivo: deixar o Mac pronto para instalar Ollama, Python e o que mais a Trilha 3 pedir. Cole no Terminal e siga as instruções na tela.
Como verificar: feche e reabra o Terminal, então rode brew --version. Deve aparecer algo como Homebrew 4.x. Se o comando não for encontrado, o instalador imprime no fim duas linhas eval ... — cole-as para adicionar o brew ao PATH.
💡 Dica prática
No Mac você não mexe com driver de GPU — o Metal já está lá. A vantagem do Apple Silicon é a memória unificada: RAM e VRAM são o mesmo pool, então um Mac com 32 GB+ roda modelos que travariam numa GPU com pouca VRAM (revisita a Trilha 2.1). O custo é a banda menor: roda grande, mas não tão rápido.
🐧 Linux + NVIDIA (CUDA)
A dupla mais comum em workstations de IA é Linux + GPU NVIDIA. É aqui que aparece a peça que mais gente esquece: o driver da NVIDIA e o CUDA. Sem eles, sua placa de R$ 10 mil fica parada e o modelo roda lento na CPU.
🆕 Novo aqui?
"CUDA" é a camada de software da NVIDIA que deixa programas usarem a GPU para cálculo — não só para gráficos. É exatamente o que faz a IA rodar rápido na placa. O CUDA vem junto/depende do driver NVIDIA, então instalar o driver certo já resolve a maior parte.
⌨️ Exemplo prático: a máquina enxerga a GPU?
Objetivo: confirmar que o driver está ativo e ver quanta VRAM você tem — o número que decide o tamanho do modelo. Cole no terminal.
Como verificar: nvidia-smi deve mostrar uma tabela com o nome da GPU, a versão do driver e a memória (ex.: 24576MiB). Se der command not found, o driver ainda não está instalado — siga o passo a passo abaixo usando o que ubuntu-drivers devices marcar como recommended.
Instalar o driver no Ubuntu é uma sequência curta:
Atualizar o sistema
Rode sudo apt update && sudo apt upgrade para partir de uma base limpa antes de instalar driver.
Descobrir o driver certo
ubuntu-drivers devices lista os drivers compatíveis e marca o recommended. Confie nele na primeira vez.
Instalar
sudo ubuntu-drivers autoinstall instala o recomendado. Para fixar uma versão: sudo apt install nvidia-driver-550.
Reiniciar e conferir
Reinicie e rode nvidia-smi de novo. Agora a tabela com a GPU e a VRAM tem que aparecer. Pronto: CUDA disponível.
🪟 Windows (+ WSL2 opcional)
Windows roda IA local muito bem, principalmente em PCs com GPU NVIDIA gamer. O caminho mais simples: instalar o driver GeForce (ou Studio) normal e usar Ollama ou LM Studio direto no Windows. Para quem quer um ambiente Linux sem trocar de máquina, existe o WSL2.
🆕 Novo aqui?
"WSL2" (Windows Subsystem for Linux 2) é um Linux de verdade rodando dentro do Windows, com acesso à GPU. Você ganha o ecossistema de comandos Linux — muitos tutoriais de IA assumem Linux — sem precisar de dual-boot nem de outra máquina.
🪟 Windows nativo
- •Mais simples: instala o driver GeForce e o app (Ollama/LM Studio)
- •Ótimo se você só quer rodar e conversar com o modelo
- •Menos passos, menos coisa para quebrar
🐧 Com WSL2
- •Ambiente Linux para seguir tutoriais e scripts à risca
- •Bom para Docker, Open WebUI e fluxos de dev (Trilhas 3 e 4)
- •A GPU NVIDIA aparece dentro do WSL com o driver Windows atual
⌨️ Exemplo prático: ligar o WSL2
Objetivo: ter um Ubuntu dentro do Windows. Abra o PowerShell como administrador.
Como verificar: reinicie, abra o app Ubuntu pelo menu Iniciar e crie usuário/senha. Se você tem GPU NVIDIA com driver atualizado no Windows, nvidia-smi rodado dentro do Ubuntu já deve enxergar a placa — não precisa instalar driver dentro do WSL.
🔀 AMD (ROCm) e Apple (MLX) — o panorama
Nem todo mundo tem NVIDIA — e tudo bem. Vale saber o panorama das alternativas ao CUDA, porque ele define o que funciona hoje, sem dor de cabeça, e o que ainda pede paciência.
🆕 Novo aqui?
- ROCm = a resposta da AMD ao CUDA: a camada que deixa GPUs AMD rodarem cálculo de IA. Mais nova e com suporte menos universal que CUDA, porém evoluindo rápido.
- MLX = o framework da Apple para Apple Silicon; libs específicas (ex.: mlx-lm) tiram proveito da memória unificada do chip M.
NVIDIA · CUDA
Maduro. O caminho mais batido e melhor suportado.
Linux ou Windows. Funciona em praticamente tudo que é IA local.
AMD · ROCm
Em evolução. Funciona, mas cheque a compatibilidade da sua placa antes.
Linux é o terreno mais firme. Ollama já roda em várias GPUs AMD.
Apple · Metal/MLX
Nativo. No Mac com chip M, simplesmente funciona.
Sem driver. MLX para quem quer ir além do Ollama no Mac.
✓ Caminho com menos atrito hoje
- ✓NVIDIA + CUDA no Linux ou Windows
- ✓Apple Silicon + Metal/MLX no Mac
- ✓Ollama abstrai os três — você troca de máquina e o comando é o mesmo
✗ Onde ainda dói
- ✗ROCm exige checar se a sua GPU AMD está na lista de suporte
- ✗GPUs muito novas ou muito antigas podem ainda não ter suporte
- ✗Misturar fabricantes na mesma máquina complica a configuração
💡 Dica prática
Não trave nessa escolha. Se você já tem uma máquina, use o que ela tem — o Ollama (Trilha 3) detecta a GPU sozinho na maioria dos casos. Se for comprar pensando em IA local hoje, NVIDIA no PC ou Apple Silicon no Mac são os caminhos com menos surpresa.
🧹 Higiene do lab
Base instalada, falta a parte que ninguém te conta: manter o lab organizado e saudável. Três hábitos evitam a maioria das dores futuras — organizar onde os modelos ficam, versionar suas configs e vigiar temperatura/energia.
⚠️ Alerta: calor e energia
Rodar um modelo grande puxa GPU e CPU a 100% por minutos seguidos — isso esquenta e consome energia de verdade. Em laptop, o impacto é maior: a máquina pode acelerar as ventoinhas, dar throttle (cair de desempenho para se proteger) e gastar bateria rápido.
- •Não rode sobre cama/sofá que tampe as saídas de ar; prefira superfície dura e ventilada.
- •Antes de deixar um agente 24/7 (Trilha 4), confira a temperatura sob carga e a conta de luz.
- •Se a máquina desligar sozinha sob carga, quase sempre é superaquecimento — limpe a poeira e melhore a ventilação.
✓ Boa higiene
- ✓Uma pasta dedicada para os modelos (sabe onde está tudo)
- ✓Configs e Modelfiles versionados no git
- ✓Olho no nvidia-smi / Monitor de Atividade sob carga
- ✓Fecha o que não está usando antes de carregar um modelo grande
✗ Descuido
- ✗Modelos espalhados em Downloads, Desktop e meia dúzia de pastas
- ✗Configs só na cabeça — formatou, perdeu tudo
- ✗Ignorar a temperatura até a máquina travar
- ✗Dez coisas disputando a GPU ao mesmo tempo
⌨️ Exemplo prático: resumo do ambiente
Objetivo: um retrato rápido do seu sistema — SO, RAM e GPU — para saber com o que você está trabalhando antes de escolher modelos.
Como verificar: salve como resumo-do-ambiente.sh e rode bash resumo-do-ambiente.sh. Você deve ver três blocos — Sistema, RAM e GPU. Guarde essa saída: é o ponto de partida para decidir o tamanho de modelo (Trilha 2.2) e abrir um chamado se algo der errado.
Auto-checagem (opcional): o que é o CUDA e por que ele importa num lab Linux + NVIDIA?
📌 Resumo do módulo
Próximo módulo:
2.4 — Rede privada com Tailscale