🛠️ Hardware & Lab
Hora de montar o terreno. Conheça as categorias de hardware de IA, descubra o que cabe na sua máquina, prepare sistema operacional e drivers, e ligue tudo numa rede privada com Tailscale para usar seus modelos de qualquer lugar.
Mapa da trilha
Conteúdo detalhado
🧩 As categorias de hardware
O mapa do hardware de IA: memória unificada, VRAM e banda — e em que categoria sua máquina se encaixa.
Memória unificada (Apple) junta RAM e VRAM num só pool — cabe modelo enorme, mas a banda menor deixa lento. VRAM dedicada (NVIDIA) tem menos memória, porém banda altíssima e mais velocidade.
Esse trade-off decide tudo: tamanho do modelo versus velocidade.
Memória unificada, VRAM, bandwidth.
Mac Studio/Mac com memória unificada grande (ex.: 512 GB) roda modelos de 200 GB+, porém devagar.
Ótimo para modelos enormes; ruim quando você precisa de velocidade.
Apple Silicon, memória unificada, modelos grandes.
NVIDIA DGX Spark (~128 GB) e AMD Ryzen AI Max "Strix Halo": memória e banda medianas.
Bom equilíbrio entre tamanho e velocidade; o SO costuma ser Linux.
DGX Spark, Strix Halo, equilíbrio.
RTX 5090 (~32 GB, muito rápida) e RTX 6000 Pro (~96 GB, cara). Rápido até onde a VRAM cabe.
É a escolha quando velocidade é a prioridade.
RTX 5090, RTX 6000 Pro, VRAM dedicada.
Mac mini, laptops e PCs abaixo de $4k rodam modelos pequenos (Gemma, Phi, Qwen pequenos), embeddings e classificação.
Ainda entrega muito valor — e é onde quase todos começam.
Modelos pequenos, embeddings, custo baixo.
macOS (usabilidade), Linux (workstations) e Windows (GPUs gamer), cada um com prós e contras.
O SO influencia drivers, runtimes e o atrito do dia a dia.
macOS, Linux, Windows.
🎯 Como escolher: o que cabe na sua máquina
Do caso de uso à conta de memória: descubra o maior modelo que sua máquina aguenta — e a que velocidade.
Comece pelo caso de uso (chat, código, RAG), não pelo hardware.
O caso de uso define a faixa de modelo — e, daí, o hardware necessário.
Caso de uso, faixa de modelo, requisito.
GB ≈ (parâmetros em B) × (bytes por peso da quantização) + overhead de contexto. Tabela 7B/13B/34B/70B × Q4/Q8/FP16.
Estimar antes de baixar evita o frustrante "não coube".
Parâmetros, bytes por peso, overhead.
Cada perfil de hardware libera uma faixa de modelo diferente.
Saber seu teto evita comprar ou baixar a coisa errada.
VRAM, RAM, unificada.
tokens/s = quão rápido o texto sai; a banda de memória domina aqui.
Define o que é confortável para chat versus processamento em batch.
tokens/s, latência, bandwidth.
Laptop + Ollama + modelo 3-8B Q4 já roda hoje, de graça.
Remove a desculpa de "preciso comprar antes de começar".
Zero-custo, modelo pequeno, Q4.
Priorizar memória; GPU dedicada quando velocidade pesa; multi-máquina depois (Tailscale, módulo 2.4).
Gastar na ordem certa rende muito mais por real.
Prioridade, GPU dedicada, multi-máquina.
🧰 Sistema operacional, drivers e base
Deixe o terreno pronto: SO, drivers e a camada que faz a GPU rodar IA — em macOS, Linux e Windows.
Todo lab precisa de SO atualizado, espaço em disco e um terminal à mão.
Uma base sólida evita 90% das dores que vêm depois.
Atualização, espaço em disco, terminal.
Apple Silicon usa Metal/MLX, sem driver extra; basta instalar o Homebrew.
É o caminho mais curto pra ter um lab rodando no Mac.
Metal, MLX, Homebrew.
CUDA é a camada que deixa a GPU NVIDIA rodar IA; instale o driver e cheque com nvidia-smi.
É o setup mais comum em workstation e servidor.
CUDA, driver NVIDIA, nvidia-smi.
Driver GeForce + a opção de WSL2 para um ambiente Linux dentro do Windows.
Aproveita a GPU gamer sem trocar de sistema operacional.
GeForce, WSL2, ambiente Linux.
As alternativas ao CUDA e o que realmente funciona neste momento.
Para decidir com realismo se sua GPU AMD serve ao lab.
ROCm, MLX, alternativas.
Organizar pastas de modelos, versionar configs e monitorar temperatura/energia.
Lab limpo escala; lab bagunçado trava você no pior momento.
Organização, versionar, monitorar.
🔗 Rede privada com Tailscale
Acesse seus modelos de qualquer lugar com segurança: uma rede privada que liga suas máquinas como se estivessem na mesma LAN.
Suas máquinas ficam em casa, você está fora — e abrir portas na internet é arriscado.
É exatamente a dor que o Tailscale resolve.
Acesso remoto, sem abrir portas, risco.
VPN mesh ponto-a-ponto sobre WireGuard; cria uma rede privada entre seus dispositivos como se estivessem na mesma LAN.
É a peça que conecta todo o lab num só lugar.
VPN mesh, WireGuard, tailnet.
Instala via script (curl ... | sh) e loga com sudo tailscale up; confirme com tailscale ip -4.
O setup é rápido e idêntico em todas as máquinas.
Instalação, login, tailscale ip.
Exponha o Ollama na tailnet (OLLAMA_HOST=0.0.0.0) e chame de outro device pelo IP 100.x.
É assim que outra máquina passa a usar o seu modelo.
OLLAMA_HOST, IP 100.x, tailnet.
App Tailscale no telefone → usar o modelo de casa de qualquer canto do mundo.
É o caso de uso que destrava mobilidade real.
App móvel, acesso remoto, mobilidade.
Princípio do menor privilégio, MagicDNS e ACLs básicas; nunca expor à internet pública.
Mantém a rede privada de fato privada.
ACLs, MagicDNS, menor privilégio.