🧭 Fundamentos
Antes de instalar nada, entenda o terreno: por que IA local virou movimento de soberania, o que ela é de verdade, por que o "burro e lento" é cada vez menos verdade, e como um LLM funciona por dentro. É a base que faz o resto fazer sentido.
Mapa da trilha
Conteúdo detalhado
🌍 A virada: por que agora
O caso do "porquê": acesso restrito, hardware encarecendo e a soberania como saída.
Os modelos de fronteira chegam primeiro a grupos selecionados, enquanto labs do mundo todo aceleram.
Entender a corrida explica por que depender só da nuvem é arriscado.
Modelo de fronteira, acesso restrito, modelos abertos.
Memória e GPUs sob pressão de preço e demanda futura (robôs, drones, carros).
A urgência é começar enquanto o hardware ainda é obtenível.
Escassez, janela de oportunidade, começar com o que se tem.
A inteligência roda na sua máquina, sob seu controle, e ninguém pode desligar.
Soberania é o fio condutor de todo o curso.
Soberania, independência, base própria.
Os três pilares: privacidade, uso ilimitado e não-removível.
Cada pilar habilita usos impossíveis na nuvem.
Privacidade, sem pedágio, sempre-on.
As três crenças que param as pessoas — e por que caem no teste.
Remover a barreira mental é o primeiro passo prático.
Bom o suficiente, ciclo de hardware, começar grátis.
Como as trilhas se encadeiam do porquê aos agentes 24/7.
Saber o caminho mantém você orientado.
Pré-requisitos, progressão, destino.
🏠 O que é IA local de verdade
Onde o modelo roda, o que é um LLM, e os três pilares na prática.
Na nuvem o prompt viaja a um data center; local tudo acontece na sua GPU/CPU.
É a diferença que explica privacidade e custo.
Inferência, data center, offline.
Um arquivo de pesos + um programa de inferência que gera texto.
Desmistifica o "modelo" e prepara a anatomia (1.4).
Pesos, inferência, tokens.
Prompts e respostas não vão para servidores de terceiros.
Decisivo para dados sensíveis.
Dados sensíveis, sem logs externos.
Sem custo por token, habilita uso contínuo e batch.
Base econômica dos agentes 24/7.
Sem rate limit, custo marginal baixo.
Independência de preço, política e região.
Resiliência é parte do valor.
Resiliência, responsabilidade própria.
Casos em que nuvem ou híbrido fazem mais sentido.
Decidir com critério, não por dogma.
Híbrido, pico de inteligência, custo-benefício.
🐘 Local é mais burro/lento? O elefante na sala
A objeção honesta — e por que a distância está caindo rápido.
Hoje muitos modelos locais são mais simples/lentos que o topo da nuvem.
Encarar a verdade evita frustração.
Gap de capacidade, expectativa realista.
Modelos abertos (GLM, Qwen, Llama, DeepSeek) chegando perto do topo.
Para a maioria das tarefas, já basta.
Modelos abertos, convergência.
O triângulo de trade-offs; local muda a economia.
Escolher conscientemente o ponto de equilíbrio.
Trade-off, economia de uso.
Modelos mais eficientes fazem hardware antigo render de novo.
Derruba o medo do "obsoleto em 2 anos".
Eficiência, quantização, longevidade.
Como ler benchmarks com ceticismo (contaminação, cherry-pick).
Decidir pelo seu caso, não pelo ranking.
Benchmark, contaminação, teste próprio.
O que roda ótimo local vs o que ainda pede o topo.
Saber a ferramenta certa para cada tarefa.
Chat, embeddings, classificação, código complexo.
🧬 Anatomia de um LLM local
Pesos, tokens, contexto, quantização, memória e licenças — sem código.
Bilhões de parâmetros; mais ≈ mais capaz e mais pesado.
É o primeiro número que você lê ao escolher um modelo.
Parâmetros, escala, peso em disco.
Token = pedaço de palavra; contexto = quanto cabe na "memória de trabalho".
Contexto longo custa memória — afeta o que cabe.
Token, contexto, KV cache.
Reduzir a precisão dos pesos (FP16→Q4) para caber em menos memória.
É o que torna o hardware acessível possível.
Precisão, trade-off qualidade × tamanho.
Estimar VRAM/RAM por tamanho × quantização.
Liga direto à escolha de hardware (Trilha 2).
VRAM, RAM, overhead de contexto.
As principais famílias abertas e para que serve cada faixa.
Saber por onde começar a escolher.
Llama, Qwen, Gemma, Mistral, DeepSeek, Phi.
Diferença entre Apache/MIT e licenças com restrição de uso.
Evita problema em uso comercial.
Licença, uso comercial, checklist.