O cérebro: nuvem ou local, decidido com os seus números
O modelo de IA é a peça mais fácil de trocar. Na nuvem, o OpenRouter dá acesso a mais de cem modelos com uma chave. No seu computador, o Ollama roda sem custo por mensagem e sem mandar nada para fora. A escolha não é de gosto: é uma tabela com tempo, qualidade e custo.
Objetivo: comparar um modelo na nuvem e um local com a mesma pergunta e decidir, com os seus números, qual usar para quê.
01 · Um contrato, dois cérebros
Clique em cada bloco.
Clique em cada bloco do diagrama para ver o que ele faz.
Nuvem para potência, local para privacidade. Dá para usar os dois.
02 · Como comparar de forma justa
Clique em cada etapa.
1. Uma pergunta real
Escolha uma pergunta que você faria de verdade ao assistente, de preferência ligada a uma das tarefas do seu meu-jarvis.md.
Use exatamente o mesmo texto nos dois modelos.
ExemploOrganize em três prioridades: fechar o relatório de vendas, responder dois clientes e preparar a reunião de quinta.
2. Medir o tempo
Cronometre do envio até a resposta completa. Rode duas vezes: a primeira chamada no modelo local costuma ser mais lenta, porque ele precisa carregar.
Anote o tempo da segunda.
AnoteTempo em segundos, nuvem e local.
3. Dar nota
Leia as duas respostas sem saber qual é qual, se conseguir pedir a alguém para trocar a ordem. Dê nota de 1 a 5: acertou, seguiu o seu jeito, foi útil?
Uma nota curta por resposta basta.
CritérioEu usaria esta resposta sem reescrever? Sim = 4 ou 5.
4. Ver o custo
Na nuvem, veja no painel do OpenRouter quanto a pergunta custou. No local, o custo por mensagem é zero; o custo é o computador ligado.
Escreva a decisão em uma linha: qual modelo para quê.
DecisãoRotina do dia no local; texto para cliente na nuvem.
03 · Configuração e tabela
A chave da nuvem segue a mesma regra do token: só no .env ou no cofre.
.env · chave da nuvem
OPENROUTER_API_KEY=<cole aqui a chave criada em openrouter.ai/keys>
Troque o provedor padrão para ollama (modelo llama3.2), mantenha o openrouter como alternativa e rode os testes de novo. Não mude nada fora da configuração.
minha-comparacao.md
Pergunta:
| Modelo | Tempo (s) | Nota 1-5 | Custo |
|--------|-----------|----------|-------|
| Nuvem: | | | |
| Local: | | | 0 |
Decisão: uso ____ para ____ e ____ para ____.
Simulação: exemplo ilustrativo
Pergunta difícil, texto longo, raciocínio em várias etapas.
Computador sem memória ou placa para um modelo local bom.
Você aceita pagar por uso e mandar o texto para fora.
Dado sensível que não pode sair da máquina.
Muitas mensagens simples por dia, em que o custo por uso somaria.
Funcionar sem internet, ou como reserva quando a nuvem cai.
04 · Prática: nuvem ou local
Exercício E5 da sequência 2.
E5 · Nuvem ou local
20 min
Rode a mesma pergunta num modelo da nuvem (OpenRouter) e num local (Ollama), se o seu computador aguentar. Preencha a tabela minha-comparacao.md.
Pronto quando: você sabe dizer qual modelo usar para quê, com os seus números.
E5b · A chave guardada
5 min
Confira que a chave do OpenRouter está só no .env (ou no cofre) e que o .env não aparece no git status.
Pronto quando: a busca pela chave fora do .env não acha nada.
05 · Teste o que aprendeu
A explicação aparece depois da sua resposta.
Pergunta 1 de 3
Quando faz sentido um modelo local (Ollama)?competência
Correto
A escolha é medida: mesma pergunta nos dois, tabela, decisão. Privacidade é o outro motivo forte: no local nada sai da máquina.
Não é essa
A escolha é medida: mesma pergunta nos dois, tabela, decisão. Privacidade é o outro motivo forte: no local nada sai da máquina.Rever: Como comparar de forma justa
Pergunta 2 de 3
Você trocou o OpenRouter pelo Ollama. O que precisa mudar no canal e na memória?
Correto
O loop chama o provedor pelo contrato. Trocar de cérebro é configuração; os testes rodam iguais.