Qué modo usar, qué puede manejar realmente tu máquina, qué modelos valen el espacio en disco y las dos trampas que hacen que la gente crea que lo local es malo.

Lo local no es todo o nada. Decide cuánto sale de tu máquina; la elección del modelo viene después.

100% local, funciona sin conexión. Datos de clientes, contratos, salud, trabajo aún no publicado.
trabajo sensibleLo local se encarga de los borradores y del trabajo pesado; pásate a la nube para las decisiones más difíciles.
★ la estrategia del día a díaLa nube por defecto; pasa a local solo cuando algo no puede salir de la máquina.
poca VRAMArrastra hasta la memoria de tu máquina — en Mac con Apple Silicon, la memoria unificada cuenta como VRAM. En PC, usa la VRAM de tu GPU.
No colecciones modelos: asígnales una función. Haz clic en un comando para copiarlo.
Calidad de nivel 32B a la velocidad de un modelo pequeño. El rey del código en local.
ollama pull qwen3-coder:30b-a3bRazonamiento de frontera, destilado. Mira cómo piensa antes de responder.
ollama pull deepseek-r1:14bLos pesos abiertos de OpenAI. Bate-papo, herramientas y agentes, al estilo de la casa.
ollama pull gpt-oss:20bCada casa lanza una escala de tamaños — el mismo cerebro, escalado hacia arriba o hacia abajo. Ollama es la puerta de entrada a todos ellos. Los modelos que caben en tu máquina se iluminan (sincronizado con el control deslizante de arriba) — haz clic en cualquier punto para copiar el comando pull.
El alineamiento también forma parte de las especificaciones técnicas. Gemma y GPT-OSS vienen bloqueados de fábrica: rechazan cualquier cosa atrevida, justo lo que quieres para un uso seguro para toda la familia o de cara al cliente. Llama queda en un punto intermedio; Mistral es más flexible. Y también hay modelos completamente neutros, que tú mismo diriges — esa es la especialidad de Nous Research, con modelos abiertos y dirigibles hechos a medida para este tipo de control. Elige el temperamento adecuado para cada tarea.
Respuesta honesta: hoy un buen 30B local hace lo que la frontera hacía no hace mucho; y para borradores, trabajo pesado y documentos privados, eso ya cubre la mayor parte de tus tokens.

Chat, borradores, resúmenes — rápido, ligero, funciona en casi cualquier dispositivo.
Código de verdad, agentes de verdad, contexto de verdad — en tu propio escritorio, gratis.
GLM, DeepSeek, Kimi — modelos de frontera de pesos abiertos. Demasiado grandes para alojarlos en casa; cuestan centavos de dólar para alquilarlos.
Razonamiento profundo, arquitectura, buen gusto de diseño. Envíalo aquí y después vuelve a casa.
En razonamiento puro, la frontera todavía gana — por eso existe el modo Conectado. Pero la ventaja de lo local no es el CI: es costo cero por token, cero filtraciones de datos y ningún límite de solicitudes. Dirige según la tarea, no por lealtad.
Por lo general, no es el modelo. Es una de estas dos configuraciones.
El contexto real de Qwen3-Coder es de 256K. Ollama lo ofrece limitado a 4K — estás usando ~1,6% del cerebro y luego culpas al modelo.
OLLAMA_CONTEXT_LENGTH=65536 ollama serveEl contexto consume memoria: un 70B necesita ~42GB solo para la caché a 128K. Las máquinas de consumo llegan al límite alrededor de 32–64K utilizables — es la caché la que no cabe, no el modelo.
q8_0 reduce casi a la mitad la memoria de la caché, con una pérdida mínima de calidad.Ollama expone un endpoint compatible con OpenAI en localhost:11434 — tu agente se conecta como cualquier otro cerebro. Nada sale de la máquina.
# 1 · puxe o coder $ ollama pull qwen3-coder:30b-a3b # 2 · suba o contexto ANTES de julgar $ OLLAMA_CONTEXT_LENGTH=65536 ollama serve # 3 · aponte seu cliente pra localhost $ <seu-cliente-openai-compatible> --model qwen3-coder:30b-a3b --base-url http://localhost:11434/v1

Esta noche: arrastra el deslizador hasta tu máquina, descarga los modelos recomendados, y amplía el contexto antes para juzgar cualquier cosa. Tu laboratorio es gratis, privado y siempre está abierto.