PTENES
← INEMA.CLUB · Inicio Kit Local · INEMA
Ejecución de modelos locales · La Estrategia Local

El Laboratorio Local.
Gratis. Privado. Tuyo.

Qué modo usar, qué puede manejar realmente tu máquina, qué modelos valen el espacio en disco y las dos trampas que hacen que la gente crea que lo local es malo.

El Laboratorio Local — la estación del futuro
01 · La estrategia

Elige tu modo primero.

Lo local no es todo o nada. Decide cuánto sale de tu máquina; la elección del modelo viene después.

Elige tu modo — cofre, conectado, nube
🔒
Cofre
nada sale nunca

100% local, funciona sin conexión. Datos de clientes, contratos, salud, trabajo aún no publicado.

trabajo sensible
🔌
Conectado
local primero, nube bajo demanda

Lo local se encarga de los borradores y del trabajo pesado; pásate a la nube para las decisiones más difíciles.

★ la estrategia del día a día
☁️
Primero la nube
local solo para el 5% privado

La nube por defecto; pasa a local solo cuando algo no puede salir de la máquina.

poca VRAM
02 · Tu máquina

Qué tu ¿la máquina realmente puede con esto?

Arrastra hasta la memoria de tu máquina — en Mac con Apple Silicon, la memoria unificada cuenta como VRAM. En PC, usa la VRAM de tu GPU.

tu memoria · VRAM o memoria unificada de Apple 24 GB
8162432486496128

⏳ máquina del tiempo
Tan potente como la frontera de

🎯 pariente moderno más cercano

Regla práctica: el archivo del modelo más la caché de contexto reside en la memoria — deja margen. Los tamaños suponen cuantización Q4.
03 · Los mejores de su categoría

Tres trabajos. Tres campeones.

No colecciones modelos: asígnales una función. Haz clic en un comando para copiarlo.

01 Qwen
el programadorQwen3-Coder 30B

Calidad de nivel 32B a la velocidad de un modelo pequeño. El rey del código en local.

24GB · ~40 tok/sollama pull qwen3-coder:30b-a3b
02 DeepSeek
el razonadorDeepSeek-R1 14B

Razonamiento de frontera, destilado. Mira cómo piensa antes de responder.

16GB · 32B / 70B arribaollama pull deepseek-r1:14b
03 OpenAI
el generalistaGPT-OSS 20B

Los pesos abiertos de OpenAI. Bate-papo, herramientas y agentes, al estilo de la casa.

hecho para 16GBollama pull gpt-oss:20b
04 · El panorama local

Seis casas. Todo tamaño.

Cada casa lanza una escala de tamaños — el mismo cerebro, escalado hacia arriba o hacia abajo. Ollama es la puerta de entrada a todos ellos. Los modelos que caben en tu máquina se iluminan (sincronizado con el control deslizante de arriba) — haz clic en cualquier punto para copiar el comando pull.

El panorama de los modelos localestus GB24 GB
QwenQwen3pragmático · le encantan las herramientas
DeepSeekDeepSeek-R1piensa en voz alta
OpenAIGPT-OSSmodelos de frontera · exigente
GemmaGemma 3pulido · el más seguro
MetaLlamael estándar · punto medio
MistralMistralcompacto · relajado
1B8B30B70B120B
charla rápidatrabajo realnivel de agentecasi en el límite
tamaño del punto = parámetros · zona verde = alcance de tu máquina (arrastra el control deslizante) · ★ = el modelo de código
🎭
Los mismos cerebros, distintos modos

El alineamiento también forma parte de las especificaciones técnicas. Gemma y GPT-OSS vienen bloqueados de fábrica: rechazan cualquier cosa atrevida, justo lo que quieres para un uso seguro para toda la familia o de cara al cliente. Llama queda en un punto intermedio; Mistral es más flexible. Y también hay modelos completamente neutros, que tú mismo diriges — esa es la especialidad de Nous Research, con modelos abiertos y dirigibles hechos a medida para este tipo de control. Elige el temperamento adecuado para cada tarea.

05 · El contexto honesto

Lo local es bueno, ¿de verdad?

Respuesta honesta: hoy un buen 30B local hace lo que la frontera hacía no hace mucho; y para borradores, trabajo pesado y documentos privados, eso ya cubre la mayor parte de tus tokens.

El espectro de potencia: de 8B hasta la frontera
local · pequeño
El cerebro de bolsillo

Chat, borradores, resúmenes — rápido, ligero, funciona en casi cualquier dispositivo.

LlamaGemmaMistral
local · 30B ★
La frontera de ayer

Código de verdad, agentes de verdad, contexto de verdad — en tu propio escritorio, gratis.

QwenGPT-OSS
gigantes alquilados
Abiertos, pero enormes

GLM, DeepSeek, Kimi — modelos de frontera de pesos abiertos. Demasiado grandes para alojarlos en casa; cuestan centavos de dólar para alquilarlos.

GLMDeepSeekKimi
nube de frontera
El 5% más difícil

Razonamiento profundo, arquitectura, buen gusto de diseño. Envíalo aquí y después vuelve a casa.

GPT-5.6Claude
⚖️
Dónde está realmente el límite

En razonamiento puro, la frontera todavía gana — por eso existe el modo Conectado. Pero la ventaja de lo local no es el CI: es costo cero por token, cero filtraciones de datos y ningún límite de solicitudes. Dirige según la tarea, no por lealtad.

06 · Las dos trampas

Por qué creen que lo local es malo.

Por lo general, no es el modelo. Es una de estas dos configuraciones.

🧠
El valor predeterminado de 4.096 tokens

El contexto real de Qwen3-Coder es de 256K. Ollama lo ofrece limitado a 4K — estás usando ~1,6% del cerebro y luego culpas al modelo.

nativo · 256Kestándar · 4K
Corrección: OLLAMA_CONTEXT_LENGTH=65536 ollama serve
🌊
La pared de la caché KV

El contexto consume memoria: un 70B necesita ~42GB solo para la caché a 128K. Las máquinas de consumo llegan al límite alrededor de 32–64K utilizables — es la caché la que no cabe, no el modelo.

Corrección: cuantización de la caché KV — q8_0 reduce casi a la mitad la memoria de la caché, con una pérdida mínima de calidad.
07 · Conecta todo

Tres comandos para una sala cerrada.

Ollama expone un endpoint compatible con OpenAI en localhost:11434 — tu agente se conecta como cualquier otro cerebro. Nada sale de la máquina.

terminal · local y gratis
# 1 · puxe o coder
$ ollama pull qwen3-coder:30b-a3b

# 2 · suba o contexto ANTES de julgar
$ OLLAMA_CONTEXT_LENGTH=65536 ollama serve

# 3 · aponte seu cliente pra localhost
$ <seu-cliente-openai-compatible> --model qwen3-coder:30b-a3b --base-url http://localhost:11434/v1
Tu máquina. Tu mente.
¿Y entonces? →

Esta noche: arrastra el deslizador hasta tu máquina, descarga los modelos recomendados, y amplía el contexto antes para juzgar cualquier cosa. Tu laboratorio es gratis, privado y siempre está abierto.

INEMA.CLUB · Kit bônus do Capítulo 3 · inema.club