🧭 Fundamentos
Antes de instalar nada, entiende el terreno: por qué la IA local se convirtió en un movimiento de soberanía, qué es en realidad, por qué «lenta y torpe» es cada vez menos cierto y cómo funciona un LLM por dentro. Es la base que hace que todo lo demás tenga sentido.
Mapa de la ruta
Contenido detallado
🌍 El cambio: por qué ahora
El caso del "porqué": acceso restringido, hardware cada vez más caro y la soberanía como salida.
Los modelos de frontera llegan primero a grupos seleccionados, mientras los labs de todo el mundo aceleran.
Entender la carrera explica por qué depender solo de la nube es arriesgado.
Modelo de frontera, acceso restringido, modelos abiertos.
Memoria y GPU bajo presión por los precios y la demanda futura (robots, drones, autos).
La urgencia es empezar mientras el hardware todavía se puede conseguir.
Escasez, ventana de oportunidad, empezar con lo que se tiene.
La inteligencia funciona en tu máquina, bajo tu control, y nadie puede apagarla.
La soberanía es el hilo conductor de todo el curso.
Soberanía, independencia, base propia.
Los tres pilares: privacidad, uso ilimitado y no-removible.
Cada pilar habilita usos imposibles en la nube.
Privacidad, sin peajes, siempre activa.
Las tres creencias que frenan a las personas — y por qué no resisten la prueba.
Eliminar la barrera mental es el primer paso práctico.
Lo suficientemente bueno, ciclo de hardware, empezar gratis.
Cómo se encadenan las trilhas, desde el porqué hasta los agentes 24/7.
Conocer el camino te mantiene orientado.
Requisitos previos, progresión, destino.
🏠 Qué es realmente la IA local
Dónde se ejecuta el modelo, qué es un LLM y los tres pilares en la práctica.
En la nube, el prompt viaja a un centro de datos; localmente, todo ocurre en tu GPU/CPU.
Es la diferencia que explica la privacidad y el costo.
Inferencia, centro de datos, sin conexión.
Un archivo de pesos + un programa de inferencia que genera texto.
Desmitifica el "modelo" y prepara la anatomía (1.4).
Pesos, inferencia, tokens.
Los prompts y las respuestas no se envían a servidores de terceros.
Decisivo para datos sensibles.
Datos sensibles, sin registros externos.
Sin costo por token, permite el uso continuo y por lotes.
Base económica de los agentes 24/7.
Sin límite de solicitudes y con bajo costo marginal.
Independencia del precio, la política y la región.
La resiliencia forma parte del valor.
Resiliencia, responsabilidad propia.
Casos en los que la nube o un entorno híbrido tienen más sentido.
Decide con criterio, no por dogma.
Híbrido, pico de inteligencia, buena relación calidad-precio.
🐘 ¿Lo local es más torpe/lento? El elefante en la habitación
La objeción honesta — y por qué la distancia se está reduciendo rápidamente.
Hoy, muchos modelos locales son más sencillos y lentos que los mejores modelos en la nube.
Enfrentar la verdad evita la frustración.
Brecha de capacidad, expectativas realistas.
Modelos abiertos (GLM, Qwen, Llama, DeepSeek) que se acercan a los mejores.
Para la mayoría de las tareas, ya es suficiente.
Modelos abiertos, convergencia.
El triángulo de compensaciones; en local cambia la economía.
Elegir conscientemente el punto de equilibrio.
Trade-off, ahorro de uso.
Los modelos más eficientes hacen que el hardware antiguo vuelva a rendir.
Disipa el miedo a que quede "obsoleto en 2 años".
Eficiencia, cuantización, longevidad.
Cómo leer benchmarks con escepticismo (contaminación, cherry-pick).
Decidir según tu caso, no según el ranking.
Benchmark, contaminación, prueba propia.
Qué funciona muy bien en local y qué todavía requiere lo mejor.
Saber cuál es la herramienta adecuada para cada tarea.
Chat, embeddings, clasificación, código complejo.
🧬 Anatomía de un LLM local
Pesos, tokens, contexto, cuantización, memoria y licencias — sin código.
Miles de millones de parámetros; más ≈ más capaz y más pesado.
Es el primer número que lees al elegir un modelo.
Parámetros, escala, tamaño en disco.
Token = fragmento de palabra; contexto = cuánto cabe en la "memoria de trabajo".
Un contexto largo consume memoria y afecta lo que cabe.
Token, contexto, KV cache.
Reducir la precisión de los pesos (FP16→Q4) para que quepan en menos memoria.
Es lo que hace posible acceder a hardware asequible.
Precisión, compromiso entre calidad y tamaño.
Estimar la VRAM/RAM según el tamaño × la cuantización.
Se conecta directamente con la elección de hardware (Ruta 2).
VRAM, RAM, sobrecarga del contexto.
Las principales familias abiertas y para qué sirve cada rango.
Saber por dónde empezar a elegir.
Llama, Qwen, Gemma, Mistral, DeepSeek, Phi.
Diferencia entre Apache/MIT y licencias con restricciones de uso.
Evita problemas durante el uso comercial.
Licencia, uso comercial, lista de verificación.