Contenido detallado
🚀 Por qué Ollama para empezar
Ejecutar un LLM "a mano" implica descargar pesos, compilar bibliotecas y ajustar mil flags. El Ollama resuelve esto: es un runtime que descarga, administra y ejecuta modelos locales con un solo comando. Escribes ollama run y, en segundos, ya estás conversando. Es la menor fricción posible hasta tu primer resultado.
🆕 ¿Eres nuevo por aquí?
"Runtime" es el programa que carga el modelo en la memoria y genera el texto (la «inferencia»). Sin él, los pesos son solo un archivo inactivo en el disco.
"Ollama" es uno de esos runtimes, diseñado para que sea fácil de usar. Por debajo utiliza el llama.cpp (el motor que hace funcionar el modelo en CPU y GPU), pero oculta toda la complejidad tras comandos sencillos, en macOS, Linux y Windows.
Lee de izquierda a derecha: tú instala una vez, después solo tienes que descargar (pull) e ejecutar (run) cuántos modelos quieras. La franja azul señala el punto central: es todo local.
✓ Con Ollama
- ✓Un comando descarga y ejecuta el modelo
- ✓Usa la GPU automáticamente cuando hay
- ✓El mismo flujo en Mac, Linux y Windows
- ✓Ya viene con una API local lista
✗ Compilar a mano
- ✗Descargar los pesos y convertir los formatos por tu cuenta
- ✗Compilar bibliotecas y ajustar drivers
- ✗Decenas de flags antes del primer "hola"
- ✗Ideal para aprender; pésima para empezar
📥 Instalar con 1 comando
La instalación es la parte más breve de este módulo. En macOS y Linux es un solo comando pegado en la terminal; no Windows es un instalador en el que puedes hacer clic. Mira estos tres pasos:
Ejecutar el instalador
En Mac/Linux, pega el comando de abajo. En Windows, descarga la aplicación en ollama.com/download y haz clic en instalar.
Confirmar que entró
Ejecuta ollama --version. Si aparece un número de versión, está listo.
El servicio ya está en funcionamiento
Ollama inicia un servicio en segundo plano que escucha en localhost:11434. Es la API local que usaremos más adelante (módulo 3.5).
⌨️ Copia y ejecuta: instalar Ollama
Objetivo: dejar el comando ollama disponible en tu máquina.
Cómo verificar: el script termina sin errores y, al final, sugiere ejecutar un modelo. Si tienes una GPU NVIDIA, detecta CUDA automáticamente. Pasa al siguiente bloque para confirmar la versión.
⌨️ Copia y ejecuta: confirmar la instalación
Objetivo: demostrar que Ollama está instalado y responde.
Cómo verificar: apareció una línea con ollama version is ...? Entonces el motor está en funcionamiento. Si aparece «comando no encontrado», cierra y vuelve a abrir la terminal (o, en Windows, reinicia la sesión).
💡 Consejo práctico
Ese | sh al final del comando significa "ejecuta el script que acabas de descargar". Es el patrón oficial de Ollama, pero siempre conviene tener un buen hábito: antes de canalizar un script al shell, vale la pena abrir la URL en el navegador y echar un vistazo a lo que hace.
💬 Tu primer chat
Es hora del momento "guau". Un solo comando descarga un modelo (si todavía no está en el disco) y abre un prompt de conversación directamente en la terminal. Empieza con el llama3.2 — es ligero, se descarga rápido y funciona bien en la mayoría de las máquinas.
⌨️ Copia y ejecuta: abrir el chat
Objetivo: descargar un modelo y conversar con él ahora.
Cómo verificar: la primera vez muestra una barra de descarga; después aparece un prompt >>>. Escribe, por ejemplo, "explica qué es la IA local en 2 frases" y lee la respuesta generada en tu propia máquina. Para terminar, escribe /bye.
📊 Qué está pasando
- Sin internet después de la descarga: lo descargaste una vez, funciona sin conexión para siempre.
- La primera respuesta puede tardar un poco — es el modelo cargándose en la memoria. Las siguientes se cargan más rápido.
- No se envía nada al exterior: tu prompt y la respuesta se quedan solo en tu computadora.
Equilibrio óptimo. Empieza aquí si tienes dudas.
Más «inteligente», bueno para código y razonamiento. Requiere más RAM/VRAM.
Pequeño y rápido. Te salva el día en equipos modestos.
💡 Consejo práctico
¿Se bloqueó o quedó demasiado lento? Sal con /bye y prueba un modelo más pequeño (el gemma2:2b casi siempre funciona). El tamaño del modelo frente a la memoria es el tema del punto 5, donde aprenderás a elegir sin adivinar.
🗂️ Administrando modelos
Con el tiempo vas a reunir algunos modelos. Cuatro comandos bastan para casi todo: pull descarga, list muestra lo que tienes, ps muestra lo que está ejecutándose ahora y rm borra para liberar espacio en disco.
⌨️ Copia y ejecuta: los 4 comandos del día a día
Objetivo: descargar, listar, inspeccionar y eliminar modelos.
Cómo verificar: ejecuta ollama list y mira la tabla con el nombre, el tamaño y la fecha. Después de un ollama rm, ejecuta list de nuevo: el modelo desapareció y el espacio volvió.
📁 Dónde se guardan los archivos
Los pesos descargados quedan guardados localmente, en una carpeta de Ollama:
Por eso un modelo de varios GB solo se descarga una vez: las siguientes veces, Ollama lo lee del disco. Vigila el espacio: los modelos grandes ocupan mucho rápidamente.
📐 El tamaño adecuado para tu hardware
Ese número en la etiqueta: :2b, :7b, :14b — es el tamaño del modelo en miles de millones de parámetros. Más parámetros = más "inteligencia", más memoria y más lentitud. La regla de oro para principiantes: empieza poco a poco y sube solo cuando lo necesites.
✓ Empezar poco a poco
- ✓Descárgalo rápido y ejecútalo al primer intento
- ✓Sientes la velocidad real de tu máquina
- ✓Aumenta de tamaño con confianza, sabiendo cuál es el límite
✗ Elegir el más grande de entrada
- ✗Descarga enorme antes de obtener cualquier resultado
- ✗Puede que no quepa en la memoria (error de "out of memory")
- ✗Funciona con lentitud y te hace pensar que «lo local es malo»
📊 Guía rápida según la memoria (regla práctica)
Valores aproximados, considerando que Ollama descarga por defecto una versión "cuantizada" (comprimida); el tema se profundiza en el módulo 3.3. Para calcular la memoria con precisión, consulta la Trilha 2.
💡 Consejo práctico
¿No sabes cuánta memoria tienes? Vuelve un momento a la Trilha 2: en Linux, free -h; con GPU NVIDIA, nvidia-smi muestra la VRAM. Ese número es exactamente el límite que determina qué tag :Nb cabe.
🛠️ Personalizar con Modelfile
Hasta aquí usaste los modelos «de fábrica». Pero puedes crear tu propia versión — con personalidad, reglas y tono fijos — sin entrenar nada. El secreto es el Modelfile: una pequeña receta de texto que Ollama convierte en un modelo listo y con el nombre que tú elijas.
🆕 ¿Eres nuevo por aquí?
"Modelfile" es un archivo de texto (parecido a un Dockerfile, si lo conoces) que define la receta de tu modelo: de qué modelo base partir (FROM), qué instrucción fija dar (SYSTEM) y qué parámetros usar. Ollama «hornea» esta receta en un modelo nuevo al que llamas por su nombre.
⌨️ Copia y ejecuta: crear «meu-assistente»
Objetivo: crear un asistente con personalidad fija a partir de un modelo que ya descargaste.
1) Crea un archivo llamado Modelfile (sin extensión) con este contenido:
2) En la misma carpeta, convierte la receta en un modelo:
Cómo verificar: ejecuta ollama list y mira mi-asistente en la lista. Al conversar, ya obedece el tono que definiste — sin tener que repetir el system prompt cada vez. Cambia los fragmentos en <...> según lo que tenga sentido para ti.
Autoevaluación (opcional): ¿qué comando usas para descargar ¿un modelo sin abrir el chat?
📌 Resumen del módulo
Siguiente módulo:
3.2 — Interfaz tipo ChatGPT: Open WebUI & LM Studio