Contenido detallado
🧰 Preparando el terreno
Un laboratorio de IA local no necesita nada exótico; necesita tres cosas en orden: sistema operativo actualizado, espacio libre en disco y una terminal a mano. Es la base sobre la que funcionará todo en las siguientes trilhas. Saltarse esta parte es la causa n.º 1 de "lo instalé y no funcionó".
🆕 ¿Eres nuevo por aquí?
"Driver" es el programa que permite que el sistema se comunique con un componente de hardware; en nuestro caso, la tarjeta gráfica (GPU). Sin el controlador adecuado, la GPU está en la máquina, pero el software de IA no puede usarla. "Terminal" es la ventana de texto donde escribes comandos (Terminal en macOS, PowerShell en Windows, cualquier shell en Linux): casi toda la configuración pasa por ahí.
Vale la pena tener el mapa mental de la pila que hace posible la IA local. Cada capa se apoya en la anterior: el modelo solo se ejecuta si existe el runtime; el runtime solo usa la GPU si el driver está instalado; y todo esto funciona sobre el hardware.
Lee la pila de abajo hacia arriba: el hardware mantiene el driver, que libera la GPU para el runtime, que finalmente carga el modelo. Este módulo se ocupa de las capas 1 y 2; el resto viene en la Ruta 3.
✓ Terreno preparado
- ✓Sistema operativo en la versión actual
- ✓30–50 GB libres en disco para los modelos
- ✓Controlador de GPU instalado y detectando la tarjeta
- ✓Terminal abierto y te sientes cómodo pegando comandos
✗ Terreno improvisado
- ✗SO bloqueado en una versión antigua sin actualizar
- ✗Disco casi lleno: el modelo ni siquiera termina de descargarse
- ✗GPU presente, pero sin controlador (todo se ejecuta en la CPU, lento)
- ✗Miedo a la terminal: se bloquea en el primer comando
🍎 macOS (Apple Silicon)
Si tienes una Mac con un chip de la familia M (M1, M2, M3, M4), buenas noticias: la base ya viene casi lista. La GPU está integrada y Apple la expone mediante Metal — no existe un controlador separado que debas instalar. Solo falta una pieza: un gestor de paquetes para instalar las herramientas de línea de comandos. Ese es Homebrew.
🆕 ¿Eres nuevo por aquí?
- Metal = la API gráfica de Apple; es lo que usan runtimes como Ollama para ejecutar el modelo en la GPU de la Mac. Ya viene en el sistema.
- MLX = framework de machine learning de Apple, diseñado para la memoria unificada de Apple Silicon (más en el tema 5).
- Homebrew = el gestor de paquetes más usado en Mac; instala programas de terminal con un solo comando.
⌨️ Ejemplo práctico: instalar Homebrew
Objetivo: dejar la Mac lista para instalar Ollama, Python y lo que pida la Trilha 3. Pega esto en Terminal y sigue las instrucciones en pantalla.
Cómo verificar: cierra y vuelve a abrir la Terminal, luego ejecuta brew --version. Debería aparecer algo como Homebrew 4.x. Si no encuentra el comando, el instalador imprime dos líneas al final eval ... — pégalas para agregar el brew al PATH.
💡 Consejo práctico
En Mac no modifica el controlador de la GPU — Metal ya está ahí. La ventaja de Apple Silicon es la memoria unificada: RAM y VRAM son el mismo pool, así que una Mac con 32 GB+ ejecuta modelos que se bloquearían en una GPU con poca VRAM (vuelve a la Trilha 2.1). El costo es un ancho de banda menor: ejecuta modelos grandes, pero no tan rápido.
🐧 Linux + NVIDIA (CUDA)
La combinación más común en las estaciones de trabajo de IA es Linux + GPU NVIDIA. Aquí aparece la pieza que más gente olvida: el controlador de NVIDIA y el CUDA. Sin ellos, tu tarjeta de R$ 10 mil queda inactiva y el modelo se ejecuta lento en la CPU.
🆕 ¿Eres nuevo por aquí?
"CUDA" es la capa de software de NVIDIA que permite que los programas usen la GPU para cálculo — no solo para gráficos. Es exactamente lo que hace que la IA funcione rápido en la tarjeta. CUDA viene incluido con el controlador de NVIDIA o depende de él, así que instalar el controlador correcto ya resuelve la mayor parte.
⌨️ Ejemplo práctico: ¿la máquina detecta la GPU?
Objetivo: confirmar que el driver esté activo y ver cuánta VRAM tienes: el número que determina el tamaño del modelo. Pégalo en la terminal.
Cómo verificar: nvidia-smi debe mostrar una tabla con el nombre de la GPU, la versión del driver y la memoria (p. ej., 24576MiB). Si da command not found, el driver todavía no está instalado; sigue los pasos de abajo usando lo que ubuntu-drivers devices marcar como recommended.
Instalar el controlador en Ubuntu es una secuencia breve:
Actualizar el sistema
Ejecuta sudo apt update && sudo apt upgrade para partir de una base limpia antes de instalar el driver.
Encontrar el controlador adecuado
ubuntu-drivers devices enumera los controladores compatibles y marca el recommended. Confía en él la primera vez.
Instalar
sudo ubuntu-drivers autoinstall instala la recomendada. Para fijar una versión: sudo apt install nvidia-driver-550.
Reiniciar y comprobar
Reinicia y ejecuta nvidia-smi de nuevo. Ahora tiene que aparecer la tabla con la GPU y la VRAM. Listo: CUDA está disponible.
🪟 Windows (+ WSL2 opcional)
Windows ejecuta IA local muy bien, especialmente en PCs con GPU NVIDIA para gaming. La forma más sencilla: instalar el driver GeForce (o Studio) normal y usar Ollama o LM Studio directamente en Windows. Para quienes quieren un entorno Linux sin cambiar de máquina, existe el WSL2.
🆕 ¿Eres nuevo por aquí?
"WSL2" (Windows Subsystem for Linux 2) es un Linux de verdad ejecutándose dentro de Windows, con acceso a la GPU. Obtienes el ecosistema de comandos de Linux — muchos tutoriales de IA dan por sentado que usas Linux — sin necesitar un arranque dual ni otra máquina.
🪟 Windows nativo
- •Más sencillo: instala el driver GeForce y la app (Ollama/LM Studio)
- •Ideal si solo quieres ejecutar el modelo y conversar con él
- •Menos pasos, menos cosas que pueden fallar
🐧 Con WSL2
- •Entorno Linux para seguir tutoriales y scripts al pie de la letra
- •Bueno para Docker, Open WebUI y flujos de desarrollo (Trilhas 3 e 4)
- •La GPU NVIDIA aparece dentro de WSL con el controlador actual de Windows
⌨️ Ejemplo práctico: activar WSL2
Objetivo: tener Ubuntu dentro de Windows. Abre el PowerShell como administrador.
Cómo verificar: reinicia, abre la app Ubuntu desde el menú Inicio y crea un usuario y una contraseña. Si tienes una GPU NVIDIA con el driver actualizado en Windows, nvidia-smi ejecutado dentro Ubuntu ya debería reconocer la tarjeta — no necesitas instalar el driver dentro de WSL.
🔀 AMD (ROCm) y Apple (MLX): el panorama
No todo el mundo tiene NVIDIA, y no pasa nada. Conviene conocer el panorama de las alternativas a CUDA, porque determina qué funciona hoy, sin complicaciones, y lo que todavía requiere paciencia.
🆕 ¿Eres nuevo por aquí?
- ROCm = la respuesta de AMD a CUDA: la capa que permite que las GPU de AMD ejecuten cálculos de IA. Es más nueva y tiene un soporte menos universal que CUDA, pero evoluciona rápidamente.
- MLX = el framework de Apple para Apple Silicon; bibliotecas específicas (p. ej., mlx-lm) aprovechan la memoria unificada del chip M.
NVIDIA · CUDA
Maduro. El camino más conocido y con mejor soporte.
Linux o Windows. Funciona en prácticamente todo lo relacionado con IA local.
AMD · ROCm
En evolución. Funciona, pero verifica la compatibilidad de tu tarjeta antes.
Linux es el terreno más firme. Ollama ya funciona con varias GPU AMD.
Apple · Metal/MLX
Nativo. En Mac con chip M, simplemente funciona.
Sin controlador. MLX para quienes quieren ir más allá de Ollama en Mac.
✓ El camino con menos fricción hoy
- ✓NVIDIA + CUDA en Linux o Windows
- ✓Apple Silicon + Metal/MLX en Mac
- ✓Ollama abstrae los tres: cambias de máquina y el comando es el mismo
✗ Dónde todavía duele
- ✗ROCm exige comprobar si tu GPU AMD está en la lista de compatibilidad
- ✗Es posible que las GPU muy nuevas o muy antiguas aún no tengan soporte
- ✗Mezclar fabricantes en el mismo equipo complica la configuración
💡 Consejo práctico
No te estanques con esta elección. Si ya tienes una máquina, usa lo que tiene: Ollama (Trilha 3) detecta la GPU automáticamente en la mayoría de los casos. Si es comprar hoy, para IA local, NVIDIA en la PC o Apple Silicon en la Mac son las opciones que dan menos sorpresas.
🧹 Higiene del laboratorio
La base ya está instalada; falta la parte que nadie te cuenta: mantener el laboratorio organizado y en buen estado. Tres hábitos evitan la mayoría de los problemas futuros: organizar dónde se almacenan los modelos, versionar tus configs y vigilar la temperatura/energía.
⚠️ Alerta: calor y energía
Ejecutar un modelo grande lleva la GPU y la CPU al 100% durante varios minutos seguidos; eso se calienta y consume energía de verdad. En una laptop, el impacto es mayor: la máquina puede acelerar los ventiladores, aplicar throttling (bajar el rendimiento para protegerse) y gastar batería rápidamente.
- •No lo uses sobre una cama o un sofá que tape las salidas de aire; prefiere una superficie dura y ventilada.
- •Antes de dejar que un agente 24/7 (Ruta 4), revisa la temperatura bajo carga y el consumo de electricidad.
- •Si la máquina se apaga sola bajo carga, casi siempre es por sobrecalentamiento: limpia el polvo y mejora la ventilación.
✓ Buenas prácticas
- ✓Una carpeta dedicada para los modelos (sabes dónde está todo)
- ✓Configs y Modelfiles versionados en git
- ✓Ojo con el nvidia-smi / Monitor de actividad bajo carga
- ✓Cierra lo que no estás usando antes de cargar un modelo grande
✗ Descuido
- ✗Modelos repartidos entre Descargas, Escritorio y media docena de carpetas
- ✗Configs solo en la cabeza: formateaste y perdiste todo
- ✗Ignorar la temperatura hasta que la máquina se bloquee
- ✗Decenas de cosas compitiendo por la GPU al mismo tiempo
⌨️ Ejemplo práctico: resumen del entorno
Objetivo: un resumen rápido de tu sistema — SO, RAM y GPU — para saber con qué estás trabajando antes de elegir modelos.
Cómo verificar: guarda como resumo-do-ambiente.sh y ejecuta bash resumo-do-ambiente.sh. Deberías ver tres bloques — Sistema, RAM e GPU. Guarda esta salida: es el punto de partida para decidir el tamaño del modelo (Ruta 2.2) y abrir un ticket si algo sale mal.
Autoevaluación (opcional): ¿qué es el CUDA ¿y por qué importa en un lab Linux + NVIDIA?
📌 Resumen del módulo
Siguiente módulo:
2.4 — Red privada con Tailscale