🛠️ Hardware & Lab
Es hora de preparar el terreno. Conoce las categorías de hardware para IA, descubre qué funciona en tu equipo, prepara el sistema operativo y los drivers, y conecta todo en una red privada con Tailscale para usar tus modelos desde cualquier lugar.
Mapa de la ruta
Contenido detallado
🧩 Las categorías de hardware
El mapa del hardware de IA: memoria unificada, VRAM y ancho de banda — y en qué categoría encaja tu máquina.
La memoria unificada (Apple) combina RAM y VRAM en un solo pool: permite alojar un modelo enorme, pero el menor ancho de banda lo vuelve lento. La VRAM dedicada (NVIDIA) tiene menos memoria, pero un ancho de banda altísimo y más velocidad.
Ese trade-off lo decide todo: tamaño del modelo frente a velocidad.
Memoria unificada, VRAM, ancho de banda.
Mac Studio/Mac con mucha memoria unificada (ej.: 512 GB) ejecuta modelos de más de 200 GB, pero lentamente.
Ideal para modelos enormes; mala opción cuando necesitas velocidad.
Apple Silicon, memoria unificada, modelos grandes.
NVIDIA DGX Spark (~128 GB) y AMD Ryzen AI Max "Strix Halo": memoria y ancho de banda medianos.
Buen equilibrio entre tamaño y velocidad; el SO suele ser Linux.
DGX Spark, Strix Halo, equilibrio.
RTX 5090 (~32 GB, muy rápida) y RTX 6000 Pro (~96 GB, cara). Rápida hasta donde alcanza la VRAM.
Es la opción cuando la velocidad es la prioridad.
RTX 5090, RTX 6000 Pro, VRAM dedicada.
Mac mini, laptops y PC por menos de $4k ejecutan modelos pequeños (Gemma, Phi, Qwen pequeños), embeddings y clasificación.
Aun así, ofrece mucho valor, y es por donde casi todos empiezan.
Modelos pequeños, embeddings, bajo costo.
macOS (usabilidad), Linux (workstations) y Windows (GPUs gamer), cada uno con pros y contras.
El SO influye en los drivers, los runtimes y las complicaciones del día a día.
macOS, Linux, Windows.
🎯 Cómo elegir: qué cabe en tu máquina
Del caso de uso al cálculo de memoria: descubre cuál es el modelo más grande que tu máquina puede soportar y a qué velocidad.
Empieza por el caso de uso (chat, código, RAG), no por el hardware.
El caso de uso define el tamaño del modelo — y, a partir de ahí, el hardware necesario.
Caso de uso, rango del modelo, requisito.
GB ≈ (parámetros en B) × (bytes por peso de la cuantización) + sobrecarga de contexto. Tabla 7B/13B/34B/70B × Q4/Q8/FP16.
Estimar antes de descargar evita el frustrante «no cupo».
Parámetros, bytes por peso, sobrecarga.
Cada perfil de hardware habilita un rango de modelos diferente.
Conocer tu límite evita que compres o descargues lo equivocado.
VRAM, RAM, unificada.
tokens/s = qué tan rápido sale el texto; aquí domina el ancho de banda de memoria.
Define qué resulta cómodo para chat y qué para procesamiento por lotes.
tokens/s, latencia, ancho de banda.
Laptop + Ollama + modelo 3-8B Q4 ya funciona hoy, gratis.
Elimina la excusa de «necesito comprar antes de empezar».
Costo cero, modelo pequeño, Q4.
Prioriza la memoria; usa una GPU dedicada cuando la velocidad importe; varias máquinas después (Tailscale, módulo 2.4).
Invertir en el orden correcto rinde mucho más por cada real.
Prioridad, GPU dedicada, varias máquinas.
🧰 Sistema operativo, controladores y base
Deja todo listo: sistema operativo, controladores y la capa que permite ejecutar IA en la GPU, en macOS, Linux y Windows.
Todo laboratorio necesita un SO actualizado, espacio en disco y una terminal a mano.
Una base sólida evita el 90% de los problemas que vienen después.
Actualización, espacio en disco, terminal.
Apple Silicon usa Metal/MLX, sin controlador adicional; basta con instalar Homebrew.
Es el camino más corto para tener un laboratorio funcionando en Mac.
Metal, MLX, Homebrew.
CUDA es la capa que permite que la GPU NVIDIA ejecute IA; instala el controlador y comprueba con nvidia-smi.
Es la configuración más común en estaciones de trabajo y servidores.
CUDA, controlador NVIDIA, nvidia-smi.
Controlador GeForce + la opción de WSL2 para un entorno Linux dentro de Windows.
Aprovecha la GPU para juegos sin cambiar de sistema operativo.
GeForce, WSL2, entorno Linux.
Las alternativas a CUDA y lo que realmente funciona en este momento.
Para decidir con realismo si tu GPU AMD sirve para el laboratorio.
ROCm, MLX, alternativas.
Organizar carpetas de modelos, versionar configs y monitorear temperatura/energía.
Un laboratorio ordenado escala; uno desordenado te deja bloqueado en el peor momento.
Organización, versionar, monitorear.
🔗 Red privada con Tailscale
Accede a tus modelos desde cualquier lugar de forma segura: una red privada que conecta tus máquinas como si estuvieran en la misma LAN.
Tus máquinas están en casa, tú estás fuera y abrir puertos en Internet es arriesgado.
Es exactamente el problema que Tailscale resuelve.
Acceso remoto, sin abrir puertos ni riesgos.
VPN mesh punto a punto sobre WireGuard; crea una red privada entre tus dispositivos como si estuvieran en la misma LAN.
Es la pieza que conecta todo el laboratorio en un solo lugar.
VPN mesh, WireGuard, tailnet.
Se instala mediante un script (curl ... | sh) e inicia sesión con sudo tailscale up; confirma con tailscale ip -4.
La configuración es rápida e idéntica en todas las máquinas.
Instalación, inicio de sesión, IP de Tailscale.
Expón Ollama en la tailnet (OLLAMA_HOST=0.0.0.0) y llámalo desde otro dispositivo por la IP 100.x.
Así es como otra máquina empieza a usar tu modelo.
OLLAMA_HOST, IP 100.x, tailnet.
App de Tailscale en el teléfono → usar el modelo de casa desde cualquier lugar del mundo.
Es el caso de uso que permite una movilidad real.
App móvil, acceso remoto, movilidad.
Principio de mínimo privilegio, MagicDNS y ACL básicas; nunca lo expongas a la internet pública.
Mantiene la red privada realmente privada.
ACLs, MagicDNS, mínimo privilegio.