🧠 El cerebro de todo esto: qué es un LLM (sin jerga)
Detrás de todo Jarvis hay un cerebro: el LLM. Pero ¿qué es eso, al fin y al cabo? En este módulo desmitificas el «modelo» sin usar matemáticas: entiendes cómo predice la siguiente palabra, por qué tiene poca memoria, qué son los tokens y la diferencia entre ejecutarse en la nube o en tu máquina. Al final, sabrás exactamente qué puede hacer (y qué no)
📖 Qué es un LLM
Cuando conversas con ChatGPT, Claude o Gemini, estás hablando con un LLM. La sigla viene del inglés Large Language Model — en portugués, «Modelo de Linguagem Grande». Si lo desglosamos palabra por palabra: es un programa (modelo) que maneja texto (lenguaje) y fue entrenado con una cantidad gigantesca de material (grande). Este programa es el cerebro de tu Jarvis — la parte que piensa, escribe y responde.
La idea central es casi increíblemente simple: el LLM fue entrenado para predecir la siguiente palabra. Escribes "El cielo está..." y calcula qué palabra suele venir después: "azul", "despejado", "nublado". Solo que lo hace millones de veces por segundo, palabra tras palabra, y el resultado parece razonamiento, conversación e incluso creatividad. Aprendió esos patrones leyendo prácticamente todo Internet, libros y código.
🧠 El LLM en una frase
Un LLM es un autocompletado gigante y muy bien entrenado. Es el mismo recurso que sugiere la siguiente palabra en el teclado del celular, llevado a un nivel en el que escribe textos enteros, resume documentos y responde preguntas, porque aprendió los patrones del lenguaje humano al leer una montaña de texto.
- •Large (grande): entrenado con una enorme cantidad de texto, con miles de millones de «ajustes internos».
- •Language (lenguaje): su materia prima es el texto: entra texto, sale texto.
- •Model (modelo): un programa que aprendió patrones, no un banco de respuestas memorizadas.
¿Eres nuevo aquí? LLM = "Modelo de Lenguaje Grande", el tipo de programa de IA que se ejecuta detrás de productos como ChatGPT y Claude. Modelo, en la jerga de IA, es simplemente el "cerebro" entrenado: el archivo de software que recibe texto y devuelve texto. Cada vez que leas "modelo" en este curso, piensa en "el cerebro de IA".
Conceptos clave
Modelo de lenguaje grande — el cerebro de IA que piensa en texto.
El mecanismo básico: elige, palabra por palabra, qué viene después.
Aprendió los patrones del idioma leyendo una cantidad enorme de texto.
En Jarvis, el LLM es la pieza que razona; las otras le dan manos y memoria.
🔮 Cómo «piensa»
Aquí viene la parte que más confunde a quienes están empezando: el LLM no consulta una base de datos e no hace una búsqueda en Google antes de responder. No tiene una "tabla de hechos" donde busca la respuesta correcta. Lo que hace es predicción estadística: a partir de lo que escribiste, estima cuál es la continuación más probable, según los patrones que aprendió durante el entrenamiento.
Esto explica las dos caras del LLM. Por un lado, es creativo y flexible: como no está copiando respuestas memorizadas, puede escribir un poema nuevo, adaptar un texto a su tono y combinar ideas de formas inéditas. Por otro lado, a veces se equivoca con toda la confianza del mundo — inventa un dato, cita un libro que no existe, da una fecha equivocada — y lo dice con el mismo tono seguro con el que acierta. Ese error seguro de sí mismo tiene nombre: alucinación.
📊 Predicción, no memoria fotográfica
- •No es una búsqueda: no «busca» la respuesta; la genera palabra por palabra.
- •No es una base de datos: no hay una hoja de cálculo con hechos guardada: hay patrones aprendidos.
- •Es probabilidad: "¿qué palabra suele ir aquí?" repetida miles de veces.
- •Por eso varía: la misma pregunta puede generar respuestas un poco diferentes cada vez.
⚠️ Cuidado: alucinación
Como su objetivo siempre es dar «la continuación más plausible», a veces la continuación plausible simplemente no es verdadera. Puede inventar un número de teléfono, un artículo científico o una cita, y presentar todo con tono de seguridad. Por eso, para cualquier dato importante (fecha, valor, nombre, ley), verifícalo en una fuente. En las próximas rutas, las herramientas y la memoria reducirán mucho este riesgo.
¿Eres nuevo aquí? Alucinación y es cuando el LLM responde algo que parece correcto, suena convincente, pero es falso. No es una mentira en el sentido humano: es un efecto secundario de que siempre intente predecir «lo que suele venir aquí», incluso cuando no sabe la respuesta de verdad.
Conceptos clave
Estima la continuación más probable, no consulta hechos guardados.
Error confiado: algo que suena correcto, pero es inventado.
Como no memoriza respuestas, genera texto nuevo y adaptable.
Para los datos sensibles, valida la información en una fuente confiable.
🧩 Contexto = la memoria de trabajo
Si el LLM no tiene una base de datos, ¿cómo «recuerda» lo que dijiste al inicio de la conversación? La respuesta es la contexto. Todo lo que el modelo «está viendo ahora» —tu mensaje, las respuestas anteriores de la conversación, las instrucciones que diste, un archivo que pegaste— vive en una especie de mesa de trabajo llamada ventana de contexto. Y solo de ahí obtiene información al responder.
La mejor analogía es la RAM de la computadora: es la memoria a corto plazo, rápida, pero limitada. Todo lo que está en la ventana, el modelo lo ve con claridad. Lo que sale de ella (porque la conversación se hizo demasiado larga o porque cerraste y volviste a abrir) simplemente desaparece — cómo borrar la pizarra. Por eso ChatGPT «te olvida» entre una conversación y otra: cada conversación nueva empieza con la mesa vacía.
En el centro, el LLM y el cerebro. Encima, la ventana de contexto es la memoria de trabajo (como la RAM): rápida, pero limitada. Esta metáfora — LLM en el centro, contexto como RAM, herramientas como periféricos — guía todo el curso y vuelve con fuerza en el módulo 1-3.
¿Eres nuevo aquí? Ventana de contexto y es el "campo de visión" del modelo: todo lo que puede tener en cuenta ahora. RAM es la memoria de corto plazo de la computadora, que se vacía al apagarla. La ventana de contexto es exactamente eso para el LLM — y por eso la memoria duradera (que veremos en la Trilha 3) debe construirse por fuera, en archivos.
Conceptos clave
Todo lo que el modelo está "viendo ahora": conversación + instrucciones + archivos.
El espacio limitado donde cabe este contexto.
Memoria de trabajo: rápida, limitada, se vacía al cerrar.
Cada conversación nueva empieza con la mesa de trabajo vacía.
🔤 Tokens: la moneda del modelo
El LLM no lee “palabras” como tú. Divide el texto en pedacitos llamados tokens. Un token puede ser una palabra entera ("gato"), un fragmento de palabra ("increíb" + "le"), o incluso solo un signo de puntuación. Una regla práctica útil: en portugués, cada token equivale más o menos a 4 caracteres, y 100 palabras equivalen a unos 130 a 150 tokens. Toda la lectura y escritura del modelo ocurre en tokens.
¿Por qué esto te importa? Por dos motivos muy prácticos. Primero: la ventana de contexto se mide en tokens — cuando alguien dice «este modelo tiene un contexto de 128 mil tokens», se refiere al tamaño de la mesa de trabajo. Segundo: en la nube, de pago por token — tanto por los que entran (tu pregunta + el contexto) como por los que salen (la respuesta). El token es, literalmente, la moneda del LLM.
La frase se convierte en 6 tokens. Fíjate que «increíble» se divide en dos (incri + vel) e incluso "!" es un token. Es en esta unidad donde el modelo lee, escribe, mide el contexto y —en la nube— cobra.
📊 Números que ayudan a hacerse una idea
- •~4 caracteres = 1 token (en portugués, más o menos).
- •100 palabras ≈ 130 a 150 tokens.
- •1 página de libro ≈ 400 a 600 tokens.
- •Contexto de 128 mil tokens ≈ un libro entero de ~300 páginas que cabe en la «mesa».
💡 Consejo práctico
Las conversaciones largas cuestan más y llenan la ventana más rápido, porque el modelo vuelve a procesarlo todo con cada respuesta. Para tareas independientes, abre una conversación nueva hace que Jarvis sea más rápido, más barato y menos propenso a confundirse con temas antiguos. «Limpiar la mesa» es una buena práctica, no un desperdicio.
Conceptos clave
El fragmento de texto que el modelo lee y escribe (palabra, fragmento o signo).
El tamaño de la ventana se mide en tokens, no en palabras.
En la nube, se paga por los tokens de entrada y de salida.
~4 caracteres por token; 100 palabras ≈ 130-150 tokens.
☁️ Modelo local vs. nube
Un LLM necesita funcionar en algún lugar, y hay dos opciones. En la nube, el modelo vive en el servidor de una empresa (Claude de Anthropic, GPT de OpenAI, Gemini de Google) y tú conversas con él por internet. En local, el modelo se ejecuta en la tu propia máquina — por lo general, mediante un programa llamado Ollama, que descarga y ejecuta modelos abiertos gratis. Ambos cumplen la misma función: ser el cerebro. Cambian el lugar, el costo y la privacidad.
✓ Nube (Claude, GPT, Gemini)
- ✓Los modelos más potentes del mundo, siempre listos.
- ✓No requiere hardware potente: funciona incluso en el celular.
- ✓Cero instalación: solo tienes que abrir y usar.
- ✗Pagas por token y tus datos salen de la máquina.
✓ Local (Ollama en tu máquina)
- ✓Gratis después de descargarlo: $0 por token, sin medidor.
- ✓Privado: nada sale de tu computadora; funciona sin conexión.
- ✓Tú eres el dueño del cerebro — sin depender de nadie.
- ✗Requiere hardware (RAM/GPU) y los modelos más pequeños son más débiles.
La elección no es «uno es mejor que el otro» — es cuál es mejor para esta tarea. Un modelo local económico resuelve un resumen sencillo sin costo ni filtraciones. Un modelo potente en la nube destaca en una tarea difícil que exige el máximo razonamiento. Lo mejor de todo: tu Jarvis podrá cambiar de cerebro según el caso, algo que la Trilha 3 (módulo «Cerebros») muestra en detalle.
¿Eres nuevo aquí? Ollama y un programa gratuito que instala y ejecuta LLMs en tu propia máquina con un comando sencillo. Es la forma más común de tener un «cerebro local». Oirás hablar mucho de él en las rutas prácticas; por ahora, recuerda: Ollama = ejecutar el LLM en casa, gratis.
Conceptos clave
El modelo se ejecuta en el servidor de la empresa; es potente, pero pagas por uso.
El modelo se ejecuta en tu máquina; es gratis y privado, pero requiere hardware.
El programa que descarga y ejecuta LLM abiertos localmente.
Usar localmente o en la nube según la tarea: decisión para cada respuesta.
🚧 Límites y cómo sortearlos
Ahora que entiendes cómo funciona el LLM, puedes ver con claridad tres límites de fábrica y, mejor aún, cómo se sortea cada uno. La buena noticia: ninguno de estos límites es un impedimento. Son precisamente la razón por la que un Jarvis tiene herramientas y memoria por encima del modelo. El LLM por sí solo es solo el cerebro; lo demás aporta lo que falta.
Alucina
Límite: inventa hechos con confianza. Alternativa: darle herramientas (búsqueda web, lectura de archivos) para que consulte la realidad en vez de adivinar.
No sabe lo que es nuevo
Límite: su conocimiento llega hasta la fecha en que fue entrenado (no sabe la noticia de ayer). Alternativa: las herramientas de búsqueda traen información actual al contexto.
Se olvida fuera del contexto
Límite: lo que sale de la ventana desaparece. Alternativa: memoria persistente en archivos y búsqueda — así Jarvis «recuerda» entre conversaciones.
🧩 El cerebro no trabaja solo
Fíjate en el patrón: todo límite del LLM «puro» se resuelve agregando algo alrededor de él. Las herramientas resuelven las alucinaciones y la actualidad; la memoria resuelve el olvido. Precisamente por eso, un Jarvis es más de un LLM — es el LLM más las capas que lo hacen útil en el mundo real.
En el módulo 1-3 ves el salto de «chatbot que responde» a «agente que actúa», y en la Ruta 3 (Anatomía) cada una de estas capas se convierte en un capítulo propio.
Autoevaluación (opcional): ¿qué frase describe mejor qué es un LLM?
Conceptos clave
El conocimiento del modelo llega hasta la fecha en que fue entrenado.
La búsqueda y la lectura combaten las alucinaciones y la desactualización.
Los archivos + la búsqueda le dan a Jarvis memoria entre conversaciones.
Un Jarvis es el cerebro más las capas que lo hacen útil.
🎯 Resumen del módulo
Siguiente módulo:
Módulo 1-3 — De chatbot a agente: cuando la IA empieza a actuar