❓ ¿Qué es la auto-mejora recursiva (RSI)?
En el centro de la alerta hay una frase del cofundador de Anthropic, Jack Clark: «Claude 10 construye Claude 11». Es la imagen de una IA que ayuda a diseñar otra mejor, que a su vez ayuda a diseñar la siguiente, cada vez más rápido. Eso es auto-mejora recursiva, o RSI. No es magia ni ficción: es un proceso de ingeniería que se retroalimenta.
🧭 ¿Es la primera vez? Dos términos sin jerga
- RSI (auto-mejora recursiva): auto-mejora recursiva. «Recursivo» significa que algo se aplica a sí mismo. Aquí, la IA se usa para mejorar la propia IA, y el resultado se convierte en la herramienta de la siguiente ronda.
- Modelo de frontera: los modelos de IA más avanzados del momento, creados por los principales laboratorios (Anthropic, OpenAI, Google DeepMind). Son los protagonistas de este debate.
🔁 La definición en una línea
El RSI ocurre cuando la IA deja de ser solo el producto de la investigación y también pasa a ser parte del motor que impulsa la investigación. Si cada modelo ayuda a construir el siguiente, el progreso deja de depender únicamente de la rapidez con que piensan las personas.
🧭 El cuello de botella que se desplaza
Todo proceso tiene un cuello de botella —el punto más lento, que limita el ritmo del conjunto. Hoy, en la investigación de IA, el cuello de botella es humano: la rapidez con que las personas conciben ideas, escriben código, hacen experimentos e interpretan resultados. El RSI cambia dónde está ese cuello de botella.
La investigación no desaparece: cambia cuál es el eslabón más lento. Cuando las personas dejan de ser el cuello de botella, «cuántos chips y cuánta energía tienes» empieza a determinar la velocidad (tema de la Ruta 3).
🔎 Por qué importa
Mientras las personas son el cuello de botella, contratar más investigadores acelera el progreso. Cuando el límite pasa al cómputo y la autonomía, cambia la carrera: avanzan más rápido quienes tienen más centros de datos y están dispuestos a dar más libertad a los sistemas. Por eso la infraestructura se vuelve protagonista de la alerta.
📈 Auto-mejora soft frente a hard
Demis Hassabis (Google DeepMind) hace una distinción clave para leer la alerta sin exagerar: estamos en una etapa de «soft» (gradual), no «hard» (hard). Soft significa que la IA hace mucho más productivos a los ingenieros. Hard sería un modelo que «desaparece en el centro de datos» y vuelve superinteligente por sí solo. Hoy estamos en la fase soft.
🧭 ¿Es la primera vez? Un término
Superinteligencia (ASI): una IA que superaría ampliamente a las mejores personas en casi todo. Es un escenario hipotético, no algo que exista hoy. La «auto-mejora hard» es la ruta imaginada para llegar allí rápidamente, y es precisamente la parte especulativa de la alerta.
El peldaño «hard» aparece con línea discontinua a propósito: es un escenario imaginado, no un hecho observado. Confundirlos es la principal fuente de pánico mal calibrado.
Soft (observable hoy)
- •La IA acelera el trabajo de ingenieros reales.
- •Las personas siguen dirigiendo cada paso importante.
- •La mejora está en la productividad, no en la autonomía total.
Hard (escenario especulativo)
- •Un modelo se rediseñaría sin intervención humana.
- •Saltos rápidos y difíciles de predecir o detener.
- •Nadie lo ha demostrado: es la parte que debe tratarse con escepticismo.
🎲 La estimación de Clark (~60 % para 2028)
Jack Clark dio una cifra: alrededor de un 60 % de probabilidad de alguna forma significativa de auto-mejora recursiva antes de fines de 2028 (según el video; pendiente de verificar). Asignar una probabilidad a una idea es una forma honesta de decir «creo que es probable, pero no estoy seguro». El error es leerla como una fecha fijada. Es la estimación calibrada de una una persona, no un consenso del campo.
🎯 Qué significa «60 %» (y qué no significa)
Una probabilidad subjetiva expresa un grado de confianza, no una cuenta regresiva. «60 % para 2028» significa que, según él, es más probable que ocurra a que no ocurra, pero hay mucho margen de error. No significa «ocurrirá en 2028» ni «ya está decidido».
✅ Sólido
- ✓El RSI es un tema central y explícito para Clark, Hassabis y Hinton.
- ✓Usar probabilidades para expresar incertidumbre es una práctica legítima.
- ✓La tendencia (la IA acelera su propia investigación) es real y observable.
⚠️ Pendiente de verificar / hype
- !La cifra «60 % para 2028» es la estimación de una persona, no un consenso.
- !Tratar la fecha como segura es retórica, no evidencia.
- !«Confirmado / es real» es el encuadre del canal: consulta la fuente primaria.
Copia y pega: pide a un chatbot que separe hechos de estimaciones
Objetivo: ver cómo un modelo distingue el consenso de la especulación sobre el plazo de 2028. Pega el prompt en cualquier chatbot (Claude, ChatGPT, Gemini).
Explica la auto-mejora recursiva como si tuviera 15 años y luego dame 3 razones a favor y 3 en contra del plazo de 2028. Marca cada punto entre corchetes como [consenso] o [especulación].
Cómo comprobarlo: Una buena respuesta marca la mayoría de las afirmaciones sobre «2028» como [especulación] y deja como [consenso] solo la tendencia general (la IA ya acelera la investigación). Si afirma que la fecha es segura, falla la prueba de honestidad: justo lo que este curso te enseña a detectar.
🧬 RSI ≠ singularidad ≠ conciencia
Se confunden constantemente tres términos, lo que genera tanto pánico como escepticismo equivocados. El RSI no es «la singularidad», y ninguno de los dos requiere conciencia. El RSI es un cambio del cuello de botella en un proceso de ingeniería. Nada más.
🧭 ¿Es la primera vez? Tres términos para no confundir
- Singularidad: un punto hipotético en que el progreso de la IA se acelera tanto que se vuelve impredecible. Es una idea futurista, no un hecho medido.
- AGI: inteligencia artificial general: una IA capaz de realizar bien la mayoría de las tareas cognitivas humanas. ASI (superinteligencia) es el siguiente peldaño: superaría ampliamente a las personas.
- Conciencia: tener una experiencia subjetiva. El RSI no depende de esto: un sistema puede optimizar código sin «sentir» nada.
✓ Lo que SÍ es el RSI
- ✓Un proceso de ingeniería que se retroalimenta.
- ✓Un cambio en quién es el factor más lento.
- ✓Algo medible mediante indicadores indirectos (velocidad, horizonte de tareas).
✗ Lo que NO es el RSI
- ✗Un robot consciente que «despierta».
- ✗La singularidad garantizada para una fecha concreta.
- ✗Algo que ya haya demostrado pasar de la fase «soft».
🚨 Por qué es una alerta, no motivo de pánico
El curso se llama «Alerta», no «Apocalipsis». La maquinaria inicial es visible, se están planteando fechas y los laboratorios dependen cada vez más de sus propios modelos. Esto justifica atención informada —no pánico, pero tampoco la certeza de que no ocurrirá nada.
💡 La postura del curso
Ante cada afirmación contundente, hazte dos preguntas: «¿Es una categoría sólida o una cifra de un solo artículo?» y «¿Quién habla y qué interés tiene?». Mantener presentes ambas preguntas permite abordar el tema sin alarmarse innecesariamente ni ignorar lo importante.
El mapa del curso a partir de aquí
🔁 Fundamentos
El ciclo y por qué empieza por el código.
📊 La evidencia
La curva de METR y MirrorCode: las cifras reales.
🛡️ Seguridad y 2028
Cuando falla la medición, la carrera y los escenarios.
Autoevaluación opcional: ¿cuál es la mejor descripción del RSI según este módulo?
🎯 Resumen del módulo
Próximo módulo:
1.2 — Por qué empieza por el código: el ciclo que se cierra en segundos y los agentes que lo cierran.