PTENES
MÓDULO 2.7

🗣️ VLA: modelos de visión-lenguaje-acción

Un único modelo que ve, entiende la instrucción en lenguaje natural y genera la acción motora. El VLA es el «modelo fundacional» de la robótica —y desplaza la habilidad del trabajador de codificar movimiento para enseñar y supervisar el comportamiento.

6
Temas
45
Minutos
Intermedio
Nivel
Práctica
Tipo
📷 Cámaravisión 🗣️ Instrucciónlenguaje natural Modelo VLA end-to-end percepción + razonamiento + control Tokensde acción 🤖 Robot ejecuta

Diagrama ilustrativo: imágenes (visión) + instrucciones en lenguaje entran en un único modelo end-to-end, que emite tokens de acción para que el robot los ejecute.

1

🧩 Qué es un modelo VLA

VLA significa Visión-Lenguaje-Acción: un único modelo que recibe imágenes de la cámara junto con una instrucción en lenguaje natural y genera directamente las acciones motoras del robot — las llamadas tokens de acción. En lugar de tres sistemas separados (percepción, planificación y control) conectados a mano, el VLA une los tres en un modelo end-to-end.

🧠 El modelo fundacional de la robótica

Así como un LLM es un modelo fundacional para texto, el VLA busca ser el modelo fundacional para la robótica: entrenado a gran escala, generaliza a tareas que nunca ha visto (zero-shot) y transfiere conocimiento entre tareas distintas.

  • •De extremo a extremo: una sola red va de la imagen + texto hasta el comando motor, sin etapas manuales entre ellas.
  • •Tokens de acción: la acción motora se trata como una secuencia de tokens, igual que un modelo de lenguaje predice palabras.
  • •Generalización zero-shot: capacidad de ejecutar instrucciones para objetos y escenas fuera del conjunto de entrenamiento.

📊 El salto conceptual

  • 3 sistemas → 1 modelo: la percepción, el razonamiento y el control dejan de ser módulos separados.
  • Imágenes + texto → tokens de acción: la misma arquitectura que genera palabras pasa a generar movimientos.
  • Transferencia entre tareas: aprender a "agarrar" ayuda a aprender a "apilar", reutilizando la representación.

💡 Consejo práctico

Piensa en el VLA como «el ChatGPT del robot»: describes la tarea en español, este ve la escena a través de la cámara y actúa. Lo que cambia en tu trabajo es que la interfaz pasa a ser el lenguaje + ejemplos, no el código de trayectoria.

Conceptos clave

De extremo a extremo
Imagen + texto → acción
Tokens de acción
Acción como secuencia
Zero-shot
Generaliza a lo nuevo
Modelo de fundación
Base reutilizable
2

🤖 Modelos de referencia

El campo VLA tuvo un auge entre 2023 y 2025. Conocer los modelos de referencia ayuda a entender su madurez y licencia; hay mucha variación entre open-source y es cerrado, y eso define lo que puedes usar en la práctica.

1

Google RT-2 / RT-X (2023)

De la web al robot

Los primeros VLA de gran escala de Google transfieren el conocimiento aprendido en la web al control del robot y muestran que los datos de visión y lenguaje de internet mejoran la acción motora.

2

OpenVLA (2024)

~7B parámetros, de código abierto

Modelo abierto de cerca de 7 mil millones de parámetros. Al ser open source, se convirtió en una base para que la comunidad haga fine-tuning local, democratizando el acceso a las VLAs.

3

π0 — Physical Intelligence (2024)

Flow-matching

El modelo π0 (pi-zero) usa flow-matching para generar acciones continuas y fluidas, en lugar de tokens discretos, lo que mejora la destreza en tareas manuales.

4

Figure Helix (2025)

Humanoide en tiempo real

VLA de Figure funcionando en un humanoide con control en tiempo real, lo que demuestra que el enfoque ya está pasando del laboratorio al hardware comercial.

5

Google Gemini Robotics (2025)

Razonamiento + acción

Une el razonamiento de un modelo fundacional multimodal con la acción robótica, acercando el «pensar» y el «hacer» en un mismo sistema.

📊 Madurez y licencia

  • Abierto: OpenVLA (~7B) permite el fine-tuning local y la auditoría del modelo.
  • Cerrado / comercial: RT-2/RT-X, Figure Helix y Gemini Robotics quedan rezagados frente a las plataformas de los fabricantes.
  • Enfoque técnico: de tokens discretos (RT-2) a flow-matching continuo (π0) — afecta la destreza y la fluidez.

Conceptos clave

RT-2 / RT-X
Web → robot (2023)
OpenVLA
~7B de código abierto
π0
Flow-matching
Helix / Gemini
Humanoide + razonamiento
3

🗣️ Cómo opera el trabajador

Con VLA, operar un robot deja de ser programar trayectorias. El trabajador da una instrucción en lenguaje natural y, cuando el robot se equivoca, corrige mediante demostración — el «mostrar una vez». La nueva habilidad es escribir un buen prompt de tarea y seleccionar ejemplos, no escribir código clásico.

⌨️ Ejemplo ilustrativo: prompt → acción

# instrucción en lenguaje natural
> "toma la pieza roja y colócala en la caja azul"
# tokens de acción que genera el VLA (ilustrativo)
1. localizar(pieza, color=rojo) → [x,y,z]
2. mover_braco(alvo=peca) → trayectoria
3. fechar_garra(forca=baixa) → grasp
4. localizar(caixa, cor=azul) → [x,y,z]
5. mover_braco(alvo=caixa) → trayectoria
6. abrir_garra() → suelta
# sin programación clásica: lenguaje + ejemplo

Recreación ilustrativa del flujo, no la salida literal de un modelo real.

✓ Qué HACE ahora el operador

  • ✓Escribe el prompt de tarea en lenguaje natural
  • ✓Demuestra la tarea mediante teleoperación («muéstrala una vez»)
  • ✓Hace correcciones en tiempo real cuando el robot se desvía
  • ✓Curar qué ejemplos se convierten en referentes de comportamiento

✗ Qué DEJA de hacer el operador

  • ✗Programar la trayectoria punto por punto a mano
  • ✗Reescribir la lógica de bajo nivel para cada pieza nueva
  • ✗Depender solo de un ingeniero para cambiar el comportamiento
  • ✗Tratar al robot como una máquina de ingresos fijos

💡 Consejo práctico

La fundamentación del lenguaje es clave: el robot necesita vincular la palabra «roja» con el píxel correcto. Cuando se equivoca, no reescribas código; repite la demostración o ajusta el prompt. Tú enseñas, no programas.

Conceptos clave

Prompting de tareas
Instrucción en lenguaje
Teleoperación
Demostrar la tarea
Corrección en línea
Ajuste durante la acción
Fundamentación del lenguaje
Palabra → píxel/objeto
4

🎓 Capacitar y ajustar

Un VLA nace de conjuntos de datos gigantes — cómo el Open X-Embodiment — y luego es perfeccionado por fine-tuning con demostraciones locales de su operación. La persona queda en el centro del bucle (human-in-the-loop): recopila, valida y corrige. El cuello de botella no es el modelo, es el dato de calidad.

📚 Del dataset gigante al fine-tuning local

El modelo base aprende patrones amplios en conjuntos de datos como Open X-Embodiment; el ajuste fino con demostraciones de tu línea lo especializa en las piezas y estaciones reales. Aprendizaje por imitación significa que el robot copia lo que demostró una persona.

  • •Aprendizaje por imitación: el modelo aprende imitando demostraciones humanas.
  • •Data curation: elegir y depurar qué ejemplos se incluyen en el entrenamiento.
  • •Cobertura de edge cases: garantizar ejemplos de las situaciones poco frecuentes que hacen fallar al robot.

📊 El cuello de botella son los datos

  • Open X-Embodiment: conjunto de datos colaborativo que reúne demostraciones de muchos robots diferentes.
  • Ajuste fino local: pocas demostraciones buenas valen más que muchas demostraciones ruidosas.
  • Human-in-the-loop: la persona recopila y valida: es quien garantiza la calidad de los datos.

🧑‍🏫 Conexión con el puesto «AI Training Associate»

Surge un puesto dedicado: el AI Training Associate, responsable de recopilar demostraciones, depurar datos y validar el comportamiento del robot. Es el trabajo de quien alimenta y ajusta el VLA en el día a día, justo donde está el cuello de botella de los datos de calidad.

Conceptos clave

Open X-Embodiment
Dataset gigante
Aprendizaje por imitación
Aprende imitando
Data curation
Dato de calidad
Casos límite
Cubrir los casos poco frecuentes
5

⚠️ Límites y riesgos

VLA es potente, pero falible. Fuera de la distribución de entrenamiento (out-of-distribution) el modelo se equivoca y, peor aún, puede equivocarse con confianza: la llamada alucinación motora, en la que ejecuta una acción incorrecta sin dudar. Por eso, las capas de seguridad y supervisión humana siguen obligatorias.

🚫 ALERTA: el VLA no prescinde de las capas de seguridad

Un VLA seguro de sí mismo no es un VLA correcto. Cuando la escena se sale de lo que vio durante el entrenamiento, puede generar una acción peligrosa con mucha confianza —y no avisa que está equivocado. Las salvaguardas físicas y la norma siguen vigentes:

  • •Límites de fuerza y la parada de emergencia (e-stop) por hardware, independientes del modelo.
  • •Supervisión humana activa: nadie entrega la operación al modelo al 100%.
  • •ISO 10218 y el humano en el ciclo siguen siendo obligatorios, haya VLA o no.

✓ Deploy responsable de VLA

  • ✓Límites de fuerza y parada de emergencia en una capa independiente del modelo
  • ✓Supervisión humana con autoridad para detener
  • ✓Se mantiene el cumplimiento de ISO 10218
  • ✓Monitorear casos fuera de distribución y detenerse cuando haya incertidumbre

✗ Errores que terminan en accidente

  • ✗Confiar en la confianza del modelo como prueba de acierto
  • ✗Operar fuera de la distribución sin medidas de protección
  • ✗Eliminar la supervisión humana «porque el VLA es bueno»
  • ✗Tratar la norma de seguridad como opcional

💡 Consejo práctico

La pregunta correcta antes de confiar en una acción del VLA: "¿esta escena se parece a lo que entrenó?". Si no, está fuera de distribución (out-of-distribution): pide confirmación humana. La capa de seguridad física existe precisamente para el momento en que el modelo se equivoque con confianza.

Conceptos clave

Out-of-distribution
Fuera de la capacitación
Alucinación motora
Error con confianza
Capas de seguridad
Fuerza + parada de emergencia
ISO 10218
Norma obligatoria
6

🔮 Qué cambia en el trabajo

El cambio de fondo: la habilidad pasa de codificar movimiento para enseñar y supervisar el comportamiento. Surge un nuevo rol — el "robot instructor" o operador de IA física (Physical AI) — y es él quien define el currículo de recalificación de esta ruta.

✗ La habilidad que pierde valor

  • ✗Codificar trayectorias y lógica de movimiento punto a punto
  • ✗Reprogramar la máquina cada vez que cambie la pieza
  • ✗Pensar en el robot como ejecutor de una tarifa fija

✓ La habilidad que gana valor

  • ✓Enseñar comportamientos mediante el lenguaje y la demostración
  • ✓Supervisar, validar y corregir lo que hace el VLA
  • ✓Curar datos y cubrir edge cases — papel de Physical AI

🧑‍🔧 El nuevo rol: robot instructor / Physical AI

Operar IA física es una profesión emergente: menos «programador de robots» y más «maestro y supervisor de robots». El currículo de recapacitación se organiza en torno a estas competencias.

  • •Robot instructor: enseña tareas mediante prompts y demostraciones.
  • •Operador de IA física: supervisa el VLA en producción de forma segura.
  • •Currículo de reconversión: prompting, demostración, curación de datos y supervisión.

💡 Consejo práctico

Quien hoy «programa el robot» tiene el camino más corto para convertirse en robot instructor: ya entiende la tarea y la planta. Lo que le falta aprender es prompting de tareas, demostración y curación de datos, exactamente lo que ofrece esta ruta.

Conceptos clave

Robot instructor
Enseña, no codifica
Physical AI
Operador de IA física
Supervisar
Validar el comportamiento
Recapacitación
Nuevo currículo

🏁 Resumen del módulo

✓
VLA es un solo modelo - visión + lenguaje + acción de extremo a extremo; recibe una imagen + instrucción y emite tokens de acción. Modelo fundacional de robótica.
✓
Referencias 2023-2025 - RT-2/RT-X, OpenVLA (~7B abierto), π0 (flow-matching), Figure Helix y Gemini Robotics; la madurez y la licencia varían.
✓
Operar = enseñar - instrucción en lenguaje natural + corrección por demostración; el prompt de tarea es language grounding, no código.
✓
El cuello de botella son los datos - Open X-Embodiment + fine-tuning local, imitation learning y human-in-the-loop; nace el AI Training Associate.
✓
Límites reales - la distribución fuera de dominio y las alucinaciones motoras exigen límites de fuerza, e-stop, supervisión e ISO 10218 obligatoria.
✓
Nueva skill - de codificar movimientos a enseñar y supervisar; surge el instructor de robots / operador de Physical AI.

Próximo módulo: 2.8

Continuamos la Ruta de Acción con el siguiente paso práctico después de dominar los modelos VLA.