🛡️ Seguridad y normas: ISO 10218:2025
Seguridad desde el diseño y las normas que rigen la colaboración entre humanos y robots. El marco de seguridad dentro del cual debe operar cualquier VLA en producción, desde el cumplimiento legal hasta las salvaguardas técnicas.
Diagrama ilustrativo — el robot VLA opera dentro de múltiples capas de protección independientes.
📋 ISO 10218:2025: la norma de robots industriales
A ISO 10218:2025 es la norma internacional que define los requisitos de seguridad para los robots industriales y sus integraciones. La revisión de 2025 unificó las partes 1 (robot) y 2 (sistema/celda) e incorporó explícitamente la operación colaborativa: el marco legal que todo VLA en producción debe respetar.
📌 Qué cubre la norma
- Parte 1Requisitos del proyecto y seguridad de robot en sí — estructura mecánica, actuadores, funciones de parada.
- Parte 2Requisitos de la integración sistémica — célula, periféricos, interfaz humano-robot, análisis de riesgos de la instalación.
- 2025La edición alineó la norma con cobots y VLAs: la operación colaborativa continua entra explícitamente en el alcance.
✓ Sistema conforme
- ✓Funciones de parada protectora implementadas
- ✓Nivel de desempeño (PL) evaluado según ISO 13849
- ✓Análisis de riesgos documentado antes del deploy
- ✓Entorno de seguridad definido para el VLA
✗ Infracciones comunes
- ✗Despliegue sin análisis formal de riesgos
- ✗Funciones de seguridad dependientes del software VLA
- ✗Operación colaborativa sin certificación del integrador
- ✗Ignorar la Parte 2 por «solo usar el robot listo»
Conceptos clave
Métrica de confiabilidad de las funciones de seguridad (PLa–PLe), calculada según ISO 13849.
Interrupción segura y controlada del movimiento sin perder el estado del sistema.
Robot + periféricos + interfaz humano-robot como sistema completo que debe certificarse.
⚖️ ISO/TS 15066: límites de fuerza y presión
A ISO/TS 15066 complementa la ISO 10218 con un enfoque en la robótica colaborativa: define los límites biomecánicos de fuerza y presión por región del cuerpo humano, lo que garantiza que el contacto entre un robot y una persona no cause lesiones. Para un VLA que controla un cobot, estos límites restringen directamente la velocidad y la fuerza máximas de las acciones emitidas.
⚠️ Atención: los límites biomecánicos no son una sugerencia
Los valores de fuerza y presión de la TS 15066 se derivan de estudios de tolerancia al dolor y lesiones tisulares. Superarlos —incluso por fracciones de segundo— puede causar contusiones, fracturas o lesiones internas. Ningún argumento de productividad justifica operar fuera de estos límites.
📊 Se definieron cuatro modos de colaboración
💡 Implicación práctica para VLAs
Si el VLA opera en modo PFL, cada acción emitida por el modelo debe ser interceptada por un controlador de seguridad determinista que verifica la velocidad y la fuerza antes de transmitirlas al actuador. El modelo nunca debe tener acceso directo al bus de control de bajo nivel.
🏗️ Seguridad desde el diseño para VLA
La filosofía de incorporar la seguridad desde la concepción del sistema — no como un parche posterior. Para los VLAs, significa diseñar la arquitectura, el espacio de acción y los límites del modelo de modo que los comportamientos peligrosos sean estructuralmente difíciles o imposibles, independientemente de lo que el modelo "decida" hacer.
Diagrama ilustrativo — el safety controller es independiente del software VLA; una falla del modelo no elude la protección.
✓ Safety-by-design correcto
- ✓Action clamping antes de cualquier ejecución
- ✓Controlador de seguridad independiente del modelo
- ✓Estado seguro definido por hardware, no por software
- ✓Defensa en profundidad: múltiples barreras redundantes
✗ Antipatrones peligrosos
- ✗Confiar en que el modelo «aprendió a ser seguro»
- ✗Controlador de seguridad implementado en Python/ROS
- ✗Acceso directo al bus de bajo nivel
- ✗Seguridad agregada como una característica al final del proyecto
💡 Principio fundamental
Los VLA son modelos generativos probabilísticos: pueden generar acciones fuera de la distribución de entrenamiento. Ninguna evaluación de benchmark garantiza un comportamiento seguro en todos los escenarios. La seguridad desde el diseño es la única respuesta responsable ante esta imprevisibilidad estructural.
🚨 Parada de emergencia y zonas: SSM y PFL
Los mecanismos físicos y lógicos que detienen o modulan el movimiento del robot en presencia de personas. Son las salvaguardas de último recurso — funcionan independientemente de lo que el VLA haya decidido hacer y el software de IA no puede desactivarlas.
Parada de emergencia — Categorías 0 y 1
Cat. 0: corte inmediato de energía (paro más brusco). Cat. 1: desaceleración controlada antes del corte de energía. Ambas son independientes del software de control y deben poder activarse mediante hardware físico.
Monitoreo de velocidad y separación
Monitorea continuamente la distancia entre el humano y el robot mediante sensores (cámaras 3D, LiDAR). A medida que la persona se acerca, reduce la velocidad de forma proporcional. Se detiene por completo antes de cualquier contacto. Ideal para celdas sin contacto intencional.
Limitación de potencia y fuerza
Permite el contacto intencional, pero garantiza que la fuerza y la presión se mantengan dentro de los límites biomecánicos de la ISO/TS 15066. Requiere sensores de fuerza/torque en el robot y un controlador de seguridad certificado. Es el modo que permite que los cobots trabajen codo a codo con las personas.
Zonas de seguridad configurables
Zonas virtuales alrededor del robot con distintos comportamientos: zona de aviso (desacelera), zona de protección (se detiene), zona de colaboración (PFL). Se configuran en el controlador de seguridad, no en el VLA. El modelo opera dentro del perímetro; las zonas lo garantizan.
💡 Dónde termina el VLA y empieza el safety controller
VLA genera comandos de alto nivel (mover a la posición X con velocidad Y). El safety controller intercepta estos comandos, verifica que estén dentro de las zonas y los límites configurados, y solo entonces los transmite al controlador de junta. Una falla o alucinación del modelo nunca llega al actuador sin pasar por esta verificación.
🔍 Análisis y mitigación de riesgos
El proceso sistemático de identificar peligros potenciales de un sistema robótico, estimar la gravedad y probabilidad de cada uno y definir medidas para reducirlos a niveles aceptables. Es una etapa obligatoria según las normas antes de cualquier deploy — y para sistemas con VLA, debe considerar la imprevisibilidad del modelo.
Jerarquía de mitigación (orden de prioridad)
HAZOP — Hazard and Operability
Análisis estructurado que pregunta sistemáticamente: "¿qué pasa si esta variable (velocidad, posición, fuerza) es mayor/menor/cero/inversa de lo esperado?". Muy eficaz para descubrir escenarios de falla que el equipo no previó.
FMEA — Failure Mode and Effects Analysis
Tabla cada modo de falla posible (hardware, software, VLA) según su severidad, probabilidad y detectabilidad (RPN). Para cada falla, define una acción de mitigación. Obligatoria para sistemas que necesitan certificación.
⚠️ Peligros específicos de los VLA — más allá del hardware
- •Alucinación de acciones — el modelo genera un comando físicamente válido, pero semánticamente incorrecto (agarra la herramienta equivocada, va en la dirección equivocada)
- •Distribution shift — Una escena fuera de la distribución de entrenamiento lleva a comportamientos impredecibles
- •Latencia de inferencia — La VLA es demasiado lenta para reaccionar a cambios de escena en tiempo real
- •Falla silenciosa — el modelo produce resultados con alta confianza en escenarios que no sabe resolver
🔒 Guardrails, fail-safe y validación de VLAs
El conjunto de salvaguardas específicas para modelos generativos en el control físico: guardrails que filtran acciones inseguras, fail-safe behaviors que llevan al robot a un estado seguro en caso de fallo, y los procesos de verificación y validación (V&V) que demuestran que el sistema funciona antes de pasar a producción.
✓ VLA desplegable
- ✓Los guardrails validan la acción antes de ejecutarla
- ✓Fail-safe definido: detenerse y soltar la carga suavemente
- ✓El monitoreo en tiempo de ejecución detecta anomalías en producción
- ✓V&V en simulación + robot real con >1000 episodios
✗ VLA experimental (no desplegar)
- ✗Validación solo en simulación
- ✗Sin un comportamiento definido ante fallas de inferencia
- ✗Guardrails como comentario en el README, no como código
- ✗"Lo probamos en los benchmarks" como único criterio
Conceptos clave de V&V para VLAs
Observa continuamente las métricas de operación (fuerza, velocidad, trayectoria) y activa alertas o detenciones cuando se desvían del rango esperado.
Tasa de éxito y falla a gran escala (>1000 episodios), incluidos escenarios adversarios y casos límite planificados.
Estado seguro predeterminado: si falla la inferencia, bloquear las articulaciones o volver a la posición inicial. Definido por hardware, no por código Python.
Cada acción se valida contra un conjunto de restricciones antes de llegar al controlador: posición fuera del workspace, velocidad por encima del límite, fuerza por encima de TS 15066.
💡 La frontera entre lo experimental y lo desplegable
Un VLA es desplegable cuando sus guardrails, fail-safes y evidencias de V&V están documentados y alguien ajeno al equipo que desarrolló el modelo los revisa. La autovalidación no cuenta como medida de seguridad. La revisión independiente es parte del proceso —no burocracia.
✅ Resumen del módulo
Siguiente ruta
Ruta 2 — Técnico: arquitecturas, entrenamiento, fine-tuning y deploy de VLAs en profundidad.