PTENES
MÓDULO 2.1

🧠 Supervisión de Sistemas Autónomos: Enseñar el Juicio

Competencias técnicas y cognitivas para supervisar robots autónomos con criterio crítico, no con obediencia ciega. El supervisor moderno no pulsa botones: interpreta señales, calibra la confianza y decide cuándo intervenir.

6
Temas
50
Minutos
Intermedio
Nivel
Práctica
Tipo

Supervisar un sistema autónomo no es vigilar una pantalla hasta que algo salga mal. Es mantener un bucle de juicio activo: leer excepciones, decidir si la situación requiere intervención y actuar antes de que el problema escale. Este módulo desglosa las competencias técnicas y cognitivas que separan a un supervisor que reacciona con pánico de uno que decide con base en datos.

Supervisor juicio humano robot 1 robot 2 robot 3 (excepción) robot N ¿Excepción? juzgar intervenir liberar

Diagrama ilustrativo: el supervisor monitorea N sistemas; una excepción (robot 3) pasa al ciclo de juicio, que decide si interviene o libera.

1

📊 Competencias técnicas

La competencia técnica es el conjunto de habilidades para interpretar datos en tiempo real de sistemas robóticos: paneles de telemetría, lectura de patrones de fallas y comprensión del rango operativo de la máquina. Sin ella, el supervisor reacciona a las alarmas sin entender la causa raíz.

🔧 Qué monitoreas

La capa técnica está en los datos sin procesar que emite la máquina. Saber leerlos es el primer filtro antes de cualquier evaluación.

  • •Telemetría de torque y temperatura — señales tempranas de desgaste mecánico.
  • •Dashboards SCADA/HMI — la interfaz hombre-máquina estándar de la planta de producción.
  • •Reconocimiento de desviación normal vs. anomalía — no toda variación es un problema.
  • •Sobre operativo — carga máxima, velocidad y alcance dentro de los cuales la máquina es segura.

📈 Datos de investigación

  • USD 50k/hora - costo de la producción perdida al detener la línea. La diferencia entre detenerla por una precaución informada y hacerlo por pánico.

💡 Consejo práctico

Antes de cada turno, toma una lectura de referencia: anota los valores normales de torque y temperatura con la línea estable. Una anomalía solo tiene sentido frente a un valor normal conocido. Sin una referencia, todos los números parecen iguales.

Telemetría

Torque y temperatura en tiempo real.

SCADA/HMI

Dashboards de la planta de producción.

Anomalía

Desviación normal vs. falla real.

Sobre

Carga, velocidad, alcance.

2

🎯 Competencias cognitivas

La competencia cognitiva comprende las habilidades mentales para supervisar sistemas autónomos: calibrar la confianza en el robot, mantener la conciencia situacional durante la monotonía y tolerar la ambigüedad cuando el sistema está en una zona gris. La complacencia con la automatización mata: cuando todo funciona el 99,9% del tiempo, el cerebro humano se desconecta durante el 0,1% crítico.

🧩 Concepto principal: calibración de la confianza

Calibrar la confianza (Lee & See, 2004) es ajustar cuánto confías en el robot a cuánto lo merece: ni a ciegas ni con paranoia. Ambos extremos son peligrosos:

  • •Falta de confianza: ignora la automatización, vuelve a hacer todo a mano y pierde la ventaja del sistema.
  • •Exceso de confianza: asume que el robot nunca se equivoca y deja de supervisar: la puerta de entrada a la complacencia.

💡 Consejo práctico

Practica la monotonía activa: en vez de solo observar, verbaliza cada 10 minutos el estado de cada sistema. Hablar en voz alta fuerza la conciencia situacional (modelo de Endsley) y rompe el piloto automático mental que instala la monotonía pasiva.

Trust calibration

Lee & See, 2004.

Conciencia situacional

Modelo de Endsley.

Tolerar la ambigüedad

Decidir en la zona gris.

Monotonía activa

Atención sostenida vs. pasiva.

3

🚨 Protocolos de Escalamiento

Protocolo de escalamiento y árbol de decisiones claro: qué resuelve el supervisor por su cuenta, qué escala al ingeniero de mantenimiento y qué exige parada inmediata de producción. Escalar demasiado paraliza la operación; escalar demasiado poco causa accidentes.

🟢

Nivel verde — lo resuelve por su cuenta

Desviación dentro del sobre operativo

Ajustes de rutina, reinicio de alarmas no críticas y registro en el log. El supervisor actúa sin interrumpir la producción.

🟡

Nivel amarillo — escalar a un ingeniero

Anomalía recurrente o fuera de la línea de base

Ejecuta la lista de verificación previa a la escalación, documenta el patrón y activa mantenimiento con un tiempo de respuesta definido. La producción continúa bajo observación.

🔴

Nivel rojo — detener de inmediato

Riesgo para las personas o límites excedidos

Autoridad para detener la línea sin pedir permiso. Seguridad por encima de la productividad, siempre.

💡 Consejo práctico

Define el tiempo de respuesta por nivel ANTES del incidente. En el calor del momento nadie decide bien. Verde: minutos. Amarillo: plazo de mantenimiento acordado. Rojo: inmediato, sin dudarlo.

Niveles de alerta

Verde / amarillo / rojo.

Tiempo de respuesta

Definido por nivel.

Lista de verificación

Preescalamiento estandarizado.

Autoridad para detener

Quién puede detener la línea.

4

⚠️ Riesgo #1: Automation Complacency

La complacencia con la automatización es un fenómeno documentado en el que los operadores confían demasiado en la automatización, dejan de supervisar activamente y pierden la capacidad de intervenir cuando falla el sistema. El patrón se repite desde la aviación hasta la planta de producción.

⚠️ Atención: el patrón que se repite

Casos reales — Air France 447, Tesla Autopilot, Uber ATG — todos implicaron un exceso de confianza humana en sistemas autónomos. La misma dinámica ocurre en las fábricas, solo que sin aparecer en los titulares.

✓ Qué HACER

  • ✓Mantener la supervisión activa incluso cuando todo funciona.
  • ✓Practicar la intervención periódicamente para no perder la habilidad.
  • ✓Rotar las tareas para combatir la fatiga por alertas.
  • ✓Tratar el 0,1% crítico como la razón por la que estás ahí.

✗ Qué NO hacer

  • ✗Asumir que "siempre ha funcionado" significa que seguirá funcionando.
  • ✗Ignorar las alarmas repetidas hasta que se conviertan en ruido (fatiga de alarmas).
  • ✗Salir del ciclo hasta el punto de ya no entender qué hace la máquina.
  • ✗Dejar que la habilidad manual se deteriore por no practicarla nunca.

📖 Concepto: las ironías de la automatización

Bainbridge (1983) mostró la paradoja: cuanto más automatizado está el sistema, más crítico —y más infrecuente— se vuelve el papel humano. Se llama al operador precisamente cuando falla la automatización, es decir, en el peor momento y cuando sus habilidades ya se han deteriorado. Combatir esto es el trabajo.

Ironías de la automatización

Bainbridge, 1983.

Out-of-the-loop

Pérdida de familiaridad.

Degradación de habilidades

Habilidad que se oxida.

Alarma de fatiga

La alerta se vuelve ruido.

5

📐 Framework OHRCS

O OHRCS (MERL Research, 2024) es un marco sistemático para mapear competencias humanas en contextos de colaboración con robots. Son cinco dominios: Operacional, Centrado en las personas, Relacional, Cognitivo y Sistémico. Ofrece un lenguaje estandarizado para diseñar currículos de capacitación.

📈 Datos de investigación

  • 40% - reducción del tiempo de onboarding en empresas que usan marcos estructurados de competencias.
O — Operacional

Operar y ajustar la máquina dentro de su rango operativo.

H — Centrado en las personas

Seguridad y bienestar de las personas en las inmediaciones.

R — Relacional

Coordinación con el equipo y con el robot.

C — Cognitivo

Juicio, atención y toma de decisiones.

S — Sistémico

Visión del proceso y sus interdependencias.

+ Integración

Se alinea con ISO 10218 y la certificación corporativa.

💡 Consejo práctico

Usa los cinco dominios como lista de verificación de brechas: para cada función (operador, supervisor, ingeniero), marca en qué aspectos el equipo es fuerte y en cuáles es vulnerable. El mapeo de brechas transforma un programa de capacitación vago en un plan concreto.

5 dominios

O-H-R-C-S.

Mapeo de brechas

Fortaleza frente a vulnerabilidad.

ISO 10218

Integración normativa.

Certificación

Programas corporativos.

6

🔬 Competencias esenciales de NSF

El mapeo de la Fundación Nacional de Ciencias define las competencias esenciales para la colaboración entre humanos y robots en cuatro pilares: técnico, social, adaptativo y ético. Como la NSF influye en los planes de estudio universitarios y en el financiamiento, conocer este mapa permite anticipar lo que exigirán las futuras certificaciones.

🏛️ Los 4 pilares de NSF

  • •Técnico: operar, interpretar y mantener sistemas robóticos.
  • •Social: colaborar con el equipo y comunicar el estado del sistema.
  • •Adaptativo: aprender y ajustar a medida que evoluciona la tecnología.
  • •Ético: responsabilidad, seguridad e impacto de las decisiones.

✓ Qué HACER

  • ✓Alinear la capacitación con los 4 pilares y el estándar ABET.
  • ✓Hacer un análisis de brechas por función: operador, supervisor, ingeniero.
  • ✓Anticipar los requisitos de certificación observando hacia dónde apunta NSF.

✗ Qué NO hacer

  • ✗Capacitar solo en la parte técnica e ignorar los aspectos sociales, adaptativos y éticos.
  • ✗Usar el mismo plan de estudios para funciones con brechas diferentes.
  • ✗Tratar la certificación como un costo y no como una anticipación a un requisito.
4 pilares NSF

Técnico, social, adaptativo, ético.

Alineación ABET

Estándar de ingeniería.

Análisis de brechas

Por función.

HRC

Colaboración humano-robot.

🎓 Resumen del módulo

✓
Competencia técnica - leer la telemetría, SCADA/HMI y el sobre operativo antes de juzgar.
✓
Competencia cognitiva - calibrar la confianza y mantener la conciencia situacional en condiciones monótonas.
✓
Protocolos de escalamiento - verde/amarillo/rojo con tiempo de respuesta definido.
✓
Complacencia con la automatización - el exceso de confianza que saca al humano del circuito en el peor momento.
✓
Framework OHRCS - 5 dominios para mapear brechas y diseñar planes de estudio.
✓
Competencias esenciales de la NSF - 4 pilares que anticipan futuras certificaciones.

Próximo módulo:

2.2 - Protocolos de seguridad entre humanos y robots