De “Human in the loop” al “Expert in the loop” -

Dedicado a las familias que perdieron seres queridos en España, derivado del reciente accidente ferroviario.

Advertencia: Al día de hoy no se ha emitido un reporte final del peritaje sobre las causas del accidente, sin embargo, propongo este análisis para mejorar todo tipo de Sistemas de Actividad Humana, en los que inevitablemente se combina la co-existencia e interacción entre humanos y sistemas tecnológicos de diversos tipos.

Desde una perspectiva quizá INNusual para algunos lectores, conviene analizar esta tragedia a la luz del pensamiento sistémico. Retomando los criterios de evaluación de sistemas del Dr. Peter Checkland (Universidad de Lancaster),podemos examinar el desempeño no solo a través de la tríada tradicional —Eficiencia, Eficacia y Efectividad—, sino incorporando dos dimensiones habitualmente relegadas en las organizaciones: la Ética y la Elegancia.

1. Efectividad: ¿El sistema logra sus metas a largo plazo?

La efectividad responde al por qué y para qué existe un sistema. Se alinea con las metas de orden superior planteadas por el Dr. Don Beck: un esquema de triple ganar (ganas tú, gano yo y gana un propósito mayor). Para la red ferroviaria española —una de las más extensas del mundo—, su efectividad radica en garantizar una conectividad segura y sustentable a largo plazo, honrando ese bien común por encima de otras prioridades

2. Eficacia: ¿Cumple el sistema con su función primaria?

Si la misión fundamental de un transporte de pasajeros es trasladar personas del punto A al punto B con integridad física absoluta, la eficacia exige priorizar la vida sobre la velocidad. El viejo adagio de «más vale tarde que nunca» define aquí la jerarquía técnica: llegar a salvo es innegociable; llegar a tiempo es secundario.

3. Eficiencia: ¿Cumple su función minimizando el uso de recursos?

La premisa de «hacer más con menos» rige la ingeniería tradicional. Sin embargo, existe una trampa recurrente: confundir optimización con productividad ciega. Cuando la eficiencia se malinterpreta y las decisiones operativas se toman bajo presión para sostener indicadores de costo o tiempo, el sistema se torna frágil. Como hipótesis, este siniestro parece evidenciar cómo la obsesión por la eficiencia compromete la integridad del conjunto.

4. Ética: ¿Se alinea el sistema con los principios del supra-sistema?

Su omisión sistemática detona negligencia, corrupción e incompetencia. En la gestión ferroviaria, la jerarquía de toma de decisiones debe anteponer los valores éticos a cualquier métrica de rendimiento, para el sistema en España son estos:

• Seguridad Absoluta: Principio supremo no negociable. Frente a fallos técnicos o humanos a velocidades de hasta 300 km/h, las tecnologías de información deben detener o restringir el tren de inmediato.

• Eficiencia y Capacidad: Optimización de surcos ferroviarios sin incurrir en saturación crítica.

• Puntualidad y Regularidad: Cumplimiento de itinerarios mediante contingencias ágiles, sin comprometer la seguridad.

• Interoperabilidad: Estandarización bajo normativas europeas para garantizar operaciones homogéneas.

• Acceso y No Discriminación: Neutralidad operativa entre competidores

En este caso -aparentemente- la seguridad se perdió de vista

5. Elegancia: ¿Opera el sistema de manera estética y armónica?

La elegancia no es superficialidad ni gasto superfluo; con el mismo presupuesto, un diseño ambiental consciente transforma la experiencia humana y moldea conductas. No obstante, la estética jamás debe desligarse de la ergonomía y la protección física. Diseñar interiores visualmente atractivos pero omitir cinturones de seguridad en configuraciones de asientos enfrentados provocó que, durante el impacto frontal, los pasajeros salieran proyectados violentamente contra quienes viajaban a contra marcha.

Transitar del mero «humano en el circuito» (Human in the loop) al «experto en el circuito» (Expert in the loop) exige que los criterios rectores no queden subordinados a la eficiencia electro-mecánica y tecnológica.

Principalmente ante la falla de los sistemas informáticos es clave que la decisión final no quede en una sola persona comunicándose con otra, debe existir redundancia de al menos una persona más observando todo el proceso en un rol de experto y mentor que aporte juicio crítico, discernimiento ético y la templanza capaz de anteponer la vida humana y la integridad del sistema a cualquier presión de tiempo o costo.

Tener en mente más de 400 páginas de un reglamento ferroviario no es sencillo, seguramente con la Inteligencia Artificial se podrá mejorar sustancialmente la confiablidad de estos procesos híbridos: Humanos y Tecnológicos, sin que por ello dejemos de requerir en todo momento “Experts in the loop”.

Piensa en tu organización a la luz de lo que te comparto, y toma en cuenta una frase de mi hijo: “ La IA puede ayudar, sin embargo el centro debe seguir siendo humano”

Tus comentarios son bienvenidos: roberto@novarum.mx

Referencias:

1. Indicadores para medir el desempeño de un sistema: https://novarum.mx/criterios-para-medir-el-desempeno-de-un-sistema/

2. Reglamento de circulación ferroviaria , fecha 2015 y actualizado en 2023 https://www.boe.es/buscar/pdf/2015/BOE-A-2015-8042-consolidado.pdf

3. Futuro imparable: https://url.goldtech.mx/flEFdk