Los humanos y las máquinas. Un texto para reflexionar.

“De acuerdo con los psicólogos cognitivos Daniel Kahneman y Amos Tversky, somos máquinas de cometer errores, predispuestas por diseño a minusvalorar el riesgo, a descuidarnos cuando deberíamos prestar atención y a esperar lo mejor cuando deberíamos estar previendo lo peor.

Nuestros protocolos de «gestión de riesgos» existen para protegernos de nuestras propias ilusiones o descuidos. Sin embargo, dichos protocolos y procedimientos también pueden afianzar el tipo de pensamiento rutinario que nos lleva a ignorar las señales inesperadas. 

Lo que sigue siendo esencial es la capacidad típicamente humana para la vigilancia y la improvisación sin descanso. Los robots se encargarán de cualquier función de gestión de riesgos que pueda automatizarse, pero solo los seres humanos saben cómo improvisar cuando no se puede recurrir al manual de instrucciones, cuando los procedimientos ya no funcionan, ni las tecnologías ya no responden a la instrumentación o no es posible reiniciar el sistema; dicho de otro modo: cuando lo inimaginable nos golpea con toda su desconcertante fuerza.

    El maravilloso libro de Ryusho Kadota sobre Masao Yoshida, superintendente de la central Fukushima Daiichi, supone un estudio de la improvisación resiliente que se da cuando el mundo como lo conocemos se esfuma.

En la oscuridad, sin energía eléctrica, aislado de sus familias y del resto del mundo, con un sistema completamente caído, los once miembros del equipo operativo principal, bajo la dirección de Yoshida, tuvieron que descubrir cuál era el problema de los tres reactores, cada uno con sus propios fallos en el sistema. Tenían poco —o más bien nada— en lo que apoyarse, pues los manuales no lo preveían. Trataron de dar sentido a una situación que carecía de él, a partir de décadas de experiencia laboral en la central, al trabajo en equipo y a la capacidad de improvisación. Para llevar el agua hasta las barras de combustible, tuvieron que entrar en el edificio de contención y exponerse a la radiación para abrir las válvulas principales a mano. Se eligió a los hombres de más edad, aquellos que ya habían tenido hijos, para enfrentarse a los niveles más altos de radiación, protegiendo a los más jóvenes de dosis potencialmente cancerígenas. Cuando una medida fallaba, probaban otra; cuando las explosiones de hidrógeno hicieron que el techo se derrumbase sobre sus cabezas, continuaron trabajando durante cuarenta y ocho horas sin interrupción. La oficina del primer ministro en Tokio les ordenó, de manera insensata, que dejasen de verter agua de mar sobre las barras de combustible; entonces, Yoshida, el superintendente de la central, fingió obedecer, pero ordenó a sus hombres que continuaran haciéndolo. Cometieron errores, pero no se dejaron vencer por el pánico y no abandonaron sus puestos; trabajaron en equipo, no discutieron, improvisaron soluciones y, en opinión de la mayoría de los expertos, lo hicieron lo mejor posible. No fueron capaces de evitar las explosiones de hidrógeno en tres de las plantas ni la posterior fuga de radiación, pero, en palabras de la Academia Nacional de Ciencias, «redujeron la gravedad del accidente y la magnitud de la fuga de material radiactivo».[173]

“El personal de la sala de control de Fukushima nos recuerda la virtud extraordinaria de los hombres y mujeres atrapados en las torres gemelas del World Trade Center, que no sucumbieron al pánico y que ayudaron a otros a ponerse a salvo; también al personal sanitario del Memorial Hospital de Nueva Orleans en 2005, que atendieron a los pacientes en una instalación aislada por las riadas y sin energía eléctrica.

 En situaciones extremas, las personas no siempre sucumben al pánico; ni dejan sus puestos ni traicionan a sus colegas ni abandonan a los que sufren. En lugar de eso, intentan hacer lo mejor en situaciones imposibles. Como en última instancia no existe ningún sistema a prueba de fallos, ni hay robots que puedan sustituirnos ni procedimientos para evitar lo inimaginable, solo nos queda la virtud de la resiliencia.”

Pasaje de: Las virtudes cotidianas de Michael Ignatieff