Todos los recursos

ArtículoES6 min de lectura1 nov

Therac-25: ejecuta sus dos bugs en el navegador

Reconstrucción didáctica de los dos fallos de software documentados del Therac-25: el de los 8 segundos y el del byte. Y el mismo fallo con y sin enclavamiento físico.

Entre 1985 y 1987, el Therac-25, un acelerador lineal de radioterapia, causó seis sobredosis masivas conocidas en cuatro hospitales. Tres personas murieron por complicaciones de la sobredosis, según lo que se deduce de la investigación de Nancy Leveson y Clark Turner (1993). Solo dos de esos accidentes se han podido ligar a un bug concreto. Que se sepa, el código original nunca se ha publicado, así que aquí tienes esos dos bugs reconstruidos a partir de la investigación, para que los ejecutes. La historia completa, con el código delante, está en el vídeo de 12 minutos.

Funciona con teclado o con los botones. Si no responde al teclado, haz clic dentro. Abrir a pantalla completa

Bug 1: ocho segundos

Dos tareas leen la misma prescripción de una variable compartida, MEOS, sin ningún lock: Datent lee el byte alto y fija la corriente; Hand lee el byte bajo y coloca la torreta. Mientras los imanes se colocan, unos 8 segundos, Ptime debería vigilar si editas algo, pero solo mira mientras hay una bandera puesta, y esa bandera se borra al acabar el primer imán.

  1. Pulsa x y baja con ↓ o Intro hasta la línea de comandos.
  2. Espera a que el reloj de la memoria pase de 3 s, sin llegar a 8. Sube con ↑, pulsa e y vuelve a bajar.
  3. Mira el panel: los dos bytes de MEOS y la torreta dicen electrones, pero la corriente sigue en rayos X.
  4. Cuando la consola diga VERIFIED, pulsa b. Sale MALFUNCTION 54.
  5. Reinicia y repítelo esperando más de 8 s antes de corregir: la tabla se relee y todo coincide.

El mismo fallo, con fusible

Pulsa Con enclavamiento (Therac-20) y repite las mismas teclas. La memoria llega al mismo estado, porque el software falla igual. Lo único distinto es un circuito independiente que no le pregunta nada al software: salta el fusible y el haz no sale. En el Therac-20 real, un físico de la Universidad de Chicago vio cómo cada grupo nuevo de estudiantes fundía fusibles, y acabó relacionándolo con ciertas secuencias de edición. Tenía el mismo error de software, y allí se quedaba en eso.

Bug 2: un byte

Pulsa Therac-25: el byte. Mientras preparas al paciente en luz de campo, Set-Up Test suma uno a Class3 en cada pasada, y otra tarea solo comprueba el colimador si Class3 no es cero. Pero Class3 es de un byte: tras 255 viene 0. Si pulsas s en ese instante, el software da por bueno un colimador que nadie ha colocado. Como ese instante dura una décima de segundo, el botón Pulsar s cuando Class3 sea 000 lo hace por ti. Después, pulsa b.

Las pruebas recorren las 256 posiciones y falla exactamente una. El arreglo que describió AECL también está en el botón Con el arreglo: en vez de sumar, poner un valor fijo distinto de cero.

Lo que sale de la fuente y lo que supongo yo

De la fuente: los nombres Datent, Magnet, Ptime, Tphase, MEOS, Class3, F$mal, Hkeper, Lmtchk y Chkcol, los unos 8 segundos de los imanes, el ciclo de 0,1 s, los dos bytes de MEOS con lectores distintos, la bandera que se borra al final de Ptime y el incremento de un byte.

Supuestos míos, porque la fuente no los describe:

  • Tres imanes de 2,7 s cada uno.
  • Que editar después de Datent devuelva a Datent. La fuente dice que editar despacio no fallaba, pero no explica por qué.
  • Que Hkeper recalcule F$mal en cada pasada.
  • Que el set mueva el colimador solo si hay un fallo pendiente, y que ese movimiento dure un ciclo.
  • Que Set-Up Test avance si F$mal es 0 y además ha llegado el set.
  • Que Set-Up Test dé una pasada por cada ciclo de 0,1 s.
  • Que Class3 arranque distinto de cero. La fuente no da su valor inicial.
  • La máquina real usaba un planificador apropiativo en un PDP-11. Aquí las tareas son generadores de JavaScript que se turnan ciclo a ciclo, y comparten memoria igual, sin sincronización.

Ejecútalo en tu máquina

Descarga el código completo en un zip o léelo aquí: therac.js, pruebas.mjs y fusible-stock.mjs.

Comprueba que falla donde dice la fuente, y solo ahí
node pruebas.mjs

todas las pruebas pasan
Tyler, sin enclavamiento, a los 4 s: sobredosis
Tyler, con enclavamiento, a los 4 s: fusible
Yakima: falla con 1 de 256 valores de Class3

fusible-stock.mjs lleva la misma idea a un backend actual, con SQLite y Node 22.5 o superior: dos compras de la última unidad, con el orden forzado a mano. Sin restricción, el stock acaba en -1. Con CHECK (stock >= 0), el código sigue teniendo el bug, pero la base de datos rechaza la segunda resta.

Fuentes