“Errar és humà; William E. Vaughan va fer aquesta observació el 1969. Obtenir el control a un sistema automatitzat comporta que el sistema es pugui malmetre i causi greus danys abans que es revisi.
L’automatització no és nova, però s’està fent molt més estesa gràcies a la integració de sistemes físics digitals i digitals. L’avantatge de l’automatització a escala és de gran eficiència. Però l’inconvenient de confiar en un sistema de configuració i oblidació és que algú no pot establir-lo correctament.
Amb un sistema que simplement no es produeix cap intervenció i no hi ha manera d'aturar la maquinària, pot tenir efectes destructius. D’acord amb això, la tecnologia pot crear el tipus de situació representada a “L’aprenent de bruixot”, quan allò que sembla fer la vida més fàcil en realitat queda fora de control.
