– Знаете ли вы, что стало причиной аварии на атомной электростанции «Три-Майл-Айленд»? Негерметичная прокладка. Крошечная проблемка. Об этом не стоило бы упоминать, если бы выходящая влага не попала в смежную систему, которая, в свою очередь, ошибочно отключила водяные насосы. Но они были очень важны для охлаждения реактора. Поэтому были включены аварийные насосы. К сожалению, по неизвестным причинам был закрыт основной клапан. Но операторы в реакторном отсеке не знали этого, так как контрольная лампочка клапана была закрыта табличкой о ремонте другой системы, которая, опять же, не имела к этому никакого отношения.
– То есть ты, весьма окольными путями, пытаешься дать мне понять, что в сложных, тесно взаимосвязанных системах ошибки очень быстро перескакивают с одной подсистемы на другую и что даже малейшие проблемы могут стать причиной глобальной катастрофы?
– Да. А знаете ли вы, какие системы также являются сложными и тесно связанными друг с другом?
– Автономное вооружение.
– Верно. Даже в тех областях, где безопасности уделяется самое большое внимание, например в космосе или на атомных электростанциях, то и дело происходят аварии. Разумеется, системы тестируются в достаточной степени, но…
– …многие ошибки обнаруживаются только в процессе эксплуатации, – говорит Айша.
– Каждая отдельная ошибка очень маловероятна, но возможных ошибок так много, что одна из них, скорее всего, произойдет[30]. Очень сложно предугадать, какие проблемы могут возникнуть в нестандартной ситуации.
– А война – это крайне нестандартная ситуация.
– Да.
– Значит, корова, – говорит Айша.
– Да.
Айша хватается за голову:
– Неудивительно, что военные мне ничего об этом не рассказывали.
– Насколько я знаю, корова, впрочем, еще жива, – говорит Лусия.
– Ну, слава богу.
– И что вы будете теперь делать? – спрашивает Лусия. – Вы скажете об этом в своей речи?
– Ты с ума сошла! – говорит Айша. Она вздыхает. – Я объясню людям, что эта война была необходима.
– Поэтому вы напишете что-то туманное о жестокости наших противников и необходимости защищать демократию, свободу и права человека.
– Совершенно верно.
– Я тоже могу подготовить для вас отчет, – говорит Лусия, – но я подумала, что вам не нужна эта писанина.