Программисты никогда не могут быть вполне уверены в результатах проверок. Небольшие ошибки, которые могут привести к хаосу во всей системе, — их вечный бич. Если программа состоит «всего» из миллиона команд, «проверка всех, вариантов заняла бы всю жизнь всех людей, которые до сих пор жили на земле», — отмечает Джоуэл Флайсс, президент южнокалифорнийской фирмы «Пропрайетари сафтуэр системз»10.
В вычислительных центрах всего мира, где работают со сложными моделями, ЭВМ всегда являлась предметом бесконечных шуток и подозрений в связи с нечистой силой. «Когда беседуешь с людьми, составляющими огромные программы, — признается Д. Парнас, — складывается впечатление, что разговариваешь с социологами. Они скажут вам, что, когда они запускают свою программу, она делает странные вещи, которые невозможно предугадать… Задаешь им вопрос, что сделает их программа в такой-то и такой-то ситуации, а они отвечают: „Не знаю, давайте испробуем”»11.
О том, насколько уязвимым будет математическое обеспечение системы СОИ, свидетельствуют следующие примеры:
когда в 1979 году американский космический зонд, запущенный на Венеру, не достиг своей цели, в космосе пропал почти миллиард долларов. Причина: в программе коррекции курса зонда запятая была спутана с двоеточием;
в 1983 году компьютер, принадлежащий местным органам власти, стал причиной наводнения в юго-западной части США. В компьютер были введены неверные данные о погоде, в результате чего он дал ошибочный сигнал шлюзам, перекрывающим реку Колорадо;
один из вариантов навигационной программы для истребителя «F-16» привел бы к тому, что всякий раз, когда самолет перелетает экватор, он будет переворачиваться. Эта слабость была выявлена при компьютерном испытании модели, но многие менее серьезные ошибки остаются невыявленными;
крупнейшая американская телефонная компания «Америкэн телефон энд телеграф» подвергает программное обеспечение своей техники самым сложным испытаниям. Тем не менее ее телефонная сеть частично вышла из строя, когда в этой якобы сверхнадежной схеме вдруг выявилась ошибка. Эта ошибка на протяжении многих лет была «спящей», но при определенном стечении случайностей дала о себе знать12.
Еще одним источником ошибок служат постоянно ожидаемые изменения характеристик собственных систем оружия и оружия противника и приведение программного обеспечения СОИ в соответствие с ними. Программному обеспечению телефонной сети не приходится выдерживать нападений со стороны противника, обладающего новейшей техникой. Помехи неприятны во всех случаях, но в СОИ они могут привести к катастрофе. «Мы не можем позвонить противнику по телефону и попросить его приостановить свой удар, потому что нам нужно найти ошибку в программном обеспечении, — говорит Д. Парнас. — Если другая сторона не будет сотрудничать и не скажет нам, на какие качества обратить внимание, алгоритмы опознавания, включенные в программу, могут оказаться неправильными»13.
СОИ является провоцирующей системой в том смысле, что, когда она будет развернута, СССР вынужден будет ответить системой «анти-СОИ». Она совершенно необязательно будет аналогом американской системы, но здесь вмешивается еще один фактор — фактор взаимодействия. «Вероятность катастрофы повышается еще и потому, что в данном случае надо рассматривать совокупность двух автоматизированных систем, не согласованных между собой, противостоящих друг другу, — говорит известный советский специалист по космической технике академик Б. В. Раушенбах. — По правилам отработки такого рода систем надо провести совместные натурные испытания. В каком-либо мирном международном проекте это было бы логично. Но в данном случае это же невозможно! США не дадут Советскому Союзу свою автоматизированную систему, чтобы он приспосабливал под нее свои ответные меры. И наоборот. Таким образом, будут работать две неотлаженные, несогласованные системы. А в таких системах вероятность отказов еще большая. А это означает не только то, что опасным образом падает надежность обеих технических систем, это означает, что увеличивается вероятность случайного возникновения войны»14.
Проект СОИ считают ошибочным даже те, на чье мнение в первую очередь должны были бы оказывать влияние профессиональные предубеждения. Назовем, например, Г. фон Тизенхаузена, одного из тех, кто создавал ракеты-убийцы «Фау-2», а впоследствии помощника директора по современным системам в Центре космических полетов имени Джорджа Маршалла, разрабатывающего политику НАСА в отношении замены людей роботами на космических объектах15. «Если другая сторона придумает всего лишь один трюк, чтобы обмануть нашу систему, и наши люди не сумеют устроить ее таким образом, чтобы она справилась с этим, она не сработает., — сказал Ларри Смарр, возглавляющий Национальный центр изучения возможностей суперкомпьютеров в Иллинойском университете. — Это будет своего рода линия Мажино в космосе»16.
В Соединенных Штатах Совет Ассоциации по вычислительной технике принял 8 октября 1984 г. резолюцию, подчеркивающую, что компьютерные системы, вопреки совершенно необоснованным утверждениям американских политиков, нельзя считать непогрешимыми. Этой резолюцией завершились двухлетние дебаты, начатые активистами, потребовавшими, чтобы ассоциация публично заняла определенную позицию в отношении опасности ядерной войны и роли компьютеров как важнейших компонентов системы нового сложного оружия, надежность и контроль которой остаются сомнительными. Тем самым создается опасность ядерного конфликта, который может возникнуть случайно. Аналогичная резолюция была предложена и Международной федерацией по информатике, выразившей сожаление по поводу «такого использования компьютерной техники, которое способствует увеличению опасности ядерной войны»17. На симпозиуме, посвященном компьютерной технике и состоявшемся в 1986 г. в Калифорнии (США), 36 из 61 участника подписали заявление, в котором говорится:
На одном из семинаров по вопросам оружия космического базирования целый ареопаг экспертов Пентагона (и в их числе Роберт Купер, директор Управления перспективного планирования научно-исследовательских работ министерства обороны, Джордж Киуорт, в то время советник президента США по научным вопросам20, генерал Джеймс А. Абрахамсон, руководитель программы СОИ) признал, что использование лазерного оружия в космосе потребовало бы столь быстродействующий компьютер для принятия решения, что это фактически исключило бы всякое вмешательство Белого дома в данный процесс. В связи с этим сенатор Пол Тсонгес мрачно пошутил, предложив во время предстоящих президентских выборов избрать на этот пост компьютер системы управления вооруженными силами США. «По крайней мере он всегда будет начеку», — добавил сенатор.
— Разве кто-нибудь предупредил президента, что он отстранен от процесса принятия решения?— был задан вопрос.
— Только не я! — со скоростью, которой бы позавидовал компьютер, среагировал научный советник Рейгана Дж. Киуорт.
— Мы в состоянии иметь технику, которая не позволит президенту совершить какую-либо ошибку! — заявил Р. Купер21.
Это выглядит как анекдот, но грустный анекдот. Из него с очевидностью следует вывод: Р. Рейган не сознает, что, закрутив махину СОИ, он фактически лишился важных прерогатив главнокомандующего, а довершит дело новый ход американского военного ведомства, который пока что остается в тени для широкой публики.