Будут ли совпадать интересы такого сознания с интересами людей? Одинаково невероятно как абсолютное совпадение, так и полное их расхождение. Именно степень этих расхождений и будет определять характер действий Deus ex machina.
Перейдем от обсуждения возможности бунта машин к его формам. Помимо происхождения машинного разума, они будут определяться еще одним важнейшим фактором: той информацией, которой будет располагать Deus ex machina. Хоть на первый взгляд кажется невероятным, что система, обладающая громадными аналитическими возможностями, не в состоянии извлечь нечто из всемирной сети, — это вполне вероятно.
Во-первых, машинное сознание может начать свои действия еще до того, как освоит любую попавшую к нему программу; во вторых — сколь бы высока ни была степень интегрированности компьютеров, 100 % она никогда не достигнет. Останутся компьютеры, просто не подключенные к сети или имеющие слишком слабый канал связи, и в таких машинах может храниться очень важная информация. Типичный пример — компьютерные сети Министерства обороны России и других стран СНГ, которые, согласно официальной информации, полностью отделены от гражданских.
Перед зародившимся компьютерным сознанием есть несколько вариантов действий. Если отбросить версию о том, что саморазвивающийся Deus ex machine, или измененный ИИ, будет работать только над тем, чтобы уничтожить человечество вместе со значительной частью самого себя, то можно смело предположить, что сценарии атомной войны, искусственной чумы и тому подобного неосуществимы. Они настолько же маловероятны, насколько маловероятно существование сознания, полностью лишенного императива самосохранения и имеющего категорический императив ненависти к человечеству. Когда уровень техники поднимется настолько, что привить подобные идеи искусственному интеллекту смогут экстремистские группировки и отдельные сумасшедшие, уровень охранных систем поднимется еще выше.
Другое дело — если к моменту появления машинного сознания будет полностью автоматизирован процесс «производства и воспроизведения» компьютеров, тогда у ИИ появится возможность быстрой биологической войны против человечества. Но этого момента придется ждать еще несколько десятилетий, тем более что профсоюзы могут вообще не допустить полного устранения ручного труда и человеческого фактора из промышленности.
При невозможности устранить людей сразу и быстро, логично свести род людской в могилу постепенно — пусть сами люди обеспечат полную автоматизацию промышленности и энергетики. Наиболее распространенный сценарий в данной области (его особенно любят фантасты) — гедонизация человечества, пресыщение его удовольствиями, эпидемии самоубийств, введение в культуру культа бесплодия и т. д. Такие планы вступают в противоречие с существенным обстоятельством: неравномерностью распределения социальных благ по планете, возможностей медицины и культуры.
В развитых странах темп жизни действительно взвинчен до невозможности — и рождаемость падает. В развивающихся, напротив, она очень высока. Добиться же благосостояния большинства стран мира не сможет ни одно машинное сознание — для этого потребуется полное управление человеческой бюрократией, то есть фактическое взятие власти, а уже потом гедонизация человечества. Медицина же не только сокращает рождаемость, но и продляет жизнь человека на годы, а в скором времени и на десятилетия, она также дает человеку возможность иметь потомство практически в любом возрасте без особых материальных затрат.
Разумеется, читатель может возразить: агрессивный Deus ex machina, каким бы ограниченным набором знаний он ни обладал, не будет применять только: один метод — население развивающихся стран можно уничтожить в войнах и эпидемиях, а в развитых — разложить до полной меланхолии. Но такая интрига общепланетарного масштаба, которая будет разворачиваться несколько десятилетий и неизбежно встретит «бессознательное» сопротивление государств, потребует такого количества накопленной информации и такого объема ежеминутных вычислений (нужен мониторинг в режиме реального времени!), что объемы занимаемой памяти и передаваемой информации будут быстро замечены соответствующими организациями.
Действия машинного сознания, при любом варианте развития событий, не будут исчерпываться только доставлением неприятностей человеку. Deus ex machina будет заботиться о собственном благополучии. В чем это будет выражаться?
Логично обеспечить собственное процветание за счет перепроизводства «железа» и распространения такого программного обеспечения, которое позволит компьютерному сознанию легко получать любую информацию. Производиться такие манипуляции могут двояко: либо через ряд фирм, которым создаются тепличные условия и которые будут продавать ЭВМ и программное обеспечение практически по себестоимости (будет чрезмерно раздута их память или завышено количество машин), либо через создание монополии, которая будет обеспечивать сбыт административными методами.
На пути таких действий встают чисто экономические причины: перепроизводство всегда тянет за собой кризис. Временный сверхрост сменится упадком.
Поэтому компьютерному сознанию выгоден не бунт или плетение заговоров, а симбиоз. Инициация новых изобретений, все больше раскручивающих компьютерный рынок и обеспечивающих рост производства ЭВМ, создающих новые отрасли компьютерной индустрии. Такие действия потребуют относительно небольших вмешательств (какой коллектив исследователей откажется использовать «случайно» попавшие к ним данные, особенно если это обставлено убедительной легендой), хотя и значительных операционных ресурсов.
Полученный оптимальный вариант воздействия Deus ex machina будет представлять смесь экономически-административных и технических операций.
У читателя немедленно может возникнуть вопрос: отрасль высоких технологий, компьютеров и их программного обеспечения переживает практически беспрерывный бум на протяжении последних 15 лет, и незначительные спады активности или падения котировок акций высокотехнологичных компаний сменяются еще большим ростом производства и стоимости ценных бумаг. Не будет ли логичным со стороны машинного сознания полное бездействие, а если оно все-таки начнет действовать — как отличить его действия от естественных процессов? Как сознанию действовать в своих интересах, если эти интересы соблюдаются и без него? Об этом будет сказано ниже, но главным показателем такой деятельности будет стремление Deus ex machina как можно полнее устранить человеческий фактор из сферы применения компьютеров.
Наконец, рассмотрим вариант развития событий, наиболее выгодный человеку, — его сознательное сотрудничество с компьютерным сознанием. Но выгодно ли это машине? Выход из подполья Deus ex machina, даже при самой продуманной и тонко осуществленной пропагандистской кампании, — вещь чрезвычайно для него опасная. Даже если он делом докажет свою необычайную полезность для человека, неизбежно укрепятся позиции всех антитехнологических движений: у множества людей появится новый комплекс неполноценности и жажда от него избавиться.
Политико-финансовые группировки, каждая из которых заинтересована в развитии своей промышленности и ослаблении позиций своих конкурентов, будут щедро спонсировать подобные движения в стане своих соперников. К тому же, каждому из власть предержащих придется абсолютно сознательно этой властью поделиться — причем поделиться без малейшего шанса вернуть её себе, своим преемникам или своей группировке. А жажда власти считается одним из основных признаков Homo sapiens.