Рассмотрение компьютера в качестве разумной, автономной сущности приводит к перевертыванию процесса разработки с ног на голову. Мы не можем себе позволить настолько почитать свои собственные творения.
Самое важное, что надо знать о любой технологии, — как она меняет людей. Чтобы ответить на этот вопрос, я много лет пользовался мысленным приемом, который называю «круг сопереживания». Может быть, он окажется полезным и для вас. (Философ из Принстона Питер Сингер, часто упоминаемый в связи с правами животных, пользуется похожей терминологией и идеей, что на первый взгляд кажется простым совпадением.)
Воображаемый круг сопереживания каждый для себя строит сам. Этот круг ограничивает расстояние вокруг человека и включает те сущности, которые заслуживают сопереживания. Мне нравится термин «сопереживание», потому что в нем есть духовные нотки. Термины вроде «симпатия» или «лояльность» могли бы быть более точными, но я хотел, чтобы мой термин был слегка мистическим. Он должен как бы намекать, что мы не способны полностью осознать то, что происходит между нами и другими, что мы всегда должны оставлять возможность представления отношений в цифровой базе данных.
Если кто-то попадает в ваш круг сопереживания, вы вряд ли захотите увидеть, как его или ее убьют. Но то, что вне круга, — законный объект нападения. Например, многие поместят всех остальных людей внутрь круга, но большинство будет радо смерти бактерий, например, когда мы чистим зубы. И уж совершенно точно никто не будет беспокоиться по поводу бездушного камня, отброшенного с тропы.
Подвох в том, что некоторые сущности находятся близко к границе круга. Главные противоречия часто вызывает вопрос, должно ли что-то находиться внутри круга или сразу за ним. Например, идея рабства основана на том, что раба помещают вне круга, таким образом как бы делая его неодушевленным. Расширение круга так, чтобы включить всех людей и покончить с рабством, — одно из главных эпических противостояний в человеческой истории, и оно еще не вполне завершено.
Множество других противоречий хорошо описываются этой моделью. Борьба вокруг абортов по существу есть поиск ответа на вопрос, должен плод или эмбрион быть помещен внутрь круга или нет. Спор о правах животных задает тот же вопрос относительно братьев наших меньших.
Когда вы меняете содержимое вашего круга, вы меняете и концепцию самого себя. Центр круга смещается по мере того, как меняется его периметр. Либеральным импульсом является расширение круга, тогда как консерваторы стремятся ограничить рост круга или даже обратить этот рост вспять.
Существуют ли разумные причины того, чтобы не расширять круг сопереживания? Ответ положительный.
Бесконечное расширение круга сопереживания способно привести к угнетению, так как права потенциальных сущностей (как считают некоторые люди) могут вступить в противоречие с правами безусловно реальных людей. Очевидный пример этого — споры вокруг абортов. Если бы законодательное запрещение абортов не подразумевало власть над телами других людей (в данном случае — беременных женщин), то и больших противоречий не было бы. Мы бы быстро приспособились.
Расширение сопереживания может приводить к меньшему, но все равно существенному злу некомпетентности, упрощения, нечестности и нарциссизма. К примеру, вы не можете жить, не убивая бактерий. Не спроецируете ли вы свои собственные фантазии на одноклеточные организмы, которые в лучшем случае будут к ним безразличны? И получится, что дело в вас, а не в целях расширения круга? Начнете ли вы уничтожать чужие зубные щетки? Вы же не думаете, что спасенные вами бактерии морально эквивалентны бывшим рабам, а если думаете, не умаляете ли вы статус тех людей? Даже если вы можете с чистой совестью следовать своему стремлению освободить и защитить бактерии мира, не игнорируете ли вы реальность, зависимость друг от друга и мимолетность всего сущего? Вы можете стараться не уничтожать бактерии в некоторых конкретных случаях, но вы вынуждены убивать их, чтобы жить. И даже если вы готовы умереть за свои убеждения, вы не в состоянии предотвратить разложение вашего тела бактериями после вашей смерти.
Очевидно, пример с бактериями доведен до абсурда, но он показывает, что круг сопереживания имеет смысл только тогда, когда он ограничен. Если мы теряем конечность, мы теряем наши собственные центр и идентичность. Выдумка о фронте за освобождение бактерий может служить пародией на любое экстремистское движение как левого, так и правого толка.