А мог бы компьютер заменить всех политиков? Это уже более радикальный пункт президентской кампании «Бентама». Если компьютер может просчитать влияние, оказываемое политиками на благосостояние населения, то почему он не может просто сделать то, что принесет нам наибольшее удовольствие?
Обойтись совсем без людей нелегко. Проблема в том, что для компьютера нужно устанавливать определенные цели. Цель политики — не просто сделать счастливыми как можно больше людей. Например, нам нужно решить, с каким объемом несправедливости мы готовы мириться. В целом какой-то один план может осчастливить много людей, но при этом оставить в ужасающих условиях пять процентов населения. Возможно, нам нужно предпочесть менее счастливое общество, в котором никому не придется жить в нищете.
Компьютер не может определить, какое из этих решений лучше; только мы можем сделать это. Более того, вполне возможно, что желаемый нами исход может измениться в соответствии с обстоятельствами. Например, чем богаче становится общество, тем более нетерпимо оно к тому, чтобы позволить кому-то из его членов обходиться без самого необходимого. Кроме того, чем богаче мы становимся, тем чаще мы начинаем думать о том, что обязаны помогать другим менее процветающим странам.
Даже если бы компьютер знал о том, чего мы хотим, это бы не закончило спор. Должно ли демократическое общество просто следовать воле большинства, или мнение меньшинства тоже должно учитываться? Если так, то в какой степени?
Может настать день (возможно, скорее, чем мы думаем), когда компьютеры смогут управлять экономикой и даже государственными делами лучше людей. Но гораздо труднее представить себе, каким образом они смогут решать, что для нас лучше, и отправить восвояси всех политиков.
Смотрите также
9. Большой Брат
10. Завеса неведения
36. Упреждающее правосудие
87. Справедливое неравенство
93. Зомби
Люсия жила в городе, в домах которого горел свет, но жителей в них не было. Она жила среди зомби.
Это было не так страшно, как кажется. Эти зомби не были вурдалаками-людоедами из фильмов ужасов. Они были похожи на нас с вами и вели себя точно так же. У них была даже такая же физиология, как и у нас. Но они отличались от нас в главном: у них не было разума. Если вы уколете их, они скажут «упс», поморщатся, но не почувствуют никакой боли. Если вы «огорчите» их, они начнут плакать или разозлятся, но у них не будет смятения в душе. Если вы поставите для них успокаивающую музыку, вам покажется, что они наслаждаются ею, но в своем сознании они не будут ничего слышать. Внешне они были похожи на обычных людей, но внутри их ничего не происходило.
Благодаря этому Люсии было просто общаться с ними. Было легко забыть, что у них нет такой внутренней жизни, как у нее, поскольку они разговаривали и вели себя как обычные люди, в том смысле, что они тоже говорили о своих чувствах и мыслях. Гостям города тоже не удавалось заметить в них что-либо странное. Даже когда Люсия выводила гостей на улицы, они отказывались ей верить.
«Откуда ты знаешь, что у них нет разума?» — спрашивали они у нее обычно. «А откуда вы знаете, что у других людей он есть?» — отвечала им Люсия. И этот ответ обычно заставлял их замолчать.
«Откуда ты знаешь?» — иногда это очень хороший вопрос. Но и на него, увы, очень трудно ответить убедительно. Мы редко знаем — возможно, и никогда не знаем — что-либо наверняка. Лучшее, на что мы можем надеяться, это иметь веские основания верить в то, во что мы верим. По крайней мере, эти основания должны быть убедительнее доводов против.
Именно поэтому нам кажется, что не нужно беспокоиться о самой вероятности того, что мы живем среди зомби. Даже если предположить, что мы живем среди них, хотя у нас есть больше оснований думать, что это не так, мы можем спокойно избежать беспокойства о существовании неправдоподобных вариантов.
Считать, что другие люди не являются зомби, выгодно чисто экономически. Если они ходят, как мы, говорят, как мы, и имеют такой же, как у нас, мозг и тело, то существует вероятность того, что они похожи на нас и во всех значимых смыслах, в том числе и в своих внутренних ощущениях. Было бы очень странно, если бы нервная система, которая дает мне сознание, не делала того же и для других людей.