Можно было бы возразить, что люди никогда не поглупеют настолько, чтобы передать власть машинам. Мы не утверждаем ни то, что люди сделают это добровольно, ни то, что машины силой вырвут власть у людей. Однако человечество может легко впасть в такую зависимость, в которой не останется иной альтернативы, кроме как соглашаться со всем, что решат машины. По мере того как общество и его проблемы будут все больше усложняться, а машины становиться все умнее, люди будут все чаще передавать машинам принятие решений только лишь потому, что их решения будут давать лучшие результаты, чем решения, принятые человеком.
В итоге может наступить такая фаза развития, на которой принимать решения, необходимые для продолжения функционирования системы, станет настолько сложно, что человек перестанет справляться с этой задачей. К этому моменту машины фактически возьмут человечество под контроль. Люди просто не смогут выключить машины, поскольку будут от них слишком зависимы и отключение будет равнозначно самоубийству.
Возможен сценарий, в котором человек сохранит контроль над машинами. В этом случае рядовой гражданин будет контролировать свою личную технику, например автомобиль или компьютер. Однако контроль над сложными компьютерными системами будет в руках малочисленной элиты, как это уже происходит сейчас, но с двумя отличиями: совершенствование технологий позволит элите все прочнее контролировать массы, и, поскольку человеческий труд перестанет быть нужным, эти массы станут избыточными, бесполезным балластом внутри системы.
Если элита будет бездуховной, то она захочет уничтожить большую часть человечества. Если же она будет более гуманной, то начнет вести пропаганду или использовать психологические и биологические методы сокращения рождаемости, чтобы широкие массы населения вымерли и полностью уступили мир элите. Если же элита будет состоять из мягкосердечных либералов, она может взять на себя роль «добренького пастыря». Будет прикладывать все усилия, чтобы масса полностью удовлетворяла телесные потребности, чтобы ее дети росли в здоровой психологической обстановке, чтобы у каждого было «правильное» хобби для заполнения свободного времени и чтобы с каждым несогласным «работали», избавляя от «проблемы».
Жизнь станет настолько бесцельной, что людей придется переделать биологически и психологически, чтобы или отнять у них тягу к власти, или подтолкнуть их к «творческому» воплощению властных притязаний в форме безвредных увлечений. Эти переделанные люди будут счастливы в новом обществе, но с высокой долей вероятности не будут свободными. Статусом они окажутся не выше домашних животных».
Отточенную логику этих слов до сих пор никто не смог опровергнуть. Пионер программирования и основатель компании Sun Microsystems Билл Джой процитировал эти строки в 2000 году в своем знаменитом эссе «Почему мы не нужны будущему». Однако научно-военно-промышленный комплекс сумел подавить дискуссию на эту тему. За время, прошедшее с момента ареста Качинского, мы заметно приблизились к воплощению его антиутопии. Подумайте, какие из его предсказаний уже сбылись или вот-вот сбудутся! Подумайте о разоблачениях, сделанных Эдвардом Сноуденом, о безграничной власти Google и Facebook, о крушениях биржи, вызванных автоматизированными торгами акциями, о беспилотных автомобилях, о зависимости от компьютерных игр, биотерроризме, Фукусиме. Все это — уже реальность!
Мы все больше уступаем окружающим нас технологиям. Мы даже быстрее, чем предполагал Качинский, запутываемся в сетях собственной зависимости от машин.
Пришло время с этим покончить!
Мы, Ассоциация технологического реализма, боремся за то, чтобы человечество вернуло себе контроль над машинами и тем самым над собственным будущим. Мы требуем:
помиловать Теодора Качинского;
немедленно остановить все исследования и разработки в сферах искусственного интеллекта, биотехнологий, нанотехнологий и робототехники по меньшей мере на десять лет, в течение которых мы вместе сможем разработать концепцию независимого будущего;
запретить поручать машинам принятие решений, требующих интеллекта;
запретить применение машин для осуществления слежки и контроля над людьми, особенно со стороны спецслужб.