Как я уже отмечал ранее, опыты с виртуальной реальностью ведут к более здравому восприятию информационной эпохи, чем схемы, которые едва ли имеют отношение к виртуальной реальности и для которых она служит лишь метафорой. Виртуальная реальность лучше виртуальной виртуальности.
Кремниевая долина слишком упорно верит в биты. Сейчас ведутся разговоры о том, чтобы предложить потребителям, обычным людям, обрести псевдобессмертие в виртуальной реальности. Эту идею активно продвигает Рэй Курцвейл. А тем временем некоторые знаковые фигуры Кремниевой долины вкладывают огромные средства в безумные схемы, с помощью которых надеются обрести физическое, биологическое бессмертие.
Рождение религии
Когда речь заходит о чрезмерной вере в биты, худший противник – это искусственный интеллект (ИИ). Аргументы искусственного интеллекта были систематизированы как раз в то время, о котором я здесь рассказываю. Мы замечательно дискутировали о нем с друзьями.
Я высмеивал ИИ, а окружающие говорили о нем, как о религии, и вскоре порог был перейден: сейчас в ИИ преданно верят все, кто надеется, что он дарует бессмертие, поможет воссоединиться с покойными близкими, решит сразу все проблемы человечества и будет править нами с бесконечной мудростью. Было забавно наблюдать рождение религии[116].
Поскольку я наблюдал это собственными глазами, я понимаю, что искусственный интеллект – лишь старый и наивный мысленный эксперимент, эффективный способ привлекать инвестиции, неожиданно разросшийся до причудливой мировоззренческой системы, которая работает с куда меньшей отдачей[117]. В то же время, поскольку вера в искусственный интеллект стала искренней, я должен переключиться в режим свободы вероисповедания и толерантности.
Однако религиозная толерантность должна работать в обе стороны. Я не верю, что биты имеют какое-либо значение сверх того, что им приписывают люди, и хочу пользоваться свободой в исследовании воплощений общества будущего, основанного на этой предпосылке. Но некоторые люди, верящие в искусственный интеллект, превращаются в фанатиков, не способных задуматься о существовании иной точки зрения; толерантностью там и не пахнет.
Вернемся в 1990 год, в ресторанчик «Хунань».
Один инженер-разработчик аппаратного обеспечения сказал, поедая пельмени:
– Ну ладно, Джарон, я согласен с тобой по поводу этой штуки с искусственным интеллектом. Эти искины пугают меня до усрачки. Мне снятся кошмары о том, как компьютеры эволюционировали и просто-напросто пожрали все человечество – взяли и смели его со своего пути. Не верю я во все эти россказни про то, как они с нами подружатся или будут держать нас в качестве домашних питомцев[118].
– О боже, это НЕ согласие со мной по поводу искусственного интеллекта. Бояться искусственного интеллекта даже хуже, чем любить его. Если ты его боишься, значит, ты в него веришь. Если запугивать людей дьяволом, религия не просто повсеместно распространится, но и станет весьма нетерпимой. Когда люди испуганы, их мышление становится ограниченным.
– Дьявола не существует, а вот компьютеры реальны.
– А что, если искусственный интеллект всего лишь фантазия, которая нам мерещится в нами самими же созданных битах? Что, если это такой способ избежать ответственности?
– Об этом спорят десятки лет. Когда люди не смогут отличить искусственный интеллект от человеческого, тогда он и станет настоящим. Тест Тьюринга и все такое.
И тут бородатый хакер, который до этого был слишком увлечен поеданием лапши, сказал:
– У него и на это есть ответ.
– Да, есть. Вы считаете, что люди – это такие фиксированные суммы, которые только и ждут момента, когда искусственный интеллект их догонит и перегонит. А что, если люди динамичны, и, может быть, даже более динамичны, чем компьютеры? Что, если ты сам изменишься в окружении компьютеров? Что, если ты поглупеешь, лишь бы компьютер казался умным?
– Да такого никогда не произойдет.
Нынешний Джарон должен вмешаться и защитить себя тогдашнего, рассказав несколько историй о недавних временах. Это все же произошло! Сейчас, когда программирование определяет нашу жизнь, мы глупеем ради того, чтобы компьютеры выглядели умными.
Вот, к примеру, Netflix.
Эта компания заявляет, что ее умный алгоритм узнает ваши вкусы и на этом основании рекомендует вам фильмы. Они даже предложили премию в миллион долларов тому, кто предложит, как сделать этот алгоритм еще умнее. Но проблема в том, что эта компания не предлагает всеобъемлющего каталога, особенно последних, горячих новинок. Если поискать конкретный фильм, он запросто может оказаться недоступен для воспроизведения. Сервис рекомендаций – это отвод глаз, отвлекающий от того факта, что на сайте есть не все фильмы. Так что большой вопрос, умен ли этот алгоритм, или это люди позволяют сделать себя слепыми и глупыми, чтобы алгоритм казался умным? То, что сделала компания Netflix, достойно восхищения, поскольку весь смысл ее деятельности заключается в том, чтобы обеспечить вас иллюзиями. Браво! (И, кстати, через десятилетия споров с откровенно нечестными аргументами в пользу того, чтобы сделать искусство и развлечения «бесплатными», смотрите, что произошло, когда такие компании, как Netflix и HBO, сумели добиться от людей платы за подписки на хорошее телевидение. Внезапно наступил период возрождения, названный Peak TV.)
117
Очень похоже на то, как нетерпимый подход к различным идеям об организации человеческой жизни снижает полезность этих идей. Например, рынки полезны, но экстремальные либертарианские взгляды, согласно которым рынок должен быть единственным принципом организации человеческих отношений, причем рынок нерегулируемый, поскольку он якобы всегда будет стремиться к совершенству, производят ровно обратный эффект и делают рыночные отношения менее полезными. Точно так же демократия полезна, но убеждение в том, что любое, даже самое незначительное решение должно приниматься голосованием, чаще всего уменьшает ценность демократии. Что касается религии, я лучше промолчу. –
118
Стивен Хокинг и Илон Маск – главные публичные персоны, говорившие об этом опасении. –