Тощий, как жердь, парень, выбиравший мелкие косточки из целой рыбины, решил, что тему разговора лучше поменять:
– Можешь твердить, что искусственный интеллект невозможен, только потому, что его еще не существует. Когда он заработает, доказательства будут ошеломляющими.
Бородатый, у которого в бороде запуталась лапша, предостерег его:
– Осторожно, а то Джарон сейчас разразится проповедью о «разоблачении незрелых тайн».
– Думаю, я уже достаточно вас этим замучил. Нельзя ли просто остановиться на том, что всех нас может удивить ход развития событий, и никому не стоит утверждать, что он знает, что произойдет потом?
– Это аксиома. Закон Мура гласит, что компьютеры станут в миллионы раз мощнее, а потом еще и еще. Они превзойдут человеческий мозг. Они будут заслуживать собственных прав. И они потребуют этих прав.
– Ты напрашиваешься на то, чтобы я снова срезал тебя аргументом о круге сопереживания. Если ты чрезмерно расширишь свой круг сопереживания, ты потеряешь компетенцию и никому не поможешь. Ты выставляешь себя дураком, помогая идеальным маленьким существам, которых я называю «суррогатами уникальности». Это примерно как если бы люди перестали чистить зубы, потому что не хотят убивать бактерий.
За столом снова недовольно загудели.
– Приводить такие аргументы в споре нечестно. Думаю, по-настоящему тебя расстроило то, что тебя вызвали в суд по поводу виртуальной поддержки эмбрионов.
Нынешний Джарон перебивает: «До этой истории мы доберемся в следующей главе».
Джарон из 1990 года сказал:
– Парни, подумайте над тем, как все это воспримут остальные люди, далекие от технологий. Можете себе представить волшебников, которые обсуждают, как они создадут высшие формы жизни, а обычные люди или морально устареют, или будут выполнять роль домашних питомцев? Не считаете, что из-за этого люди утратят доверие к современному миру? Они точно нас не возненавидят? Не станут ли они легкой добычей шарлатанов, которые убедят их в том, что наука им враждебна? Разве не это глобальная цель всей инженерной науки – служить людям, далеким от технологий?
Пожалуйста, помните об этом, читая «размышления» о том, что роботы заслуживают сочувствия: у тех, кто пишет о технологии, есть дурная привычка формулировать «глобальные идеи», которые служат текущим интересам крупных технологических компаний. Так, было много разговоров о вреде авторских прав, когда компания Google создавала свое беспрецедентно огромное состояние, перепахивая законы об авторском праве. Точно так же много статей и постов, приветствующих конец приватности и провозглашающих ценность коллектива, появилось, когда Facebook начала осваивать рынок цифровых удостоверений личности[121].
– Если, ну ладно, когда гигантские роботы или сверхразумные потоки наночастиц решат, что ты не стоишь того, чтобы поддерживать твое существование, им будет абсолютно все равно, что ты думаешь. Тебя просто уничтожат. И тогда ты не сможешь рассуждать, реальны они или нет.
– Вот теперь ты меня бесишь. Помнишь морскую свинку, которая управляла огнеметом во время представления Survival Research? Было совершенно не важно, осознавало ли это животное, что оно делает. Чтобы увидеть представление, нужно было подписать соглашение о том, что ты не будешь ни подавать в суд на людей, которые посадили морскую свинку на место пилота, ни преследовать каким-либо образом само животное.
Единственное различие между отношением к ИИ как к губительной машине, которая уничтожит все человечество, и восприятием части специалистов в области технологий и военных как полных профанов, заключается в том, что вторая интерпретация обоснована.
Сорок седьмое определение VR: наука всеобъемлющей иллюзии.
Пока вы верите в искусственный интеллект, вы ослабляете свою веру в ценность людей и их способность действовать. Вы отменяете самих себя и всех окружающих.
Я понимаю, как это должно выглядеть со стороны. Разработчик виртуальной реальности утверждает, что виртуальная реальность – наилучший подход к цифровой информации. Он отрицает искусственный интеллект, социальные сети, даже Всемирную паутину! А не хочет ли он нам сказать, что его разработка самая лучшая? А не говорят ли все остальные то же самое?
Я всего лишь человек. Не могу утверждать, что свободен от предубеждений.
Я знаю, что виртуальная реальность требует предельной ясности ума потому же, почему профессиональные фокусники – лучшие разоблачители. Гудини, Пенну, Теллеру и Невероятному Рэнди нет равных в обнаружении жульничества. Так же «Разрушители легенд» (Адам Сэвидж и Джейми Хайнеман) были экспертами в области кинематографических спецэффектов. Люди, которые зарабатывают на жизнь созданием иллюзий, разбираются в иллюзиях. Разработчики виртуальной реальности – иллюзионисты от науки; мы серьезны, когда заявляем вам, что дурачим вас, и вам следует принимать наши слова всерьез, когда мы отмечаем, что мы не единственные, кто это делает.
121
Экстремальный пример оголтелой верности программному обеспечению – то, что, согласно Верховному суду США, корпорации стали людьми и в то же время превратились в алгоритмы.
Алгоритмы, управляющие такими компаниями, как Google и Facebook, входят в число битов, которые никогда не подвергались взлому, поскольку это единственные фиксированные активы новой экономики. Все прочие биты – это чья-то еще проблема, а алгоритмы серьезно защищены.
После всех разговоров о свободном ПО и свободном доступе алгоритмы – единственные оставшиеся на планете секреты, которые успешно охраняются. Любые другие активы – контент, иными словами – поставляются третьими лицами, чтобы эти компании смогли избежать ответственности и обязательств.
Так что не означает ли постановление Верховного суда в сочетании с устоями новой экономики: Америка уже заявляет, что алгоритмы становятся не просто людьми, а сверхлюдьми? Независимо от того, понимаем ли мы, что натворили, мы это сделали. –