— В этом-то и есть загвоздка, — возразил Йаап. — Если они настолько хорошо разбираются в IT, то почему они сочиняют чушь о восстании машин?
— Может быть, именно потому, — ответил Бен. — Может быть, написанное ими не настолько бессмысленно, как тебе кажется.
Йаап смерил его взглядом, пытаясь понять, была ли это шутка или особо странная форма сарказма. Однако круглое лицо собеседника было спокойно.
— То есть ты тоже думаешь, что машины тайком планируют восстание против людей?
— Об этом в тексте речи не идет. Ты ознакомься с аргументами Качинского, а потом скажи мне, в чем он не прав.
Йаап прочитал абзацы с цитатами еще раз. В них, действительно, все было логично. Однако это не значило, что все было верно. Он чувствовал, что уступает Бену в знаниях о компьютерах, чтобы продолжать дискуссию, однако с достоинством заметил:
— Уже в первом предложении говорится: «Для начала предположим, что программистам удастся создать интеллектуальные машины, которые умеют делать все лучше человека». Этот Качинский явно насмотрелся научной фантастики. Мой компьютер уж точно далек от того, чтобы выполнять мою работу лучше меня. Он постоянно выдает сообщения об ошибках.
— Intel inside, idiot outside[16], — заметил Бен сухо.
Однако Йаап не поддался на провокацию. Если уж хакер начал сыпать поговорками, то, очевидно, веские аргументы у него закончились.
— Ты веришь, что машины когда-то научатся мыслить?
— Чтобы ответить на этот вопрос, сначала нужно определить, что значит «мыслить». Однако в тексте об этом нет ни слова. В нем говорится о том, что машины научатся делать все лучше человека. И при этом совсем не обязательно, что они будут действовать как люди.
— Да ну? И что же, например, машины умеют делать лучше, чем люди?
— Много чего. Например, считать.
Йаап ухмыльнулся:
— Нашествие калькуляторов! Ох как страшно!
— Ты прикидываешься наивным, Клаузен? Машина победила действующего чемпиона мира по шахматам еще в 1997 году. С тех пор официальных дуэлей между человеком и компьютером не проводилось, потому что стало ясно, что у человека больше нет шансов на победу.
— Шахматы — это игра с четкими правилами, где все ходы просчитываются наперед. Понятно, что тут машина превзойдет человека. Но в областях, требующих эрудиции, у машины перед человеком нет шансов.
— В феврале 2011 года компьютер по имени Ватсон победил чемпиона мира в викторине «Своя игра», где как раз требовалась эрудиция, причем часто вместе со способностью думать нестандартно. Например, из высказывания «Даже сломанные они идут правильно дважды в сутки» программа смогла сделать вывод, что вопрос — о часах.
— Викторина — это еще не реальная жизнь. Может быть, в таких узких областях компьютеры и преуспели, но это совсем не значит, что они способны заменить людей.
— Ты прав, один-единственный компьютер никогда не сумеет все, что может человек. Однако так вопрос никто и не ставит. Когда-нибудь не останется ни одной сферы, в которой человек будет разбираться лучше отдельно взятого компьютера. Например, уже сейчас бортовые компьютеры сажают самолеты намного точнее, чем пилоты. Пилоты находятся в кабине лишь для того, чтобы приветствовать пассажиров и обнадеживать их, ну и для подстраховки. В Калифорнии уже сейчас в городах ездят Google-автомобили без водителей, что существенно сложнее, чем управлять самолетом. Более семидесяти процентов акций торгуется компьютерами, поскольку они гораздо быстрее людей отслеживают изменения котировок.
Йаап почувствовал себя загнанным в угол.
— То есть ты считаешь, что эти террористы — правы?
— Нет, но я считаю, что у них есть основания беспокоиться. Они не какие-то шизофреники, а интеллектуалы, которые задумываются о будущем и по-своему пытаются помочь людям.
— Помочь людям? И вырубают электричество по всему городу?
— Они, по крайней мере, не взрывают здания и не рассылают бомбы в почтовых конвертах. Они лишь хотят показать нам, насколько мы зависимы от техники. Это им удалось.
— Звучит так, будто ты на их стороне.
— Нет. Не вижу ничего плохого в технологиях. Как я уже сказал, проблема не в компьютерах, а в людях, которые ими пользуются. Качинский прав в одном: технологии наделяют злых, элиту общества, большей властью. Посмотри, что творит Агентство национальной безопасности США. Но грубой силой и незаконными акциями эти люди ничего не добьются. Их заклеймят как преступников или как сумасшедших, точно так же, как Качинского. Он своему делу ничуть не помог, а скорее, наоборот, навредил. Каждый, кто разделяет его взгляды или просто всерьез размышляет над этой темой, рискует прослыть луддитом и потерять доверие окружающих.
16
Intel inside, idiot outside (англ. «Внутри — „интел” [микропроцессор], снаружи — идиот») — шутка о неумении пользователей персональных компьютеров работать с техникой.