Однако в ходе визита Дайсон испытал немалое беспокойство. В финальной части своей работы он писал о важном предупреждении, которое Тьюринг сделал в работе «Вычислительные машины и разум». Великий математик писал, что в попытках создать интеллектуальные машины «мы не должны безответственно узурпировать власть Бога, создающего души, кроме как для рождения детей».
Затем Дайсон упомянул один комментарий, сделанный его «необычайно проницательным другом» во время визита в Googleplex: «Мне показалось, что это место было наполнено уютом. Счастливые золотистые ретриверы медленно бегут между разбрызгивателями воды на лужайке. Люди машут руками и улыбаются, повсюду можно увидеть игрушки. Я сразу же заподозрил, что где-то в тёмном углу таится невероятное зло. Если бы дьявол пришёл на Землю, мог бы он найти лучшее убежище?» Разумеется, подобная реакция может показаться слишком экстремальной, однако она вполне объяснима. Google, обладающая нереальными амбициями, огромными деньгами и империалистической точкой зрения на устройство мира, представляет собой естественное отражение и наших страхов, и наших надежд. «Кто-то говорит, что Google - это Бог, - признал Сергей Брин. - Другие полагают, что Google - это сатана».
Так что же таится в тёмных углах Googleplex? Стоим ли мы на пороге появления искусственного интеллекта? Стучатся ли наши кремниевые повелители в нашу дверь? Возможно, нет. Первая научная конференция по вопросам искусственного интеллекта прошла в Дартмуте летом 1956 года. В то время всем казалось очевидным, что в самом скором времени компьютеры будут способны воспроизводить человеческую мысль. По завершении месячного конклава математики и инженеры поделились своими мыслями в итоговом заявлении: «Каждый аспект обучения или другого проявления интеллекта может быть, в принципе, описан настолько точно, что возможно создание машин, его имитирующих». Вопрос заключался лишь в написании правильных программ или в преобразовании сознательных процессов, происходящих в человеческом мозге, в алгоритмы из ряда последовательных шагов.
Однако, несмотря на годы последующих усилий, работа человеческого мозга, как и прежде, ускользала от точного описания. В течение пятидесяти лет, прошедших с Дартмутской конференции, компьютеры начали работать со скоростью молнии, однако с точки зрения интеллекта, они остаются тупыми как пни. Наши мыслительные машины до сих пор не представляют себе, о чём именно они думают. Замечание Льюиса Мамфорда о том, что «ни один компьютер не может придумать никакой новый символ, основываясь на своих внутренних ресурсах», остаётся сегодня справедливым ничуть не меньше, чем в 1967 году, когда оно впервые было произнесено.
Однако защитники искусственного интеллекта не сдаются. Они просто переключают фокус своих усилий. Для этого им пришлось отказаться от написания программного кода, имитирующего процесс человеческого обучения и другие сложные функции интеллекта. Вместо этого они пытаются копировать в компьютерной схемотехнике электрические сигналы, движущиеся внутри миллиардов нейронов человеческого мозга. Они верят, что интеллект может «всплыть» в машине точно так же, как всплывает мышление в мозге человека. По словам Пейджа, если вы можете правильно произвести «общие расчёты», то алгоритмы интеллекта будут писаться сами собой. В эссе, написанном в 1996 году и посвящённом наследию фильма Кубрика, изобретатель и футуролог Рей Курцвейл утверждал, что как только мы сможем сканировать человеческий мозг с должной степенью детализации «и разобраться с архитектурой межнейронных связей в различных его областях», то сможем «смоделировать нейронные сети, действующие сходным образом». И хотя «мы пока не можем создать мозг, подобный устройству ЗАЛ, - заключил Курцвейл, - мы можем прямо сейчас описать, каким образом возможно решить эту задачу».
У нас крайне мало оснований считать, что этот новый подход к развитию интеллектуальной машины окажется более продуктивным, чем прошлый. Кроме того, он основан на редуктивных предположениях. Он принимает как данное, что мозг действует по тем же математическим правилам, что и компьютер, - иными словами, что мозг и компьютер говорят на одном языке. Однако в этом кроется значительная ошибка: мы пытаемся объяснить явление, которое не понимаем, понятными нам терминами. Фон Нейман предупреждал о том, что мы можем пасть жертвой этой ошибки. «Говоря о математике, - писал он в конце жизни, - мы обсуждаем некий вторичный язык, выстроенный на базе первичного языка, используемого нашей центральной нервной системой». И каким бы ни был язык нервной системы, «он наверняка будет значительно отличаться от того, что мы сознательно и явно подразумеваем под математикой».
Ошибочным также будет думать, что физический мозг и мозг мыслящий существуют как два независимых друг от друга слоя в рамках точно спроектированной «архитектуры». Как показали первые исследователи нейропластичности, мозг и мышление изысканным образом переплетаются между собой, формируя друг друга. Как писал Ари Шульман в статье 2009 года под названием «Почему наш мозг не похож на компьютер» в журнале NewAtlantis, «есть все основания считать, что наш мозг представляет собой не аккуратно отделимую иерархию, как у компьютера, а скорее, запутанную иерархию организации и причинно-следственных связей. Изменения в мышлении приводят к изменениям в мозге, и наоборот». Для того чтобы создать компьютерную модель мозга, в точности имитирующую процесс мышления, нам потребовалось бы произвести репликацию «каждого уровня мозга, на который влияет процесс мышления». Но так как мы находимся достаточно далеко от полного распутывания иерархии мозга и крайне мало понимаем, каким образом взаимодействуют между собой его уровни, создание искусственного мозга станет, в лучшем случае, уделом будущих поколений.
Google - не Бог и не сатана, и если в Googleplex и есть какие-нибудь тени того или другого, то это не более чем отражение мании величия. Многих раздражает в этой компании не мальчишеское желание создать крутую машину, способную думать лучше, чем её создатели, а ущербное представление о человеческом мозге, лежащее в основе этого желания.
Глава 9
ПОИСК И ВОСПОМИНАНИЯ
Сократ был прав. По мере того как люди всё больше привыкали записывать свои мысли и читать мысли, записанные другими, они стали куда меньше зависеть от содержимого собственной памяти. То, что прежде хранилось в голове, теперь могло храниться на табличках, свитках или между обложками кодексов. Как и предсказывал великий оратор, люди начали запоминать вещи не из-за внутренней потребности, а руководствуясь внешними знаками. С появлением печатного пресса и последовавшими за ним бурным развитием издательского дела и ростом грамотности важность личной памяти человека снизилась ещё сильнее. Книги и журналы в библиотеках и домашних коллекциях стали полноценным дополнением к биологическому хранилищу в нашем мозге. Отныне людям уже не нужно было запоминать всё подряд. Они могли просто обратиться к внешнему источнику.
Но на этом история не заканчивалась. Развитие печатных текстов привело к возникновению ещё одного эффекта, который Сократ не мог предвидеть, но наверняка приветствовал бы. Книги обеспечивали людей куда более широким и разнообразным набором фактов, мнений, идей и историй, чем когда-либо прежде. Метод и культура углублённого чтения помогали людям сделать выбор в пользу печатной информации, а не собственной памяти. Ещё в VII веке Исидор, епископ Севильский, заметил, что чтение «высказываний» мыслителей в книгах приводило к более быстрому их вымыванию из памяти. Так как каждый человек был волен выбирать свой собственный способ чтения и определять, что именно читать, социальный контекст перестал обуславливать индивидуальную память, и она стала, скорее, основой для развития личных перспектив и личности как таковой. Под воздействием книг люди начали воспринимать себя авторами собственных мемуаров. Шекспировский Гамлет называл свою память «книгой мозга».
Беспокоясь о том, что письмо ослабит человеческую память, Сократ выражал, по словам итальянского писателя и учёного Умберто Эко, «исконный страх - страх, что новая техника отменит или разрушит нечто хорошее, плодоносное, самоценное и духовное». Однако в данном случае страх был направлен на неверный объект. Книги представляют собой дополнение нашей памяти, однако, по словам Эко, они «закаляют память, а не убаюкивают её».