Та же двусмысленность, которая в прошлом послужила мотивом создания сомнительных проектов в области искусственного интеллекта, сегодня преподносится в виде массовой культуры. Действительно ли поисковик знал, что вам нужно, или вы подыгрываете, снижая стандарты, чтобы он казался умным? Хотя совершенно естественно ожидать, что восприятие человека будет меняться в результате взаимодействия с новыми технологиями: чтобы человек рассматривал разум машины как реальный, требуется ослабить собственную связь с реальностью.
Значительная часть адептов искусственного интеллекта после длительного периода неудачных экспериментов в таких областях, как распознавание естественных языков, в конечном счете нашла успокоение в восхищении коллективным разумом, который демонстрировал лучшие результаты, поскольку за сценой были реальные люди.
Например, «Википедия» основана на том, что я называю иллюзией оракула: знание об авторе подавляется с целью придать тексту сверхчеловеческую достоверность. Традиционные «священные» книги работают по такому же принципу и порождают много схожих проблем.
Это еще одна причина, по которой я иногда думаю о кибернетическом тотализме как о новой религии. Такое обозначение гораздо глубже, чем приблизительная метафора, поскольку включает новый тип поиска жизни после смерти. Для меня очень странно, что футуролог и изобретатель систем распознавания речи Рэй Курцвейл хочет, чтобы глобальное вычислительное облако вобрало в себя содержимое наших мозгов, с тем чтобы мы могли жить вечно в виртуальной реальности. Когда я с друзьями строил первую машину виртуальной реальности, единственной задачей было сделать этот мир более творческим, выразительным, сочувственным и интересным. А не убежать от него.
Множество на первый взгляд отличающихся друг от друга «гениальных идей», сводящихся к обожествлению иллюзий битов, восторгают Кремниевую долину, Уолл-стрит и прочие центры силы. На другом конце телефонной линии может оказаться «Википедия» или симуляция человека. Но на самом деле мы просто снова и снова становимся свидетелями повторения ошибки Тюринга.
Возобладают ли в науке, экономике или культуре основанные на идее облака модные процессы над традиционными, требующими человеческого осмысления? Нет, поскольку лишь осмысление человеком позволяет существовать содержимому облака.
Культура освобождения фрагментов с затаенным дыханием ожидает будущего технологического триумфа, который приведет к сингулярности или другим подобным воображаемым событиям. Но уже существует несколько примеров того, как тест Тюринга был практически пройден, снижая степень персонификации. Одним из таких примеров служат шахматы.
Игре в шахматы присуще редкое сочетание качеств: очень просто понять правила, но очень трудно хорошо играть. И, что самое важное, попытки повысить мастерство игры кажутся бесконечными. Игроки добиваются все более высоких результатов, однако ни один из них не будет утверждать, что достиг высочайшего уровня.
Компьютеры и шахматы имеют общие корни. И те и другие возникли как орудия войны. Шахматы появились как симуляция битвы, мысленное боевое искусство. Конструкция шахмат даже напоминает о еще более отдаленном прошлом — временах нашего грустного животного наследия субординации и соперничающих кланов.
Аналогично и современные компьютеры были разработаны для управления ракетами и взлома секретных военных шифров. И шахматы, и компьютеры — прямые потомки насилия, которое движет эволюцию в живой природе, сколь бы абстрактным и санированным это насилие ни было в контексте цивилизации. Соревновательный дух практически осязаем и в информатике, и в шахматах, а когда их совмещают, адреналин просто захлестывает.
Для исследователей в области информатики шахматы привлекательны именно потому, что мы плохо в них играем. С нашей точки зрения, мозг человека обычно выполняет задачи, которые кажутся невыполнимыми, например распознает предложения, — однако мы не проводим состязаний по распознаванию предложений, поскольку эта задача кажется нам слишком простой и тривиальной.
Похожим образом нас очаровывают и расстраивают компьютеры. Научиться программировать могут и дети, тем не менее хорошо программировать чрезвычайно трудно даже для признанного профессионала. Несмотря на очевидный потенциал компьютеров, мы слишком хорошо знаем, что еще не придумали лучших программ для него.