Но времена меняются.
Оглядываясь назад, я понимаю, что чем больше я работал, тем сильнее начинал бояться компьютерных систем. Система DOS 1980-х, возможно, была примитивной, но она, кроме того, была безопасной, поскольку вела себя очень просто и делала то, что ты ей приказывал. Все ее действия находились в границах предсказуемости. В то время операционные системы обладали более высокой степенью прозрачности. Говорят, что отдельные, очень терпеливые люди могли прочесть весь исходный код DOS и очистить его от самых крошечных ошибок. Но операционные системы развивались с головокружительной скоростью, и простые командные строки превратились в прекрасные и замысловатые графические интерфейсы. Подобные системы постепенно становились все более похожими на «черные ящики». Они начинали действовать непредсказуемо. Казалось, что компьютеры в одночасье превратились из невинных детей в опытных заговорщиков. Теперь подобные системы стали полностью непрозрачными. Мы можем лишь подчиняться им; никто не знает, какие мысли текут в их темных ядрах. Иногда мне кажется, что жужжание жесткого диска сервера – это басовитый злой смех и что горящие сетевые индикаторы мигают, словно многочисленные злобные глаза. Отладка подобных «лабиринтов» в «железе» и «софте» является таким же раздражающим и безнадежным процессом, как и ползание по склизким кишкам монстра. Иногда тестирование программы занимает больше времени, чем ее написание, особенно если это программа, которая отслеживает действия пользователей в Сети.
Я должен признать: все это – чистая психология. Система DOS необязательно более стабильна, чем Windows 2000 или XP, не говоря уже о строгих, твердых и надежных, как скала, операционках DCS на основе Unix, которые используют на атомных электростанциях. Но по мере эволюции компьютеров люди невольно начинают думать, что утратили контроль над чем-то. Если говорить об операционных системах, то так думает не только огромное число пользователей, но и сами разработчики. Один инженер из Microsoft однажды сказал, что разрабатывать Windows – все равно что падать в темное, липкое болото; как ни барахтайся, ты все равно уходишь на дно. Пытаться контролировать всю ситуацию в целом – это просто безумие.
Возможно, это признак того, что наступает заря эры искусственного интеллекта.
Вне зависимости от того, какую среду мы выбираем – DOS, Windows, Unix или Linux, – поведение программы является прозрачным и предсказуемым. Если вы просто потратите достаточное количество человеко-часов, то чисто теоретически сможете понять схему работы любой программы. У вас получится написать мониторинговую программу, которая будет точно записывать каждое действие других программ, создавая полный отчет о процессе обработки данных. Даже случайные числа, созданные программами, можно предсказать, потому что современные функции генерации случайных значений выдают числа не вполне случайным образом. И если удастся добиться случайности, ситуация не очень сильно изменится, поскольку вычислительный процесс по-прежнему останется прозрачным. Пока я программировал экспертную систему для паровых турбин, меня просили записывать логический процесс, который использует система, а также то, как работает функция поиска в базе знаний. Эксперты по паровым турбинам считали данное занятие невыносимо скучным, и нам, программистам, приходилось просматривать огромные папки распечаток, с древовидными диаграммами на каждой странице.
Но по мере развития технологий компьютерные системы становятся все более непрозрачными и непредсказуемыми. Хотя количественные изменения еще не перешли в качественные, добавление новой, не-фон-Неймановской архитектуры к новым программам – такой, как эволюционные алгоритмы, – возможно, станет тем событием, которое приведет к прорыву на новый уровень.
Это создает еще одну фундаментальную проблему: является ли человеческий интеллект по своей сути непредсказуемым? В природе хаотичная система является классическим примером крайне большого и непредсказуемого набора феноменов. Возможно, одной из таких хаотичных систем является мозг? Если интеллект действительно появляется в ходе взаимодействия бесчисленного количества нейронов, тогда ответ на этот вопрос – «нет». Хотя в нашем мозге столько же нейронов, сколько звезд в Млечном Пути, взаимодействия подобного вида по-прежнему остаются прозрачными и предсказуемыми; в теории кто-то мог бы понаблюдать за деятельностью мозга и записать каждую мысль. Но кто знает, какая именно непредсказуемость скрывается за этим огромным числом взаимодействий? В своей книге «Новый ум короля. О компьютерах, мышлении и законах физики» Роджер Пенроуз[19] утверждает, что компьютеры по природе своей не способны симулировать человеческий интеллект.
19
Роджер Пенроуз (р. 1931) – британский математик и физик, доктор философии, возглавляет кафедру математики в Оксфордском университете. Лауреат Нобелевской премии по физике. В книге «Новый ум короля» (1989) касается гипотез квантового сознания и обосновывает несостоятельность создания ИИ.