Представьте, что произойдет, если, например, в большом городе прекратится подача электроэнергии? Однажды это случилось в Нью-Йорке — и город был на грани катастрофы. В этом, если хотите, парадокс развития цивилизации: с одной стороны, человек придумывал различные технологии, изобретал технические устройства, облегчавшие жизнь, а с другой, появлялись новые потребности, вызванные этими же изобретениями.
Сегодня, скажем, меняется само представление о том, что именно считать интеллектуальной операцией, что в человеке мы должны связывать с разумом, сознанием, а что нет. И сейчас мы обнаруживаем, что целый ряд операций, которые требовали серьезных интеллектуальных усилий, можно подчинить определенным правилам, то есть алгоритмизировать. Следовательно, их уже нельзя считать признаком самостоятельного мышления. Но ведь и это не ново: например, для каждого ребенка овладение правилами сложения требует больших умственных усилий, хотя это один из простейших алгоритмов.
Сегодня человек впервые за свою историю обретает возможность отказаться от массы рутинных интеллектуальных операций. И на каждый момент развития вычислительной техники и программирования совершенно неясно, что интеллектуально, а что нет. Придумали сегодня новый алгоритм, и оказывается, что он открывает возможность, чтобы человек ушел и отсюда. Вот по какой причине возникает «тот самый» вопрос: не становится ли человек придатком машины?
Однако компьютеры, несмотря на все свое быстродействие, на растущий объем памяти, на увеличивающуюся сложность программ, появление так называемых когнитивных систем (например, систем когнитивной компьютерной графики), остаются лишь помощниками человека, и увы, далеко не такими «сообразительными», какими бы хотелось их видеть. Впереди еще очень большие возможности для освобождения человека от многих тяжелых, часто неинтересных работ. Уже существуют, например, компьютерные системы эффективной обработки символьной информации, существенно облегчающие труд ученых.
Неосновательность опасений «захвата власти» компьютерами, с моей точки зрения, связана еще и с тем, что компьютеры, несмотря на все большее их совершенство так же далеки от того, чтобы рассматриваться в качестве субъектов, как и их «предки»-арифмометры. Они не приобретают никаких потребностей, не имеют желаний, настроений. В отличие от них даже собака или кошка обладают самостоятельной волей. Но поскольку наука и сегодня не может дать точное и полное описание (и объяснение) причин и механизмов творческой деятельности человека (хотя по многим параметрам он значительно уступает современным ЭВМ), это приводит к необходимости вести исследования в области искусственного интеллекта по самому широкому спектру направлений. И в первую очередь добиваться от компьютера эффективных операций с наглядными образами, а чем человек наиболее силен, а также моделирования эмоциональной и волевой сфер человека, не ограничиваясь рационально-логической моделью. Иначе говоря, чтобы компьютер лучше решал многие задачи, он должен как можно точнее имитировать различные особенности человека. Помимо этого, такие исследования позволят более глубоко понять многие механизмы человеческого сознания, психики. Иначе говоря, они идут в русле задачи, выдвинутой еще в античности: «Познай самого себя».
Что же случится на длительных интервалах времени — другой вопрос. Может быть, человечество просто устанет. Может быть, придет к выводу, что биологические системы недостаточно подходящи для дальнейшей эволюции.
Другой вопрос, что компьютеры сегодня очень сложны; сложна структура их внутренних электронных связей, программного обеспечения, и человек не в состоянии обозреть большие компьютерные программы. Это самые сложные и объемные интеллектуальные продукты, когда-либо создававшиеся человеком. Они сложнее, чем научные теории, занимающие целые тома. Но книги человек может прочесть, здесь же необозримое море. Германский ученый В. Циммерли даже сформулировал парадокс, носящий его имя: «Надежность контроля систем обработки информации постоянно снижается, несмотря на использование все более совершенных контролирующих систем». Эта проблема действительно существует: сложные компьютерные системы все больше «отдаляются», «замыкаются» на себе; уменьшается степень контроля над ними. Однако и парадокс Циммерли разрешим: ведь программы, которые нельзя прочесть, функционируют, дают какой-то результат. Этот результат проверяем, человек способен проконтролировать, соответствует ли он целям, которые ставились при программировании. И насколько мне известно, нет случая, чтобы компьютеры выходили в область свободного поиска или проявляли собственную волю. У них не существует побудительных импульсов, потребностей, контактов с окружающей средой, которые могли бы переводить их на какие-то другие области деятельности. Правда, можно предположить, что все больше исследований будет вестись в области вероятностного программирования. Тем самым в программах будет задаваться все больше неопределенностей. Вот тогда, возможно, у компьютера появятся какие-то иные способности. Но пока я даже теоретически не вижу, как эти способности могут вылиться в некую автоэволюцию. Разве в какой-то особой среде, на какой-то изолированной планете будут размещены роботы с открытой программой, способной к эволюции, — хотя и в этом случае нельзя сказать, смогут ли они реально приспособиться к длительной и радикальной эволюции. Возможно, в них могут быть заложены блоки, связанные с усложнением каких-то потребностей и т. п. — и тогда люди, которые посетят эту планету через несколько сот лет, удивятся, увидев изменения, которые не были предусмотрены создателями первоначальных программ. Помните «Непобедимый» Станислава Лема и его «мушек» на планете Регис-3? Кстати, на меня большое впечатление произвел прочитанный в юности рассказ Лема «Формула Лимфатера», где заложена идея о том, что биологическая эволюция — лишь предыстория, предпосылка к эволюции разума более высокого, чем у человека, типа. Это и опасность, и одновременно закономерность эволюции в более широком смысле, которая обусловлена действиями самого человека.