Иными словами, машины, даже если они менее разумны, чем человек, могут выйти из-под нашего контроля благодаря колоссальной скорости выполнения операций. Фактически есть все основания предполагать, что машины станут намного разумнее своих создателей, так же как и несравненно быстрее их.
Остались еще авторитеты, которые наотрез отказываются наделить разумом как современные, так и будущие машины. Их позиция поразительно напоминает ту, которую занимали химики в начале XIX столетия. Тогда уже было известно, что все живые организмы состоят из нескольких обыкновенных элементов — в основном из углерода, водорода, кислорода и азота. Однако твердо считалось, что вещества, из которых строится живое, нельзя получить из одних «чисто» химических соединений. Должен быть еще какой-то ингредиент — некая сущность, или жизненная основа, которую человек никогда не сможет познать. Ни один химик не сможет, взяв углерод, водород и так далее, соединить их так, чтобы получилось какое-нибудь из тех веществ, на которых основывается жизнь. Миры «органической» и «неорганической» химии разделял неприступный барьер.
Эта мистика была развеяна в 1828 году, когда Вёлер синтезировал мочевину и показал, что между химическими реакциями, идущими в организме, и теми реакциями, которые происходят в реторте, никакой разницы нет. Это был сокрушительный удар по тем святошам, которые верили, что механика жизни навсегда останется недоступной для понимания или воспроизведения. Точно так же сегодня многие люди возмущены предположением, что машины могут думать, однако их недоброжелательство ничего не изменит в существующем положении.
Поскольку эта книга не трактат о проектировании вычислительных устройств, читателю не следует ждать от меня объяснений, как построить думающую машину. И вряд ли человек когда-нибудь сумеет дать такое объяснение во всех деталях. Но можно указать последовательность событий, которая приведет от homo sapiens к machina sapiens[42]. Первые два-три шага по этому пути уже сделаны: существуют машины, которые способны обучаться, извлекая уроки из своих ошибок и — в отличие от человека — никогда не повторяя их. Существуют машины, которые не бездействуют в ожидании инструкций, а исследуют окружающий их мир, как если бы им была свойственна любознательность. Есть машины, которые отыскивают доказательства математических или логических теорем и иногда получают неожиданные решения; которые никогда не приходили в голову их создателям.
Эти слабые проблески оригинального мышления пока присущи лишь немногим лабораторным моделям; их совсем лишены гигантские вычислительные машины, которые может купить любой, у кого найдется несколько сот тысяч долларов. Но машинный разум будет развиваться, и он начнет выходить за рамки, присущие мышлению человека, как только появится второе «поколение» вычислительных машин — «поколение», которое будет спроектировано не людьми, а другими «почти разумными» вычислительными машинами. Машины станут не только проектировать, но и строить, ибо машины второго «поколения» будут иметь слишком много компонентов, чтобы их можно было собирать вручную.
Возможно даже, что первая подлинно думающая машина будет выращена, а не построена. В этом направлении уже проведены некоторые несовершенные, но очень перспективные эксперименты. Построено несколько искусственных организмов, которые могут изменять свои схемы в целях приспособления к изменяющимся обстоятельствам. За этими экспериментами кроется возможность создания таких — вначале сравнительно несложных — вычислительных машин, которые будут запрограммированы на достижение определенных целей. В поисках путей к решению поставленной задачи они начнут конструировать собственные контуры, вероятно, посредством выращивания сетей проводников в проводящей среде. Такое разрастание, возможно, будет всего лишь механической аналогией процесса, происходящего в каждом из нас в первые девять месяцев существования.
Все раздумья о мыслящих машинах с неизбежностью обуславливаются и вдохновляются нашими знаниями о человеческом мозге — единственном мыслящем устройстве, которым мы располагаем. Никто, конечно, не претендует на полное понимание работы мозга и не надеется, что оно будет достигнуто в обозримом будущем. Кстати, вот превосходная задача для философов: способен ли мозг когда-нибудь, хотя бы в принципе, познать себя? Но мы достаточно много знаем о его физическом строении, чтобы сделать целый ряд выводов об ограничениях, присущих мозгу — как органическому, так и его машинному аналогу.
42
Machina sapiens — мудрая машина (по аналогии с биологическим наименованием человека). —