Моравек скептически относится к «законам робототехники», сформулированным писателем-фантастом А. Азимовым, и не надеется на то, что в сознание роботов удастся внедрить имманентные алгоритмы человеколюбия, а значит, в этой конкуренции шансы человечества равны нулю.
Такие высказывания профессионалов уже начали влиять на массовые настроения. В США появились неолуддиты, физически истребляющие программистов как носителей главной опасности для человеческого рода. Рассказывая об этих фактах, о пострадавших друзьях и коллегах, о том, что и сам может стать очередной мишенью, уже известный нам Б. Джой, соучредитель и главный специалист компании «Сан майкросистем», неожиданно солидаризировался со своими смертельными врагами [Joy B., 2000].
Характерно само заглавие его статьи: «Мы не нужны будущему». Автор много лет увлеченно работал над совершенствованием компьютерных программ и созданием нанотехнологий с верой в то, что его труды сделают мир лучше и комфортнее для людей. Но теперь, добившись крупных результатов и продумав соотношение позитивных и негативных последствий, он с ужасом убедился, что создает могильщика человечества.
По расчетам Джоя, к 2030 году мощность самых совершенных компьютеров 2000 года будет превзойдена более чем в 1 млн. раз (!) [3] . Этого достаточно для появления разумного робота («нанобота») способного к самовоспроизводству и, соответственно, для образования «вида роботов». В сочетании с новыми возможностями физики и генетики это обеспечит тотальную искусственную перестройку мира, в котором человеку места не останется.
Ученый рассматривает различные проекты спасения людей, вплоть до удаления их на другие планеты, но единственное реальное средство видит в запрете на развитие компьютерных технологий. Он готов первым отказаться от дальнейшей работы в этом направлении, хотя опасается, что его предложение уже запоздало…
Своеобразный рекорд завершенности леденящих душу картин принадлежит сотруднику НАСА, российско-американскому специалисту по компьютерам А. А. Болонкину, статью которого в 1995 году опубликовала «Литературная газета». Между людьми и роботами (электронными Е-существами) – вездесущими и во всех отношениях превосходящими своих создателей – возникнет поляризация. Созданные для блага людей, Е-существа перестанут нуждаться в духовной связи с ними и приступят к их уничтожению. В итоге вид Homo sapiens будет представлен небольшим числом особей в био-кислородных резервациях вроде наших зоопарков. Ибо станет очевидно, что «человечество выполнило свою историческую миссию и не нужно более ни природе, ни Богу, ни простой целесообразности» [Болонкин А.А., 1995].
Характерно, что в рассуждениях Болонкина отсутствуют мотивы литературной антиутопии, предупреждения или хотя бы (как, например, у Джоя) сожаления о судьбе человечества, завершающего свою «миссию». Эмоции бесполезны, так как всякие попытки остановить, запретить научно-технический прогресс или изменить его формы – напрасны, а будущее предопределено. Хотя автор даже не скрывает наполняющего его восторга по поводу начертанной перспективы.
Здесь невольно задумаешься, как в старом анекдоте: а стоило ли? Если драматическая история разума и культуры приводит только к образованию все более могущественных и безжалостных агрессоров, то нужно ли беспокоиться о дальнейшем сохранении цивилизации?
Впрочем, это вопрос из области сантиментов, опускаться до которых приверженцы экстремального прогрессизма не склонны. Но тогда возникает другой вопрос, уже вполне «рациональный» и изоморфный тем, что относились к сценариям «столкновения цивилизаций» и «золотого миллиарда»: долго ли сможет удержаться от самоистребления интеллект, сочетающий столь высокий инструментальный потенциал со столь убогими ценностными установками?..
Я считаю ответ на этот вопрос очевидным. Технократы-прогрессисты приводят нас к тому же итогу, что и романтики-фундаменталисты, только более извилистой дорогой: на финише маячит самоистребление человечества и всего, что создано историей. Запреты, которые предлагает Джой (и некоторые другие ученые), как показывает весь материал его же статьи, бесперспективны. Не только потому, что джин «знаний массового поражения» уже выпущен из бутылки. Если бы даже удалось загнать его обратно, без развития новейших технологий численно растущее и биологически слабеющее человечество все равно было бы обречено…
Даже великий физик С. Хокинг [1998] – человек, много лет прикованный к инвалидной коляске, лишенный речи и, в отличие от благополучных коллег, со светлым оптимизмом глядящий в будущее человечества (психологическая компенсация?) – отдает дань представлению о «борьбе за лидерство с электронным роботом». Ради успешной борьбы, по мнению ученого, необходимо «улучшать интеллектуальные и физические качества человека» посредством генной инженерии (с.5). Мне представляется странной надежда на то, что скорость генетических трансформаций, даже искусственных, может сравниться со скоростью саморазвития электронных систем, а расчет на успех в такой «борьбе за лидерство» – беспочвенным.
Обсуждаются и сценарии, предполагающие не прямое соперничество человеческого и электронного интеллектов, а различные формы их симбиоза. Но и здесь все непросто.
Можно долго и полезно спорить о терминах типа «душа», «механизм», «человек», «машина». Но важно, чтобы словесные баталии не заслонили существо дела. Едва ли кто-либо способен точно указать момент, когда в искусственном творении человеческого ума обозначится новое субъектное качество – суверенное отношение к миру и к человеку.
Самый мягкий прогрессистский сценарий предполагает встречное развитие двух тенденций: «денатурализация первой природы» (стихийные биотические регуляции антропосферы, включая человеческий организм, вытесняются искусственными) и «одушевление второй природы» (продукты и орудия человеческой деятельности обретают качества субъектности). Образующиеся в итоге симбиозные формы интеллекта и цивилизации могли бы обеспечить коренное разрешение нынешних глобальных проблем. Однако даже при самом благоприятном раскладе жертвой такого развития стал бы человек в его качественной определенности…
Авторы футурологических трудов, предусматривающие такую перспективу, оценивают ее диаметрально противоположно. У одних, склонных к ностальгии и обладающих подчас художественным даром, слышится своего рода «Плач Ярославны» по уходящей стихийности природы и человеческой души [Кутырев В.А., 1994], [Зиновьев А.А., 2000]. Другие восторженно описывают киборгов и прочие электронные чудища, призванные, как и герои Моравека, вытеснить несовершенных белково-углеводных человеков [Kosko B., 1994], [More M., 1994], [Болонкин А.А., 1995].
Выходит, все – не слава богу. И попятный путь, и топтание на месте, и прогресс одинаково гибельны. Одна из главных задач дальнейшего нашего исследования состоит в том, чтобы выяснить, действительно ли ситуация так безысходна. Может ли рост человеческого населения сочетаться с ростом благосостояния и улучшением экологической обстановки? Способны ли люди жить без войн? Должны ли различные формы развитого интеллекта непременно стать конкурентами и даже врагами, наподобие близких по функции зоологических видов? И главное: на каком пути – удаления от традиционного общества или возврата к нему – человечество ожидает «меньшее зло»?
Вопросы такого рода сегодня требуют обстоятельно аргументированных ответов.
…При характеристике нынешнего исторического этапа вспоминают как Одиссея, лавирующего между Сциллой и Харибдой, так и былинного богатыря на распутье дорог, каждая из которых грозит потерями. Второй образ точнее в том смысле, что обозримое будущее планетарной цивилизации представляет собой набор паллиативов: среди реалистичных сценариев нет ни одного беспроигрышного.
Разумеется, беспроигрышных путей история не знала никогда, они существовали разве что в воображении религиозных фанатиков, утопистов и прожектеров. Но наступившее столетие в данном отношении существенно отличается от предыдущих.