Мы слишком много думаем о машинном интеллекте и уделяем недостаточно внимания самовоспроизведению, коммуникациям и контролю. Следующая революция в компьютерном мире ознаменуется возвышением аналоговых систем, над которыми утратит власть цифровое программирование. Ответ Природы тем, кто верит, что возможно создать машины, контролирующие все на свете, будет заключаться в том, что им позволят создать машину, которая станет контролировать их самих.
Глава 5
Что мы можем сделать?
Дэниел К. Деннет
профессор философии в университете и стипендиат Остина Б. Флетчера, а также директор Центра когнитивных исследований при университете Тафтса. Он опубликовал более десятка книг, в том числе «Объясненное сознание» и, если упоминать последние, «От бактерий к Баху и обратно: эволюция разума».
Дэн Деннет – «философ выбора» в сообществе исследователей искусственного интеллекта. Возможно, он наиболее известен в когнитивных науках своей концепцией интенциональных систем и моделью человеческого сознания, которая описывает вычислительную архитектуру репрезентации потока сознания в массово-параллельной [44]коре головного мозга. Против такого бескомпромиссно «вычислительного» подхода выступали такие философы, как Джон Серл, Дэвид Чалмерс и покойный Джерри Фодор[45], которые утверждали, что наиболее важные аспекты сознания – интенциональность и субъективные признаки – не подвластны вычислениям.
Двадцать пять лет назад я навещал Марвина Минского, одного из пионеров в исследованиях искусственного интеллекта, и спросил его о Дэне. «Он наш лучший нынешний философ, новый Бертран Рассел, – сказал Марвин и добавил, что, в отличие от традиционных философов, Дэн изучал нейронауки, лингвистику, искусственный интеллект, информатику и психологию. – Он переосмысливает философию и реформирует ее роль. Конечно, Дэн не понимает мою теорию сообществ разума[46], но никто не совершенен».
Мнение Дэна по поводу стараний исследователей ИИ создать сверхразум остается неизменно уравновешенным. С какой стати беспокоиться? В своем очерке он напоминает нам, что ИИ прежде всего следует рассматривать – и воспринимать – как инструмент, а не как человекоподобного коллегу.
Он начал интересоваться теорией информации, когда проходил обучение в Оксфорде. Вообще-то он признался мне, что на заре своей карьеры всерьез обдумывал, не написать ли ему книгу о кибернетических идеях Винера. Для мыслителя, приверженного научному методу, показательна его готовность ошибаться. В недавней статье под названием «Что такое информация?» он заявляет: «Я опираюсь на принципы, но допускаю их пересмотр. Я уже вышел за их пределы и осознаю, что разработаны иные, лучшие способы решения некоторых задач». Скорее всего, он сохранит хладнокровие и беспристрастность применительно к исследованиям ИИ, хотя сам Дэн нередко признает, что его собственные идеи эволюционируют – как и все идеи на свете.
Многим знакома ирония ситуации, когда впервые читаешь великую книгу в том возрасте, когда еще слишком молод, чтобы сполна оценить ее величие. Причислить классическое произведение к уже прочитанным и тем самым как бы обезопасить себя от дальнейшего влияния, усвоив всего-навсего сюжет и обрывки нескольких непонятных идей – вот верный рецепт потратить время впустую и без всякой пользы. Эта мысль сразу пришла мне на ум, когда я стал перечитывать «Человеческое применение человеческих существ». Первый раз я прочитал эту книгу шестьдесят лет назад, в далекой юности. Вообще-то, стоило бы ввести в обычай перечитывание книг нашей молодости, ведь так нам откроются наглядные признаки ряда наших собственных более поздних «открытий» и «изобретений», а также станет понятным, какое богатство идей мы вынужденно игнорировали до тех пор, пока наш разум не натренировался, не познал страдания и радости, а кругозор не расширился благодаря многочисленным житейским вызовам, которые пришлось преодолевать.
Написанная в те времена, когда вакуумные лампы являлись основными «кирпичиками» электронных устройств, а действующих вычислительных машин имелось считаное количество, книга Норберта Винера рисовала будущее, в котором мы сегодня обитаем, с поразительными прозрениями – и почти без явных ошибок. Знаменитая статья Алана Тьюринга «Вычислительная техника и интеллект» (1950) в философском журнале «Майнд» предрекала появление ИИ, и Винер разделял это мнение, но он смотрел дальше и глубже, признавая, что ИИ не просто будет подражать людям (и постепенно избавит их от множества интеллектуальных действий), но изменит саму человеческую природу.
44
Подразумевается, что кора головного мозга у человека действует по принципу разделения системы на отдельные полуавтономные узлы.
45
Джон Серл – американский философ, критик идеи искусственного интеллекта; Дэвид Чалмерс – австралийский философ, выдвинул т. н. дуалистическую теорию сознания («легкие» проблемы сознания, доступные для решения традиционными методами, и «трудные», которые наука разрешить не в состоянии); Джерри Фодор – американский когнитивист, отстаивал гипотезу о существовании особого «языка мыш– ления».