Глава 4
Третий закон
Джордж Дайсон
историк науки и техники и автор книг «Каяк «Байдарка», «Дарвин среди машин», «Проект «Орион»» и «Собор Тьюринга».
В 2005 году Джордж Дайсон, историк науки и техники, посетил корпорацию «Гугл» по приглашению ряда тамошних инженеров. Поводом стала шестидесятая годовщина доклада Джона фон Неймана о возможности создания цифрового компьютера. После визита в «Гугл» Джордж написал очерк «Собор Тьюринга», где первым среди ученых предупредил общественность о планах корпорации и ее основателей по покорению мира. «Мы сканируем все эти книги не для того, чтобы их могли прочитать люди, – объяснял один из инженеров. – Мы сканируем их, чтобы их читал ИИ».
Джордж предлагает противодействовать цифровому наступлению. Его научные интересы разнообразны: тут и история алеутского каяка, и эволюция цифровых вычислений и телекоммуникаций, и происхождение цифровой вселенной, и несбывшиеся мечты о покорении космоса. Его карьера (он не закончил среднюю школу, но позднее сделался почетным доктором Университета Виктории) столь же невероятна, как и его книги.
Ему нравится отмечать, что аналоговые вычисления, которые ранее считались вымершими заодно с дифференциальным вычислителем[41], благополучно возродились. Он утверждает, что мы используем цифровые компоненты, но в определенный момент аналоговые вычисления, выполняемые системой, намного превышают сложность цифрового кода, с помощью которого эта система создавалась. Он считает, что подлинный искусственный интеллект – с аналоговыми контурами управления, возникшими из цифрового «субстрата» подобно тому, как цифровые компьютеры появились из аналоговых после Второй мировой войны, – не так далек, не исключено, как принято полагать.
В своем очерке Джордж рассматривает различия между аналоговыми и цифровыми вычислениями и приходит к выводу, что аналоговый метод жив и здоров. Реакцией природы на попытку запрограммировать машины для управления всем на свете могут оказаться машины без программирования, над которыми никто не властен.
Историю вычислений можно разделить, так сказать, на Ветхий и Новый Заветы: до и после появления электронных цифровых компьютеров и распространения кодов, ими порожденных, по всей Земле. Пророками Ветхого Завета, заложившими основы компьютерной логики, были Томас Гоббс и Готфрид-Вильгельм Лейбниц[42]. К пророкам Нового Завета принадлежат Алан Тьюринг, Джон фон Нейман, Клод Шеннон и Норберт Винер. Они создали машины.
Алану Тьюрингу было интересно, что необходимо для того, чтобы машины сделались разумными. Джон фон Нейман задавался вопросом о том, что потребуется для самовоспроизводства машин. Клод Шеннон искал ответ на вопрос, что понадобится для обеспечения надежной связи между машинами, независимо от силы шума. Норберт Винер задумывался над тем, сколько времени уйдет у машин на то, чтобы стать самостоятельными.
Предостережения Винера насчет систем управления, неподвластных человеческому контролю, прозвучали в 1949 году, как раз когда появилось первое поколение электронных цифровых компьютеров с хранимыми в памяти программами. Эти системы требовали прямого контроля со стороны людей-программистов и тем самым как бы опровергали его опасения. В чем проблема, пока программисты контролируют машины? С тех пор и по сей день споры о рисках самостоятельности увязывались и увязываются с дебатами о возможностях и ограничениях кодированных цифровыми способами машин. Несмотря на их удивительные способности, налицо весьма скромные проявления самостоятельности. Впрочем, предаваться самоуспокоенности опасно. А что, если на смену цифровым машинам придут какие-то другие?
За минувшие сто лет электроника претерпела два фундаментальных изменения – переход от аналога к цифре и переход от вакуумных ламп к печатным платам. Тот факт, что эти переходы происходили вместе, не означает, что они неразрывно связаны. Цифровые вычисления производились с использованием ламповых компонентов, тогда как аналоговые вполне возможно выполнять с применением плат. Аналоговые компьютеры, если угодно, живы и здоровы до сих пор, несмотря на фактическое исчезновение вакуумных ламп из коммерческой эксплуатации.
Никто не в состоянии провести строгое различие между аналоговыми и цифровыми компьютерами. Цифровые вычисления больше опираются на целые числа, двоичные последовательности, детерминированную логику и идеальное время, делимое на дискретные приращения, тогда как аналоговые вычисления оперируют действительными числами, недетерминированной логикой и непрерывными функциями, в том числе временем как континуумом, каким оно воспринимается в реальном мире.
41
42
Английский философ Т. Гоббс трактовал мышление как логическую совокупность математических операций; немецкий философ Г.-В. Лейбниц предложил один из первых проектов логического исчисления («комбинаторики»).