Чтобы понять, как они додумались до такого плана, стоит вспомнить, что до того, как появились компьютеры, широко распространенной метафорой понимания природы человека был паровой двигатель. Сексуальное давление нарастало и приводило к поломке машины, поэтому противоположная сущность, женского рода, должна была сбалансировать механизм и снизить давление. Пусть эта история послужит предостережением. Всеобщее использование компьютеров, как мы их понимаем сегодня, в качестве источника моделей и метафор нас самих, по-видимому, настолько же оправданно, как и использование для этих целей парового двигателя годы назад.
У Тюринга выросла грудь и появились другие женские признаки, а также развилась тяжелейшая депрессия. Он покончил с собой, пропитав яблоко цианидом и съев его в своей лаборатории. Незадолго до смерти он опубликовал духовный текст, который нужно оценивать отдельно от его технических достижений. Это знаменитый тест Тюринга. По-настоящему новые духовные идеи появляются крайне редко, и то, что Тюринг сформулировал ее, — еще один пример его гения.
Тюринг представил идею в виде мысленного эксперимента, основанного на популярной викторианской салонной игре. Мужчина и женщина прятались, а арбитр должен был определить, кто есть кто, основываясь только на текстах передаваемых записок.
Тюринг заменил женщину компьютером. Сможет ли арбитр определить, где человек (мужчина)? Если нет, то имеет ли компьютер сознание? Разум? Заслуживает ли он равных прав с человеком?
Мы не можем знать, какую роль сыграла пытка, которой Тюринг подвергался, когда работал над этим текстом. Но невозможно отрицать, что одного из людей, сыгравших ключевую роль в разгроме фашизма, после окончания войны уничтожили мы сами, и лишь потому, что он был геем.
Неудивительно, что в своем воображении он задавался вопросами прав странных существ.
Ко времени смерти Тюринга программное обеспечение находилось в столь ранней стадии развития, что никто не мог себе представить, каким запутанным оно станет в будущем. Тюринг придумал чистую, кристаллизованную форму существования в цифровом мире, и, думаю, было облегчением представить себе форму жизни, отдельную от страданий плоти и политики сексуальности. Примечательно, что компьютером ученый заменил именно женщину и что самоубийство Тюринга повторило падение Евы.
Каковы бы ни были мотивы, Тюринг придумал первую метафору, поддерживающую идею того, что биты могут жить своей жизнью, независимой от людей-наблюдателей. Эта идея с тех пор появлялась тысячи раз, от искусственного интеллекта до коллективного разума, не говоря уже о множестве раздутых стартапов Кремниевой долины.
Однако мне кажется, что тест Тюринга не совсем верно интерпретировался поколениями технологов. Обычно его приводят в защиту тезиса, что машины могут достичь того, что у людей называется разумом. В конце концов, если машина заставила вас поверить, что она разумна, утверждать после этого обратное было бы проявлением фанатизма.
Даже если Тюринг надеялся на что-то другое, на самом деле тест говорит только о том, что разумность машины можно оценить лишь относительно, глазами человека-наблюдателя.[9]
В этой книге я критикую способ мышления, аналогичный искусственному интеллекту. Если машина может быть разумна, то вычислительное облако будет лучшим и гораздо более мощным разумом, чем разум отдельного человека. Если вы в это верите, то работа на благо вычислительного облака, а не отдельного человека ставит вас на сторону ангелов.
Но тест Тюринга работает в обе стороны. Вы не можете сказать, это машина стала умнее или вы снизили собственные стандарты понятия «разумный» до такой степени, что машина кажется умной. Если вы способны разговаривать с персонажем, представленным программой искусственного интеллекта, можете ли вы определить степень деградации вашего чувства личности, необходимую, чтобы иллюзия работала на вас?
Чтобы машины все время казались умными, люди сознательно деградируют. До кризиса банкиры верили в якобы умные алгоритмы, способные просчитать кредитные риски прежде, чем выдавать плохие кредиты. Мы требуем от педагогов обучения прохождению стандартизованных тестов, чтобы ученики хорошо выглядели с точки зрения алгоритма. Мы неоднократно демонстрировали беспредельную способность нашего вида снижать стандарты, чтобы информационные технологии выглядели хорошо. Каждое проявление разума в машине двусмысленно.
9
Одним из последствий трагической смерти Тюринга является то, что он не успел сформулировать все, что наверняка бы поведал о собственной точке зрения на свой тест.
Историк Джорж Дайсон предполагает, что Тюринг мог быть в
В статье Тюринга 1950 года о тесте есть выдающееся высказывание: «В попытках создать такие машины мы не должны непочтительно узурпировать Его власть создавать души более, чем мы посягаем на нее в процессе деторождения: напротив, и в том и в другом случае мы лишь инструменты Его воли, создающие вместилища для создаваемых Им душ».