Но Иван уже предвосхитил эту защиту. Он признает, что христианская история обещает, что все грехи будут искуплены в конце времен, что мать обнимет убийцу своего ребенка, и оба они подтвердят вечную справедливость Бога. Он находит эту идею отвратительной. Как смеет мать обнимать убийцу своего ребенка? Вечная гармония не стоит стольких страданий. И все же здесь его аргументы начинают саморазрушаться. Он признает, что его неспособность понять Божью справедливость, вероятно, объясняется ограниченностью его человеческого восприятия. "Такая истина не от мира сего и недоступна моему пониманию, - говорит он. Вечный порядок существует в четырех измерениях, но его разум способен понять только три. Здесь он возвращается к метафоре из физики:
Я - букашка, и со всем смирением признаю, что не могу понять, почему мир устроен так, как он устроен... С моим жалким, земным, евклидовым пониманием я знаю лишь, что есть страдание и что нет виновных; что причина следует за следствием, просто и непосредственно; что все течет и находит свой уровень - но это лишь евклидова чепуха, я знаю это.
И все же, в отличие от Иова, который покорился Богу, признав ограниченность своих разумных способностей, Иван отказывается отступать. Очень может быть, говорит он Алеше, что он слишком глуп, чтобы понять высшие цели Бога. Но он не может согласиться с системой, которая противоречит его человеческому чувству справедливости. А инстинкты подсказывают ему, что за гармонию и искупление придется заплатить слишком высокую цену. "Я полностью отказываюсь от высшей гармонии", - заявляет он. "Она не стоит слез одного замученного ребенка... Мне не нужна гармония. Из любви к человечеству я не хочу ее... Я лучше останусь со своим неизжитым страданием и неудовлетворенным негодованием, даже если я не прав". Если рай требует таких страданий, говорит он, то "я поспешу вернуть свой входной билет".
"Это бунт, - говорит Алеша.
Иван, вместо того чтобы защищать свои мотивы, заставляет брата признать, что и ему в какой-то степени эта логика кажется отвратительной. Он бросает Алеше вызов: Представь, что ты создаешь мир и исторический план с целью сделать людей в конце концов счастливыми, но для этого необходимо замучить всего одного ребенка. Согласились бы вы на такую сделку?
Алеша вынужден ответить честно. Нет, - тихо говорит он, - он не согласится.
Когда мы обсуждали роман в классе, ни профессор, ни мои одноклассники не были заинтересованы в том, чтобы ответить на обвинения Ивана в адрес Бога и на то, что Алеша, моральный центр романа, по сути, подтвердил их справедливость. Вместо этого обсуждение сосредоточилось на моменте, который я совершенно упустил из виду, - простом жесте, который происходит в конце сцены. Когда Иван заканчивает свой спор, Алеша встает, чтобы уйти, и кланяется, чтобы поцеловать брата в губы. Это единственный ответ, который он дает: никаких слов, никакой логической защиты, только простой жест любви. К концу нашей беседы мне стало ясно, что это и есть истинная защита автора: вера непонятна и абсурдна, это прыжок, который невозможно свести к принципам разума.
Это была книга Иова: Наш разум - неисправный инструмент. Божья воля совершенна. Все, что мы можем сделать, - это покориться. Но на этот раз я не мог смириться с таким выводом. Роман дал мне понять, что я глубоко восхищаюсь Иваном в его бунте, так же как восхищался Иовом в его бунте. Обсуждение в классе не смогло изменить того факта, что Иван показался мне более героическим и принципиальным, чем его набожный брат, более готовым довести сложные истины религии до логического завершения и отстоять свои глубоко укоренившиеся убеждения. В этом было что-то мужественное - и как же так получилось, что человеческое мужество оказалось более совершенным, чем божественная справедливость? Я уже знал христианский ответ на этот вопрос: это был еще один признак моей слабой веры, доказательство того, что я тоже восстал против Бога. Но к тому моменту было уже слишком поздно. Иван подсказал мне выход - или, возможно, просто дал язык, чтобы его сформулировать. Книга открыла новое измерение проблемы, которую я представлял себе строго в бинарных терминах. Я не мог спорить с божественной справедливостью или доказывать, что Бог - тиран. Но я мог настаивать на обоснованности человеческой морали. Я тоже мог вернуть свой билет.
-
Только спустя годы я понял, что моим противником в этой игре был не всемогущий Бог, а система человеческого мышления. Кальвинистский акцент на инаковости Бога, его возвышенности, заслонял тот факт, что эта доктрина была создана и увековечена людьми и окрашена их субъективными интересами. Не случайно новый кальвинизм с его карающим, мужественным Богом процветал в первые годы тысячелетия, когда страна в целом поддалась воинственности и регрессивным героическим мифам. Когда я вспоминаю разглагольствования моего профессора против терапевтического деизма и феминизированного Христа, я не могу не видеть искажения политики эпохи Буша, в которой обещания сострадательного консерватизма рухнули в беззаконный вигилантизм "шока и трепета".
Чем больше мы стараемся избавить мир от нашего образа, тем больше окрашиваем его человеческими недостатками и фантазиями. Чем больше мы настаиваем на исключении себя и своих интересов из уравнения, тем больше мы получаем всемогущих систем, которые кишат человеческими предрассудками и предубеждениями. Это парадокс, на который Арендт обратила внимание в своем эссе об освоении космоса, парадокс, который она позаимствовала у Вернера Гейзенберга. Гейзенберг утверждал, что квантовая механика усложнила наши поиски некой "истинной реальности", которая скрывается за воспринимаемым нами миром. Когда человек пытается выйти за пределы своей собственной точки зрения, утверждал он, он неизбежно "сталкивается с самим собой в одиночестве". Арендт распространила эту идею на современные технологии. Мы создаем инструменты, которые должны быть исключительно объективными. Но поскольку эти инструменты сделаны по нашему образу и подобию и созданы в определенном историческом контексте, современный технологический субъект, подобно человеку Гейзенберга, "тем реже встречается с чем-либо, кроме себя и рукотворных вещей, чем сильнее он желает исключить все антропоцентрические соображения из своей встречи с окружающим его нечеловеческим миром". Мы все время пытаемся выйти за пределы себя и своих интересов, но чем больше мир становится населенным нашими инструментами и технологиями, тем маловероятнее, "что человек встретит в окружающем его мире что-то, что... в конечном счете, не является им самим в другом обличье".
В наши дни нетрудно найти примеры технологий, которые содержат нас самих "в другом обличье". Хотя самые впечатляющие технологии машинного обучения часто описываются как "инопланетные" и не похожие на нас, они подвержены ошибкам, которые слишком похожи на человеческие. Поскольку алгоритмы опираются на исторические данные - используют информацию о прошлом, чтобы сделать прогноз на будущее, - их решения часто отражают предубеждения и предрассудки, которые уже давно окрасили нашу социальную и политическую жизнь. Алгоритмы Google показывают женщинам больше объявлений о низкооплачиваемой работе, чем мужчинам. Было установлено, что алгоритмы доставки Amazon в течение одного дня обходят стороной черные районы. В отчете ProPublica было обнаружено, что система оценки вынесения приговора COMPAS с гораздо большей вероятностью назначает чернокожим обвиняемым более высокие показатели рецидивизма, чем белым обвиняемым. Эти системы не нацелены на конкретные расы или полы и даже не учитывают эти факторы. Но они часто ориентируются на другую информацию - почтовые индексы, доходы, предыдущие встречи с полицией, - которая несет в себе историческое неравенство. Эти решения, принимаемые машиной, в конечном итоге усиливают существующее социальное неравенство, создавая петлю обратной связи, которая еще больше затрудняет преодоление давней истории структурного расизма и человеческих предрассудков в нашей культуре.
На самом деле общественность все больше обеспокоена проблемой предвзятости алгоритмов, хотя многие из предлагаемых решений только запутывают моральные параметры дискуссии. В большинстве случаев компаниям предлагается сделать свое программное обеспечение менее склонным к ошибкам или использовать наборы данных, более точно отражающие население, что особенно подчеркивается в разговорах о технологиях распознавания лиц, которые печально известны тем, что неверно идентифицируют черные и коричневые лица, что привело в 2020 году к первому ложному аресту, произведенному с помощью алгоритма. История Роберта Джулиана-Борчака Уильямса, чернокожего мужчины из Детройта, который был арестован после того, как программа распознавания лиц ошибочно идентифицировала его с изображением магазинного вора, заснятого камерами наблюдения, была показана во многих национальных новостных изданиях и вызвала бесконечные стенания экспертов в области права, требующих улучшения алгоритмов. Но во многих случаях такие призывы к совершенствованию служат лишь лицензией на расширение технологий наблюдения. Как отмечает Ванг в книге "Карцеральный капитализм", само существование систем наблюдения и машинного обучения в определенных местах является признаком того, кого выделяют для охраны порядка, и само по себе является частью системной предвзятости (преступления, совершенные на Уолл-стрит или в преимущественно белых пригородах, не дают данных, потому что за этими районами не следят в первую очередь). Создание более совершенных и эффективных алгоритмов неизбежно требует большего количества данных, поэтому настойчивое стремление к совершенствованию технологий часто "оправдывает слежку и расширение полицейских и карцеральных операций, которые генерируют данные". Эту точку зрения подтверждает Хамид Хан, давний общественный организатор, который сыграл важную роль в том, чтобы заставить Департамент полиции Лос-Анджелеса прекратить использование алгоритмов предиктивной полиции в 2020 году. Хан утверждает, что государственная политика, ориентированная на прозрачность, подотчетность и надзор, слишком часто становится толчком для "ползучей миссии". "Мы боремся не за беспристрастный алгоритм, потому что мы не верим, что даже с математической точки зрения может существовать беспристрастный алгоритм для полицейской работы", - сказал Хан.