Вам кажется несправедливым, что банки дискриминируют клиентов лишь потому, что их школьные приятели не спешат оплачивать свои счета, или потому, что ваши вкусы совпадают со вкусами многих злостных неплательщиков? Действительно, так и есть. И это подводит к более общей проблеме индукции — логического метода, на основе которого алгоритмы выводят прогнозы из данных. Философы бились над этой проблемой задолго до появления компьютеров. Вы можете подтвердить истинность математического доказательства, выводя его из аксиом, однако философ Давид Юм в 1722 году заметил, что на деле все иначе[276]. Как следует из одного инвестиционного клише, предыдущие показатели не гарантируют достижения таких же результатов в будущем.
Возникает ряд серьезных вопросов по поводу науки, ведь она, по сути, представляет собой метод использования данных для прогнозирования будущего. Карл Поппер, выдающийся философ науки, всю жизнь пытался разобраться в проблеме индукции. Мыслители-оптимисты конца XIX века, изучая историю науки, видели и пей движение к истине. Поппер же решил сосредоточиться на тех обломках, что бросают вдоль этой дороги: на изобилии неверных теорий и идей, полностью соответствующих научным канонам и при этом ужасающе ошибочных. В конце концов, птолемеева концепция мира, где в центре — Земля, а Солнце и другие планеты вращаются вокруг нее, выдержала огромное количество математических проверок и научных экспериментов.
Поппер поставил проблему несколько иначе: если вы видели только белых лебедей, это еще не значит, что все лебеди — белые. Искать нужно черного лебедя — контрпример, подтверждающий, что теория ошибочна. «Фальсифицируемость», доказывал Поппер, — это ключ к поиску истины. Целью науки, с его точки зрения, было нахождение максимально убедительных аргументов, против которых никто не сможет найти контрпример — черного лебедя[277]. В основе взглядов Поппера лежало глубокое смирение в отношении выводимых научным методом знаний — ощущение, что мы ошибаемся столь же часто, как оказываемся правы, и обычно не знаем, правы мы или нет.
Именно этого лишены многие алгоритмические методы прогнозирования. Конечно, время от времени они сталкиваются с людьми и поступками, которые не вписываются в их шаблон, но такие отклонения не подрывают их фундаментальных основ. Ведь рекламодатели, от чьих денег зависит развитие подобных систем, не нуждаются в идеальных моделях. Им важно «попасть» в целевую аудиторию, а не прочувствовать всю сложность человеческого существа.
Когда вы моделируете погоду и предсказываете, что вероятность дождя составляет 70 процентов, этот прогноз никак не затрагивает состояние грозовых туч. Дождь пойдет или не пойдет, и все. Но когда вы предсказываете, что если мои друзья неплатежеспособны, то вероятность моей неплатежеспособности составляет 70 процентов, ситуация иная: ошибка повлечет за собой последствия. Это будет дискриминация.
Лучший способ избежать чрезмерной подгонки, по мнению Поппера, — это доказать ложность модели и выстроить новые алгоритмы, учитывающие презумпцию невиновности. Если Netflix показывает мне романтическую комедию и она мне нравится, он покажет мне еще одну и решит, будто я поклонник романтических комедий. Но если он хочет получить достоверную картину моей личности, ему следует постоянно проверять эту гипотезу — например, подкинуть мне фильм «Бегущий по лезвию»[278] и попробовать доказать, что я люблю не только комедии. Иначе я попаду в ловушку локального максимума, где обитают Хью Грант и Джулия Робертс.
Статистические модели, на которых основана степа фильтром, списывают со счетов слишком сильные отклонения. Но па деле именно они делают жизнь интересной и дают нам вдохновение. И именно отклонения — первые признаки перемен.
Один из лучших аргументов против алгоритмов прогнозирования можно найти, как это ни удивительно, у русского романиста XIX века Федора Достоевского. Его книга «Записки из подполья» была страстной критикой утопического научного рационализма тех дней. Достоевский размышлял над регламентированной, упорядоченной человеческой жизнью, которую обещала наука, и пророчил банальное будущее. «Все поступки человеческие, — ворчит безымянный рассказчик, — само собою, будут расчислены тогда по этим законам, математически, вроде таблицы логарифмов, до 108 000, и занесены в календарь… все будет так точно исчислено и обозначено, что на свете уже не будет более ни поступков, ни приключений».[279].
Мир часто следует предсказуемым правилам и соответствует предсказуемым моделям: прилив начинается и кончается, затмение приходит и уходит, даже погода становится все более предсказуемой. Но применять такой подход к человеческому поведению опасно хотя бы потому, что лучшие мгновения нашей жизни — зачастую самые непредсказуемые. Если жизнь полностью предсказуема, то и жить не стоит. Но алгоритмическая индукция может привести к тотальному детерминизму, когда наши предыдущие клики полностью определяют наше будущее. Иными словами, если мы не будем стирать нашу интернет-историю, возможно, нам придется повторять ее вечно.
Глава 5
Общественность не релевантна
Присутствие тех, кто видит и слышит то же, что и мы, заверяет нас в реальности мира и нас самих[280].
Единственный способ нейтрализовать влияние газет — это увеличить их число. Такова аксиома политической науки в США[281].
Ночью 7 мая 1999 года бомбардировщик-невидимка В-2 вылетел с авиабазы «Уайтмен» в Миссури. Самолет взял курс на восток и долетел до Белграда. В Сербии тогда шла гражданская война. Около полуночи по местному времени бомбардировщик доставил свой груз: четыре бомбы, управляемые с помощью GPS и запрограммированные на удар по зданию, где, по информации ЦРУ, находился склад боеприпасов. На самом деле там размещалось посольство Китая в Югославии. Здание было разрушено, три китайских дипломата погибли.
США немедленно принесли свои извинения, назвав происшествие несчастным случаем. Однако на китайском государственном ТВ прозвучало официальное заявление, в котором бомбардировка называлась «варварской атакой и гнусным нарушением китайского суверенитета»[282]. Президент Билл Клинтон пытался дозвониться до китайского лидера Цзян Цзэминя, но тот неоднократно отказывался от разговора.
Записанное на видео извинение Клинтона перед китайским народом было запрещено к показу в течение четырех дней.
На улицах начались антиамериканские погромы, а крупнейшая китайская газета «Жэньминь жибао» открыла онлайн-форум под названием «Против бомбардировок». В 1999 году форумы пользовались в Китае огромной популярностью — гораздо большей, чем в США. Как объяснял несколькими годами позже журналист New York Times Том Дауни, «новостные сайты и личные блоги гораздо менее влиятельны в Китае, а социальные сети еще не набрали силу. Живее всего общение на преимущественно анонимных онлайн-форумах… которые гораздо более динамичны, активны, близки к народу и даже, может быть, демократичнее всего, что есть в англоязычном Интернете»[283]. Журналист Клайв Томпсон, специализирующийся на новых технологиях, цитирует замечание Шанти Калатил, исследователя Фонда Карнеги: форум помог легитимировать позицию китайского правительства, что бомбардировка посольства была преднамеренной, среди «элитарной, подключенной к Интернету части населения»[284]. Форум был инструментом народной пропаганды: вместо того чтобы просто сказать китайским гражданам, что они должны думать, правительство воспользовалось голосами тысяч патриотов, мысливших в унисон с ним.
276
David Hume. An Enquiry Concerning Human Understanding, Harvard Classics Volume 37, online edition, P. F. Collier & Son: 1910, Section VII, Part I, http://18th.eserver.org/hume-enquiry.html.
278
Blade Runner — культовый фильм режиссера Ридли Скотта по мотивам романа Филипа Дика «Мечтают ли андроиды об электроовцах?», существует в семи версиях.
279
Цит. по: Достоевский Ф. М. Записки из подполья // Достоевский Ф. М. Собрание сочинений в десяти томах. М.: Художественная литература, 1957.
282
NATO Hits Chinese Embassy. BBC News, May 8, 1999, http://news.bbc.co.uk/2/hi/europe/338424.stm.
283
Tom Downey. China's Cyberposse. New York Times, Mar. 3, 2010, www.nytimes.com/2010/03/07/magazine/07Human-t.html?pagewanted=l.
284
Shanthi Kalathil and Taylor Boas. Open Networks, Closed Regimes: The Impact of the Internet on Authoritarian Rule. First Monday 8, no. 1–6, 2003.