Дэнни Хиллис, основатель компании Applied Minds и фонда Long Now, создатель суперкомпьютера Connection Machine:
«В прошлом смысл определяли только люди. Теперь его определяют ещё и технические средства, которые приносят нам информацию. Отныне у поисковых систем имеется собственный взгляд на вещи, и результаты поиска отражают его. Игнорировать допущения, лежащие в основе результатов поиска, больше нельзя».
Задача поисковых систем — не только находить, но и фильтровать данные. Именно это происходит, когда алгоритм решает, как интерпретировать запрос и как отсортировать найденные документы. Многие его решения неизбежно будут двусмысленными. Хиллис приводит пример запроса, на который заведомо нет однозначного ответа: «провинции Китая». Поисковику волей-неволей придётся встать либо на сторону Китая, считающего Тайвань своей двадцать третьей провинцией, либо на сторону Тайваня, полагающего себя независимой державой. Само по себе это не беда. Плохо то, что пользователи далеко не всегда осознают, сколько таких решений скрыто за каждым результатом. В известном смысле наблюдения Хиллиса перекликаются с тем, что пишет Виктория Стодден о Big Data: и в том и в другом случае проблема заключается в непонимании того, как был сделан вывод.
В теории, таким образом поисковики могли бы влиять на общественное мнение, но на практике происходит обратное: они изо всех сил пытаются угодить пользователю, подстраиваясь под его вкусы и пряча всю неугодную ему информацию. В результате получается, что увидеть альтернативные точки зрения становится всё труднее. Эту проблему уже окрестили «фильтрационный пузырь», и у неё те же корни: неявные решения, которые принимает поисковая система.
Джордж Дайсон, историк техники:
«Рано или поздно, случайно или по злому умыслу, мы столкнёмся с катастрофическим крахом интернета. При этом у нас нет запасного варианта, позволяющего поднять примитивную аварийную сеть с низкой пропускной способностью в том случае, если основная сеть, на которую мы привыкли полагаться, станет недоступна».
Неисправность, в результате которой интернет придётся запускать заново, — это типичный «чёрный лебедь» из книг Нассима Талеба, крайне маловероятная, но оттого особенно болезненная катастрофа. Дайсон описывает вполне правдоподобный сценарий, при котором гипотетическая авария вызовет лишь увеличение количества запросов к неисправной сети, которое помешает восстановлению ещё сильнее. Чтобы избежать этого, нужны план действий на случай катастрофы и примитивная коммуникационная сеть с низкой пропускной способностью и долгим временем ожидания, которую можно было бы соорудить на основе мобильных телефонов и ноутбуков.
Нил Гершенфельд, глава «Центра битов и атомов» при Массачусетском технологическом институте, занимающемся персональным изготовлением вещей (3D-печать и т.п.), нанотехнологиями и квантовыми вычислениями:
«Религиозные фанатики, пытающие вернуть средневековые порядки со спутниковыми телефонами в руках, или креационисты, не верящие в эволюцию, но избегающие эпидемий благодаря прививкам, которые были бы невозможны без анализа сезонных мутаций вируса гриппа, вызывают когнитивный диссонанс. Связь тут в невидимости того, как всё работает: устройство мобильника для них так же неисповедимо, как пути господни».
Нил Гершенфельд видит угрозу в потребительском отношении к технологиям. Техника становится сложнее, а людей, желающих разбираться в её устройстве, всё меньше. Хуже того, этому нежеланию стало модно потакать. «Мобильные ОС прячут файловую систему, сенсорные интерфейсы делают ненужной мелкую моторику, автомобили не позволяют пользователям обращаться к данным обслуживания», — перечисляет Гершенфельд. Это плохо кончится: если относиться к технике как к волшебству, можно утратить способность развивать её. И что тогда?
Тим О’Рейли, основатель издательства O’Reilly Media, известный сторонник свободного софта, автор термина «Web 2.0″:
«Так называемые тёмные века европейской истории не были навязаны извне. Цивилизация погибла не в результате нашествия варваров, а по собственному выбору, отказавшись от знаний в пользу религиозного фундаментализма».
О’Рейли полагает, что главная угроза будущему цивилизации заключается в расцвете антиинтеллектуализма. Он наблюдает эту печальную тенденцию в Соединённых Штатах, но то же самое происходит и в других странах, не исключая и Россию: насаждение религии, отрицание эволюции или климатических изменений, борьба с прививками и так далее — примеров хватает. О’Рейли видит в этом пугающие параллели с падением Римской империи, которое отбросило развитие Европы на века.