Эта административная структура играет важную роль в способности сайта предотвратить распространение дезинформации и поляризацию, которая была слишком распространена на других сайтах. Опыт Википедии показывает, что мудрость толпы, которой так восхищались первые технооптимисты социальных медиа, может работать, но только в том случае, если она подкреплена и контролируется правильной организационной структурой, и, если сделан правильный выбор в отношении использования и направления развития технологий.
Альтернативы бизнес-модели целевой рекламы не ограничиваются такими некоммерческими организациями, как Википедия. Netflix, основанный на модели подписки, также собирает информацию о пользователях и инвестирует значительные средства в искусственный интеллект для составления индивидуальных рекомендаций. Однако на этой платформе мало дезинформации или политического возмущения, поскольку ее цель - улучшить пользовательский опыт, чтобы стимулировать подписку, а не обеспечить максимальную вовлеченность.
Платформы социальных сетей могут работать с моделью подписки и зарабатывать на ней. Такая модель не решит всех проблем социальных сетей. Люди могут создавать свои собственные эхо-камеры на платформе, основанной на подписке, и могут появиться новые способы монетизации дезинформации и небезопасности. Тем не менее, альтернативные бизнес-модели позволяют отойти от стремления к интенсивному вовлечению пользователей, которое, как оказалось, способствует наихудшему типу социального взаимодействия, нанося вред как психическому здоровью, так и демократическому дискурсу.
Социальная паутина" может иметь огромное количество положительных эффектов, если удастся сдержать ее пагубное влияние на дезинформацию, поляризацию и психическое здоровье. Недавние исследования отслеживают начало работы сервиса Facebook на новых языках и показывают, что малый бизнес в затронутых странах получает доступ к информации с зарубежных рынков и в результате расширяет свои продажи. Нет причин полагать, что компания не могла бы зарабатывать деньги на подобных услугах, а не на своей способности манипулировать пользователями. Социальные медиа и цифровые инструменты также могут обеспечить большую защиту отдельных лиц от слежки и даже сыграть продемократическую роль. Нажатие на кнопки для получения эмоциональной реакции и нацеливание рекламы на пользователей, когда они таким образом срабатывают, никогда не были единственными возможностями для социальных медиа.
Демократия подорвана, когда она нам больше всего нужна
Трагедия заключается в том, что искусственный интеллект еще больше подрывает демократию, когда мы больше всего в ней нуждаемся. Если направление развития цифровых технологий не изменится коренным образом, они будут продолжать подпитывать неравенство и маргинализировать большие сегменты рабочей силы, как на Западе, так и во всем мире. Технологии ИИ также используются для более интенсивного контроля за работниками и через этот канал создают еще большее понижательное давление на заработную плату.
Если хотите, можете возлагать надежды на вал производительности. Но нет никаких признаков того, что общее повышение производительности произойдет в ближайшее время. Как мы уже видели, менеджеры и предприниматели часто склонны использовать новые технологии для автоматизации труда и лишения людей прав, если их не сдерживают противодействующие силы. Массовый сбор данных усугубил это предубеждение.
Однако без демократии трудно найти противодействующие силы. Когда элита полностью контролирует политику и может эффективно использовать инструменты репрессий и пропаганды, трудно создать сколько-нибудь значимую, хорошо организованную оппозицию. Поэтому в ближайшее время в Китае не будет расти активное инакомыслие, особенно в условиях все более эффективной системы цензуры и слежки на основе искусственного интеллекта, созданной Коммунистической партией. Но также становится все труднее надеяться на возрождение противодействующих сил в Соединенных Штатах и большей части остального западного мира. ИИ душит демократию, одновременно предоставляя инструменты для репрессий и манипуляций как авторитарным, так и демократически избранным правительствам.
Как спрашивал Джордж Оруэлл в "1984": "Ведь, в конце концов, откуда мы знаем, что два и два дают четыре? Или что сила тяжести действует? Или что прошлое неизменно? Если и прошлое, и внешний мир существуют только в разуме, и если сам разум управляем, что тогда?". Этот вопрос еще более актуален сегодня, потому что, как предвидела философ Ханна Арендт, когда людей бомбардируют ложью и пропагандой, они как в демократических, так и в недемократических странах перестают верить любым новостям. Возможно, ситуация еще хуже. Приклеенные к своим социальным сетям, часто возмущенные и очень часто охваченные сильными эмоциями, люди могут оказаться оторванными от своего сообщества и демократического дискурса, потому что в Интернете была создана альтернативная, сегрегированная реальность, где экстремистские голоса звучат громче всего, искусственные эхо-камеры изобилуют, вся информация подозрительна или пристрастна, а компромисс забыт или даже осуждается.
Некоторые оптимисты считают, что новые технологии, такие как Web 3.0 или метавселенная, могут обеспечить другую динамику. Но пока преобладает нынешняя бизнес-модель технологических компаний и одержимость правительств слежкой, они, скорее всего, будут еще больше усугублять эти тенденции, создавая еще более мощные пузыри фильтров и еще больший клинч с реальностью.
Уже поздно, но, возможно, еще не слишком поздно.
Глава 11. Перенаправление технологии
Компьютеры в основном
используется против людей, а не для людей
используется для контроля над людьми, а не для их освобождения
время изменить все это...
нам нужен...
НАРОДНАЯ КОМПЬЮТЕРНАЯ КОМПАНИЯ
-первый информационный бюллетень Народной компьютерной компании, октябрь 1972 года (курсив в оригинале)
Большинство вещей, которые стоило бы сделать в мире, были объявлены невозможными еще до того, как они были сделаны.
-адвокат Луис Брандейс, арбитражный процесс, Нью-Йоркская плащевая промышленность, 13 октября 1913 года
Позолоченный век конца XIX века был периодом быстрых технологических изменений и тревожного неравенства в Америке, как и сегодня. Первые люди и компании, инвестировавшие в новые технологии и использовавшие новые возможности, особенно в наиболее динамичных секторах экономики, таких как железные дороги, сталь, машиностроение, нефть и банковское дело, процветали и получали феноменальные прибыли.
В эту эпоху возникли предприятия невиданных размеров. В некоторых компаниях работало более ста тысяч человек, значительно больше, чем в вооруженных силах США в то время. Хотя реальная заработная плата росла по мере развития экономики, неравенство стремительно увеличивалось, а условия труда были ужасными для миллионов людей, не имевших никакой защиты от своих экономически и политически влиятельных боссов. Бароны-разбойники, как называли самых известных и беспринципных из этих магнатов, сколотили огромные состояния не только благодаря изобретательности во внедрении новых технологий, но и за счет консолидации с конкурирующими предприятиями. Политические связи также были важны в стремлении доминировать в своих отраслях.
Символом эпохи стали огромные "тресты", созданные этими людьми, такие как Standard Oil, которые контролировали ключевые ресурсы и устраняли конкурентов. В 1850 году британский химик Джеймс Янг открыл способ переработки нефти. Уже через несколько лет по всему миру работали десятки нефтеперерабатывающих заводов. В 1859 году запасы нефти были обнаружены в Титусвилле, штат Пенсильвания, и нефть стала двигателем индустриализации в Соединенных Штатах. Вскоре этот сектор определила компания Standard Oil, основанная и управляемая Джоном Д. Рокфеллером, который символизирует как возможности эпохи, так и злоупотребление ими. Рожденный в бедности, Рокфеллер понял важность нефти и возможности стать доминирующим игроком в отрасли и быстро превратил свою компанию в монополию. К началу 1890-х годов Standard Oil контролировала около 90 процентов нефтеперерабатывающих предприятий и нефтепроводов в стране и приобрела репутацию компании с хищническими ценами, сомнительными побочными сделками - например, с железными дорогами, которые запрещали ее конкурентам отгружать свою нефть - и запугиванием конкурентов и рабочих.
Послужной список других доминирующих фирм, таких как сталелитейная компания Эндрю Карнеги, железнодорожный конгломерат Корнелиуса Вандербильта, химическая компания DuPont, компания International Harvester, производящая сельскохозяйственную технику, и J.P. Morgan в банковской сфере, был аналогичным.
Было четкое ощущение, что институциональная структура Соединенных Штатов плохо приспособлена для того, чтобы сдерживать мощь этих компаний. Они обладали растущей политической властью, как потому, что несколько президентов США встали на их сторону, так и потому, что они имели большое влияние на Сенат США, члены которого в ту эпоху не избирались напрямую, а выбирались законодательными собраниями штатов. Общее мнение (да и реальность) заключалось в том, что должности в сенате "покупались и продавались", и бароны-грабители принимали в этом самое активное участие. Дело было не только в Сенате. Предвыборные кампании президента Уильяма Маккинли в 1896 и 1900 годах щедро финансировались бизнесом, организованным, в частности, сенатором Марком Ханной, который подытожил эту систему следующим образом: "Есть две вещи, которые важны в политике. Первая — это деньги, а вторую я не помню". Было мало эффективных законов, чтобы помешать компаниям, принадлежащим баронам-грабителям, контролировать свой сектор и препятствовать конкуренции, используя власть, которую им давал их размер.