Соединенные Штаты не нуждаются в Pegasus для совершения высокотехнологичных проступков (хотя некоторые из их спецслужб экспериментировали с этим программным обеспечением, а также выступили в качестве посредника при его продаже правительству Джибути). 5 июня 2013 года мир был разбужен откровениями Эдварда Сноудена, впервые опубликованными в газете Guardian, о незаконном сборе данных Национальным агентством безопасности (АНБ). АНБ сотрудничало с Google, Microsoft, Facebook, Yahoo!, различными другими интернет-провайдерами и телефонными компаниями, такими как AT&T и Verizon, чтобы собрать огромное количество данных об интернет-поисках, онлайн-общении и телефонных звонках американских граждан. Она также прослушивала переговоры лидеров американских союзников, включая Германию и Бразилию. Он собирал данные со спутников и подводных волоконно-оптических кабелей. Сноуден описал масштабы этих программ, сказав, что, когда он был подрядчиком АНБ, "я, сидя за своим столом, безусловно, имел полномочия прослушивать любого человека, от вас или вашего бухгалтера до федерального судьи или даже президента, если у меня была личная электронная почта". Хотя эти действия были неконституционными и осуществлялись без ведома или надзора Конгресса, некоторые из них были санкционированы FISA (Судом по надзору за иностранными разведками).
Соединенные Штаты - не Китай, и эта деятельность должна была быть скрыта от средств массовой информации и даже от большинства законодателей. Когда появились разоблачения Сноудена, возникла мощная реакция против неправомерных стратегий АНБ и других агентств по сбору данных. Но этого оказалось недостаточно, чтобы остановить большую часть слежки. Возможно, еще хуже то, что частные компании, такие как Clearview AI, начали собирать изображения лиц сотен миллионов пользователей и продавать эту информацию правоохранительным органам, практически без надзора со стороны гражданского общества или других институтов. В этом нет ничего плохого, по словам основателя и генерального директора Clearview, который заявил: "Мы считаем, что это лучшее использование технологии".
Шпионские программы Pegasus, шпионаж АНБ и технология распознавания лиц Clearview иллюстрируют более глубокую проблему. Появившись на свет, цифровые инструменты для обширного сбора данных будут использоваться многими, если не большинством, правительств для подавления оппозиции и лучшего контроля за своими гражданами. Они укрепят недемократические режимы и позволят им гораздо эффективнее противостоять оппозиции. Они даже могут создать скользкую дорожку для демократических правительств, которые со временем станут более авторитарными.
Демократия умирает во тьме. Но она борется и при свете, который дает современный искусственный интеллект.
Наблюдение и направление развития технологий
От первоначальной эйфории по поводу демократизирующего потенциала Интернета и социальных сетей некоторые сделали полярно противоположный вывод: цифровые инструменты по своей сути антидемократичны. По словам историка Юваля Ноя Харари, "технологии благоприятствуют тирании".
Обе эти бинарные точки зрения ошибочны. Цифровые технологии не являются ни продемократическими, ни антидемократическими. Не было никакой необходимости в разработке технологий ИИ для того, чтобы дать правительствам возможность контролировать СМИ, цензурировать информацию и репрессировать своих граждан. Все это было выбором направления развития технологий.
Мы увидели, что цифровые технологии, которые по своей природе являются практически универсальными, можно было бы использовать для повышения полезности машин - например, путем создания новых рабочих задач или новых платформ, которые увеличивали бы возможности человека. Именно видение и бизнес-модель крупных технологических компаний подтолкнули к тому, чтобы в первую очередь сосредоточиться на контроле за работниками и уничтожении рабочих мест посредством автоматизации. То же самое верно и в отношении использования ИИ в качестве инструмента в руках авторитарных и некоторых якобы демократических правительств.
Мечты о том, что интернет и цифровые технологии дадут гражданам возможность противостоять диктатуре, не совсем сюрреалистичны. Цифровые технологии можно использовать для шифрования, что делает невозможным для властей прослушивание частных сообщений. Такие сервисы, как VPN, могут использоваться для противодействия цензуре. Поисковые системы, такие как Tor, в настоящее время невозможно расшифровать (насколько нам известно) и, следовательно, они обеспечивают более высокий уровень конфиденциальности и безопасности. Тем не менее, первые надежды на демократизацию цифровых технологий были разрушены, потому что технологический мир направил свои усилия туда, где лежат деньги и власть - на государственную цензуру.
Таким образом, технологическое сообщество выбрало особый путь - низкую дорогу, которая усиливает сбор данных и слежку. Хотя достижения в крупномасштабной обработке данных с использованием инструментов машинного обучения сыграли важную роль в этих усилиях, настоящим секретным соусом в слежке правительств и компаний являются огромные объемы данных.
Когда технологии ИИ усиливают авторитарные импульсы, они создают порочный круг. По мере того, как правительства становятся все более авторитарными, растет их потребность в ИИ для отслеживания и контроля своего населения, и это толкает ИИ дальше в направлении превращения в полноценную технологию мониторинга.
С 2014 года, например, наблюдается огромный рост спроса со стороны местных китайских правительств на технологии ИИ, обеспечивающие распознавание лиц и другие виды мониторинга. Этот спрос, по-видимому, отчасти вызван местными политическими волнениями. Политики хотят усилить охрану порядка и наблюдение, когда видят, что в их регионе назревает недовольство или протестная активность. Во второй половине 2010-х годов массовые протесты, особенно направленные против национального правительства, были практически невозможны, хотя локальные протесты все еще имели место, и некоторое время, как мы видели ранее в этой главе, они даже координировались в социальных сетях.
Однако к этому моменту инструменты ИИ уже были на стороне властей, а не протестующих. После внедрения технологий ИИ местные власти стали лучше справляться с подавлением и предотвращением протестов. Кстати, несмотря на то, что центральное правительство Китая и местные власти готовы нанимать большое количество полицейских, увеличение инвестиций в ИИ, похоже, уменьшает необходимость использования рабочей силы для наблюдения и даже фактического подавления протестующих.
Что еще более поразительно, этот спрос со стороны местных органов власти влияет на направление инноваций. Данные о вселенной ИИ-стартапов в Китае показывают, что государственный спрос на технологии мониторинга коренным образом меняет последующие инновации. ИИ-фирмы, заключающие контракты с местными органами власти Китая, начинают все больше и больше смещать свои исследования в сторону распознавания лиц и других технологий слежения. Возможно, в результате этих стимулов Китай стал мировым лидером в области технологий наблюдения, таких как распознавание лиц, но отстает в других областях, включая обработку естественного языка, навыки языкового мышления и абстрактные рассуждения.
По оценкам международных экспертов, качество исследований в области ИИ в Китае все еще значительно отстает от американского по всем параметрам. Однако есть один аспект, в котором Китай имеет преимущество: данные.
Китайские исследователи работают с гораздо большими объемами данных и без ограничений конфиденциальности, которые часто ограничивают тип данных, к которым могут получить доступ западные исследователи. Влияние контрактов местных органов власти на направление исследований в области ИИ особенно ярко проявляется, когда местные органы власти делятся огромными объемами данных в своих контрактах на закупки. Имея в своем распоряжении огромное количество данных без каких-либо ограничений и высокий спрос на технологии наблюдения, стартапы ИИ смогли протестировать и разработать мощные приложения, способные отслеживать, контролировать и управлять гражданами.
Здесь существует ловушка технологии наблюдения: могущественные и богатые деньгами правительства, стремящиеся подавить инакомыслие, требуют технологий ИИ для контроля над своим населением. Чем больше они их требуют, тем больше исследователей их производят. Чем больше ИИ движется в этом репрессивном направлении, тем более привлекательным он становится для авторитарных (или желающих стать авторитарными) правительств.
Действительно, китайские стартапы теперь экспортируют свои продукты ИИ, направленные на мониторинг и репрессии, другим недемократическим правительствам. Китайский технологический гигант Huawei, один из главных бенефициаров неограниченного доступа к данным и финансовых стимулов для развития технологий шпионажа, экспортировал эти инструменты в пятьдесят других стран. Мы увидели, как автоматизация на основе ИИ, разработанная в технологически развитых странах, повлияет на остальной мир, причем для большинства работников это может иметь значительные потенциальные негативные последствия. То же самое касается и слежки на основе ИИ: большинству граждан, где бы они ни находились в мире, становится все труднее избежать репрессий.