К счастью, эта бинарная позиция ошибочна в своем основном предположении. Глобальное сотрудничество и патриотизм не являются взаимоисключающими понятиями. Ведь патриотизм - это не ненависть к иностранцам. Он заключается в любви к соотечественникам. И есть множество ситуаций, когда для того, чтобы заботиться о соотечественниках, нам необходимо сотрудничать с иностранцами. COVID-19 дал нам один очевидный пример. Пандемии - это глобальные события, и без глобального сотрудничества их трудно сдержать, не говоря уже о предотвращении. Когда в одной стране появляется новый вирус или мутировавший патоген, это ставит под угрозу все остальные страны. И наоборот, самое большое преимущество людей перед патогенами заключается в том, что мы можем сотрудничать так, как не могут патогены. Врачи в Германии и Бразилии могут предупреждать друг друга о новых опасностях, давать друг другу дельные советы и совместно разрабатывать более эффективные методы лечения.
Если немецкие ученые изобретут вакцину против какого-то нового заболевания, как бразильцы должны отреагировать на это немецкое достижение? Один из вариантов - отвергнуть иностранную вакцину и ждать, пока бразильские ученые не разработают бразильскую вакцину. Однако это было бы не просто глупо, это было бы антипатриотично. Бразильские патриоты должны стремиться использовать любую доступную вакцину для помощи своим соотечественникам, независимо от того, где она была разработана. В этой ситуации сотрудничество с иностранцами - это патриотический поступок. Угроза потери контроля над ИИ - аналогичная ситуация, в которой патриотизм и глобальное сотрудничество должны идти рука об руку. Вышедший из-под контроля ИИ, как и вышедший из-под контроля вирус, ставит под угрозу людей в любой стране. Ни один человеческий коллектив - будь то племя, нация или весь вид - не выиграет от того, что власть перейдет от людей к алгоритмам.
Вопреки утверждениям популистов, глобализм не означает создание мировой империи, отказ от национальной лояльности или открытие границ для неограниченной иммиграции. На самом деле глобальное сотрудничество означает две гораздо более скромные вещи: во-первых, приверженность некоторым глобальным правилам. Эти правила не отрицают уникальности каждой нации и лояльности, которой люди должны быть обязаны своей стране. Они просто регулируют отношения между странами. Хорошей моделью является Кубок мира по футболу. Кубок мира - это соревнование между странами, и люди часто проявляют яростную преданность своей национальной команде. В то же время Кубок мира - это удивительное проявление глобального согласия. Бразилия не может играть в футбол с Германией, если бразильцы и немцы сначала не договорятся о единых правилах игры. Это и есть глобализм в действии.
Второй принцип глобализма заключается в том, что иногда - не всегда, но иногда - необходимо отдавать предпочтение долгосрочным интересам всех людей перед краткосрочными интересами немногих. Например, на чемпионате мира по футболу все национальные команды договариваются не использовать стимулирующие препараты, потому что все понимают, что если они пойдут по этому пути, то чемпионат мира в конце концов превратится в соревнование между биохимиками. В других областях, где технологии меняют ход событий, мы должны стремиться к балансу национальных и глобальных интересов. Очевидно, что страны будут продолжать конкурировать в разработке новых технологий, но иногда им следует договориться об ограничении разработки и внедрения опасных технологий, таких как автономное оружие и манипулятивные алгоритмы, - не из чистого альтруизма, а ради собственного самосохранения.
ЧЕЛОВЕЧЕСКИЙ ВЫБОР
Разработка и соблюдение международных соглашений по ИИ потребует серьезных изменений в функционировании международной системы. Если в регулировании опасных технологий, таких как ядерное и биологическое оружие, у нас есть опыт, то регулирование ИИ потребует беспрецедентного уровня доверия и самодисциплины по двум причинам. Во-первых, скрыть нелегальную лабораторию ИИ легче, чем нелегальный ядерный реактор. Во-вторых, у ИИ гораздо больше двойного военно-гражданского применения, чем у ядерных бомб. Следовательно, несмотря на подписание соглашения, запрещающего автономные системы вооружений, страна может создавать такое оружие тайно или маскировать его под гражданскую продукцию. Например, она может разработать полностью автономные беспилотники для доставки почты и опрыскивания полей пестицидами, которые при незначительных модификациях смогут также доставлять бомбы и опрыскивать людей ядом. Следовательно, правительствам и корпорациям будет сложнее поверить в то, что их конкуренты действительно соблюдают согласованные правила, и не поддаться искушению самим отступить от них. Смогут ли люди выработать необходимый уровень доверия и самодисциплины? Есть ли в истории прецеденты подобных изменений?