Этот исторический урок должен побудить нас обратить больше внимания на революцию ИИ в наших нынешних политических дебатах. Изобретение ИИ потенциально более значимо, чем изобретение телеграфа, печатного станка или даже письменности, поскольку ИИ - это первый инструмент, способный самостоятельно принимать решения и генерировать идеи. Если печатные станки и пергаментные свитки предлагали новые средства для связи между людьми, то ИИ - полноправный участник наших информационных сетей. В ближайшие годы все информационные сети - от армий до религий - пополнятся миллионами новых членов ИИ, которые будут обрабатывать данные совсем не так, как люди. Эти новые члены будут принимать чужие решения и генерировать чужие идеи - то есть решения и идеи, которые вряд ли придут в голову человеку. Появление такого количества инопланетян изменит форму армий, религий, рынков и наций. Целые политические, экономические и социальные системы могут рухнуть, а на их месте возникнут новые. Вот почему ИИ должен стать вопросом первостепенной важности даже для тех, кого не волнуют технологии и кто считает, что самые важные политические вопросы касаются выживания демократии или справедливого распределения богатства.
В этой книге обсуждение ИИ сопоставляется с обсуждением священных канонов, таких как Библия, потому что сейчас мы находимся в критическом моменте канонизации ИИ. Когда отцы церкви, такие как епископ Афанасий, решили включить 1-е Тимофея в библейский набор данных, исключив при этом Деяния Павла и Феклы, они определили мир на тысячелетия. Миллиарды христиан вплоть до XXI века формировали свои взгляды на мир, основываясь на женоненавистнических идеях Тимофея, а не на более терпимом отношении Феклы. Даже сегодня трудно изменить курс, потому что отцы церкви предпочли не включать в Библию никаких механизмов самокоррекции. Современные эквиваленты епископа Афанасия - это инженеры, которые пишут начальный код для искусственного интеллекта и выбирают набор данных, на которых обучается детский ИИ. По мере того как ИИ будет набирать силу и авторитет и, возможно, превратится в самоистолковывающуюся священную книгу, решения, принятые нынешними инженерами, могут отразиться в веках.
Изучение истории не только подчеркивает важность революции ИИ и наших решений, касающихся ИИ. Оно также предостерегает нас от двух распространенных, но вводящих в заблуждение подходов к информационным сетям и информационным революциям. С одной стороны, мы должны остерегаться слишком наивного и оптимистичного взгляда. Информация - это не истина. Ее главная задача - соединять, а не представлять, и на протяжении всей истории информационные сети часто отдавали предпочтение порядку, а не истине. Налоговые отчеты, священные книги, политические манифесты и досье тайной полиции могут быть чрезвычайно эффективны для создания могущественных государств и церквей, которые имеют искаженное представление о мире и склонны злоупотреблять своей властью. Больше информации, как это ни парадоксально, иногда может привести к усилению охоты на ведьм.
Нет причин ожидать, что ИИ обязательно нарушит шаблон и отдаст предпочтение истине. ИИ не является непогрешимым. Тот небольшой исторический опыт, который мы получили в результате тревожных событий в Мьянме, Бразилии и других странах за последнее десятилетие, показывает, что в отсутствие мощных механизмов самокоррекции ИИ более чем способен продвигать искаженное мировоззрение, допускать вопиющие злоупотребления властью и провоцировать новые ужасающие охоты на ведьм.
С другой стороны, мы также должны остерегаться того, чтобы не отклониться слишком далеко в другую сторону и не принять слишком циничную точку зрения. Популисты говорят нам, что власть - это единственная реальность, что все человеческие взаимодействия - это борьба за власть, а информация - всего лишь оружие, которое мы используем для победы над нашими врагами. Так никогда не было, и нет причин думать, что ИИ сделает это в будущем. Хотя многие информационные сети отдают предпочтение порядку, а не истине, ни одна сеть не сможет выжить, если будет полностью игнорировать истину. Что касается отдельных людей, то мы, как правило, искренне заинтересованы в истине, а не только в власти. Даже в таких институтах, как испанская инквизиция, были добросовестные искатели истины, например Алонсо де Салазар Фриас, который, вместо того чтобы отправлять на смерть невинных людей, рисковал своей жизнью, чтобы напомнить нам, что ведьмы - это всего лишь интерсубъективные выдумки. Большинство людей не считают себя одномерными существами, одержимыми исключительно властью. Зачем же тогда придерживаться такого мнения обо всех остальных?