И все же я уделил так много внимания проблеме "вовлеченности пользователей" в социальных сетях, потому что она иллюстрирует гораздо более серьезную проблему, поразившую компьютеры, - проблему выравнивания. Когда перед компьютерами ставится конкретная задача, например, увеличить посещаемость YouTube до миллиарда часов в день, они используют всю свою мощь и изобретательность для достижения этой цели. Поскольку компьютеры работают совсем не так, как люди, они, скорее всего, будут использовать методы, которые их человеческие хозяева не предусмотрели. Это может привести к опасным непредвиденным последствиям, которые не соответствуют изначальным целям человека. Даже если рекомендательные алгоритмы перестанут поощрять ненависть, другие случаи проблемы согласования могут привести к более серьезным катастрофам, чем кампания против рохинджа. Чем мощнее и независимее становятся компьютеры, тем больше опасность.
Конечно, проблема выравнивания не является ни новой, ни уникальной для алгоритмов. Она мучила человечество на протяжении тысячелетий до изобретения компьютеров. Например, она стала основополагающей проблемой современного военного мышления, закрепленной в теории войны Карла фон Клаузевица. Клаузевиц был прусским генералом, воевавшим во время Наполеоновских войн. После окончательного поражения Наполеона в 1815 году Клаузевиц стал директором Прусского военного училища. Он также начал разрабатывать большую теорию войны. После его смерти от холеры в 1831 году его жена, Мария, отредактировала незаконченную рукопись и опубликовала "О войне" в нескольких частях в 1832-1834 годах.
Книга "О войне" создала рациональную модель понимания войны, которая и сегодня является доминирующей военной теорией. Ее важнейшая максима заключается в том, что "война - это продолжение политики другими средствами". Это означает, что война - это не эмоциональная вспышка, не героическое приключение и не божественная кара. Война - это даже не военное явление. Скорее, война - это политический инструмент. Согласно Клаузевицу, военные действия абсолютно иррациональны, если они не связаны с какой-то всеобъемлющей политической целью.
Предположим, Мексика раздумывает, не вторгнуться ли ей в Белиз и не завоевать ли своего маленького соседа. И предположим, что детальный военный анализ показывает, что если мексиканская армия вторгнется, то она одержит быструю и решительную военную победу, разгромив небольшую армию Белиза и захватив столицу Бельмопан за три дня. Согласно Клаузевицу, это не является рациональной причиной для вторжения Мексики. Сама по себе способность одержать военную победу не имеет смысла. Главный вопрос, который должно задать себе мексиканское правительство, - каких политических целей достигнет военный успех?
История полна решающих военных побед, которые приводили к политическим катастрофам. Для Клаузевица самый очевидный пример был близок к дому: карьера Наполеона. Никто не оспаривает военный гений Наполеона, который был мастером как тактики, так и стратегии. Но хотя череда его побед принесла Наполеону временный контроль над огромными территориями, они не обеспечили прочных политических достижений. Его военные завоевания лишь подтолкнули большинство европейских держав к объединению против него, и его империя рухнула через десять лет после того, как он короновал себя императором.
Действительно, в долгосрочной перспективе победы Наполеона обеспечили окончательный упадок Франции. На протяжении столетий Франция была ведущей геополитической державой Европы во многом потому, что Италия и Германия не существовали как единые политические образования. Италия представляла собой солянку из десятков враждующих городов-государств, феодальных княжеств и церковных территорий. Германия представляла собой еще более причудливый пазл, разделенный более чем на тысячу независимых государств, которые слабо держались вместе под теоретическим сюзеренитетом Священной Римской империи германской нации. В 1789 году перспектива немецкого или итальянского вторжения во Францию была просто немыслима, поскольку не существовало такого понятия, как немецкая или итальянская армия.
Расширяя свою империю в Центральной Европе и на Итальянском полуострове, Наполеон упразднил Священную Римскую империю в 1806 году, объединил многие мелкие немецкие и итальянские княжества в более крупные территориальные блоки, создал Рейнскую конфедерацию и Итальянское королевство и стремился объединить эти территории под своей династической властью. Его победоносные армии также распространяли идеалы современного национализма и народного суверенитета в немецких и итальянских землях. Наполеон считал, что все это сделает его империю сильнее. На самом деле, разрушив традиционные структуры и дав немцам и итальянцам почувствовать вкус национальной консолидации, Наполеон нечаянно заложил основы для окончательного объединения Германии (1866-71) и Италии (1848-71). Эти два процесса национального объединения были завершены победой Германии над Францией во Франко-прусской войне 1870-71 годов. Столкнувшись с двумя новыми объединенными и горячо националистическими державами на своей восточной границе, Франция так и не смогла восстановить свое господствующее положение.