-У нас есть еще один вопрос.
Какой-то студент: Не стоит складывать все яйца в одну корзину. Не лучше ли регулировать эти вещи на местном уровне? В каждой стране могли бы быть свои правила.
Бостром: Обычно это не работает при наличии глобальных внешних эффектов. Если одна страна в одностороннем порядке разоружится, она подвергнет себя риску оказаться под господством какой-нибудь другой страны, наращивающей свои вооруженные силы. Или, в случае проблемы перенаселения, которую мы обсуждали, экстерналии принимают форму моральной озабоченности: если одна страна попадет в мальтузианскую ловушку, это будет проблемой для других стран, поскольку они заботятся о благосостоянии людей, которые там живут.
В этом, кстати, заключается одна из асимметрий между проблемой перенаселения и проблемой недонаселения: в первом случае существуют люди, которым плохо живется, в то время как во втором случае не существует людей, которым было бы хорошо жить, если бы они родились. Нас чаще беспокоит первое, чем второе. Поэтому может показаться, что перенаселение с большей вероятностью будет иметь моральные внешние последствия.
Еще одна асимметрия между перенаселением и недонаселением заключается в том, что первое, но не второе, является эволюционным равновесием. Если не регулировать воспроизводство, можно ожидать, что рано или поздно появятся более плодовитые варианты, которые будут размножаться до тех пор, пока не восстановится мальтузианское состояние.
Можно представить, что культурные или технологические инновации на некоторое время избавят нас от этого призрака. Возможно, компьютерные игры станут настолько захватывающими, что мы не будем особо утруждать себя воспроизводством. Но, предположительно, некоторые группы решат завести детей. Возможно, они решат, что компьютерные игры - это табу. Эти группы или те из них, которые достигнут достаточно низкого уровня оттока людей из группы, станут наследниками будущего, и именно их поведение и ценности будут определять долгосрочную динамику численности населения. Таким образом, население Земли снова начнет расти, и Мальтус будет оправдан.
Переход к ИИ не обязательно устранит эту динамику. Биологические человеческие популяции могут продолжать расти по экспоненте, и, конечно, популяции цифровых разумов также могут расти по экспоненте и с еще более коротким временем удвоения. Похоже, что в конечном итоге только глобальная координация может решить эту проблему, так же как организму нужны средства защиты от рака, которые не зависят полностью от доброты клеток. То же самое можно сказать и о проблеме войны, и о других проблемах, которые могут возникнуть в результате ненаправленной конкуренции и оптимизации.
Экономия на масштабе
Чтобы устойчиво повышать уровень жизни животных в дикой природе и в нашем обществе, необходимо контролировать численность популяции. Вы можете помочь голодным голубям, покормив их. В следующем году голубей будет еще больше, а в следующем - еще больше. Вы не можете обогнать это. Но если число вылупляющихся голубей будет ограничено числом умирающих голубей, то все голуби смогут стабильно существовать на уровне выше прожиточного минимума.
То, что легко увидеть в случае с голубями, сложнее увидеть в случае с людьми по нескольким причинам (помимо культурно-специфических слепых пятен):
Цикл человеческих поколений длиннее, поэтому динамика разворачивается в более широком временном масштабе, что делает ее более сложной для восприятия.
Человеческая культура дает человеческим обществам больше степеней свободы, чем голубиным сообществам. И оказывается, что поначалу культурные явления - демографический переход - тормозят размножение человека, когда условия становятся изобильными. Культурному и генетическому отбору может потребоваться много поколений, чтобы преодолеть это первоначальное препятствие.
Экономическая производительность человека демонстрирует гораздо большую экономию от масштаба. Голубям выгодно быть частью стаи или колонии, потому что они могут узнать о местах и методах добычи корма и разделить труд по наблюдению за хищниками. Люди же могут учиться друг у друга практически неограниченному количеству знаний по широкому спектру экономически значимых предметов. Люди также способны извлекать гораздо больше выгоды из разделения труда. Эти огромные количественные различия в экономии от масштаба для людей и голубей скрывают основное качественное сходство: в конечном итоге, если технология будет стагнировать, земля должна стать ограничивающим фактором производства.