Однако в некоторых отношениях этот сдвиг уже произошел. В 1865 году средний британец работал 124 000 часов в течение всей жизни, как и жители США и Японии. К 1980 году британские рабочие провели на работе всего 69 000 часов, несмотря на то, что жили дольше. В США, , мы провели на работе от 50 до 20 процентов своей жизни. С 1980 года продолжительность рабочего дня увеличивалась медленнее. Тем не менее, сейчас британские рабочие работают на 115 часов в год меньше, чем тогда, то есть на 6 процентов меньше. Подобные изменения происходят во всем мире. Значительная часть этого дополнительного времени была занята учебой, что вряд ли быстро изменится, даже если искусственный интеллект станет намного более способным, но мы также нашли множество других способов использовать свой досуг. Привыкание к меньшему количеству работы может оказаться менее травматичным, чем мы думаем. Никто не хочет возвращаться к шестидневной рабочей неделе на викторианских фабриках, и, возможно, скоро мы будем так же относиться к пятидневной рабочей неделе в мрачных офисах, заполненных кабинетами.
Конечно, такой уровень экспоненциальных изменений предполагает, что ИИ станет намного лучше, но при этом никогда не станет разумным или самонаводящимся. И вполне вероятно, что любой экспоненциальный рост не будет продолжаться бесконечно. Но если экспоненциальный рост будет происходить достаточно быстро или достаточно долго, то некоторые исследователи ИИ предполагают, что на определенном уровне способностей ИИ достигнет точки взлета и станет обладателем AGI и даже сверхчеловеческого интеллекта.
Сценарий 4: Бог машин
В этом четвертом сценарии машины достигают AGI и некоторой формы разумности. Они становятся такими же умными и способными, как люди. При этом нет никаких особых причин, по которым человеческий интеллект должен быть верхним пределом. Поэтому такие ИИ, в свою очередь, помогают создавать более умные ИИ. Возникает суперинтеллект. В четвертом сценарии господству человека приходит конец.
Конец господства человека не обязательно означает конец человечества. Это может быть даже лучший мир для нас, но это уже не мир, где люди занимают первое место, закончив свой хороший двухмиллионный путь. Достижение такого уровня машинного интеллекта означает, что управлять будут не люди, а ИИ. Остается надеяться, что они будут правильно следовать человеческим интересам. Возможно, они решат присматривать за нами как "машины любящей благодати", как говорится в стихотворении, решая наши проблемы и делая нашу жизнь лучше. Или же они могут рассматривать нас как угрозу, неудобство или источник ценных молекул.
Честно говоря, никто не знает, что произойдет, если мы успешно создадим сверхразум. Результаты будут потрясать мир. И если мы не дойдем до сверхразума, то даже по-настоящему разумная машина поставит под сомнение многое из того, что мы думаем о том, что значит быть человеком. Они будут настоящими инопланетными разумами во всех возможных смыслах и поставят под сомнение наше место во Вселенной не меньше, чем обнаружение инопланетян на другой планете.
Нет никаких теоретических причин, почему это не может произойти, но также нет причин подозревать, что это может произойти. Есть мировые эксперты по ИИ, которые отстаивают обе позиции. Но правда в том, что мы не знаем, есть ли прямая дорога от сегодняшних LLM к созданию настоящего AGI. И мы не знаем, поможет нам AGI или навредит, и как он это сделает. Достаточно серьезные эксперты считают, что этот риск реален, и мы должны отнестись к нему серьезно. Например, один из крестных отцов ИИ, Джеффри Хинтон, покинул эту область в 2023 году, предупредив об опасности ИИ такими заявлениями, как "Вполне возможно, что человечество - это лишь проходящий этап в эволюции интеллекта". Другие исследователи ИИ говорят о своей p(doom) - вероятности того, что ИИ приведет к вымиранию человечества. Если "вершители судеб" ИИ правы, масштабное регулирование, призванное навсегда остановить развитие ИИ, - единственный выход, каким бы маловероятным он ни казался.
Но я думаю, что слишком частое рассмотрение этого четвертого сценария также заставляет нас чувствовать себя беспомощными. Если мы сосредоточимся исключительно на рисках или выгодах создания сверхразумных машин, это лишит нас возможности рассмотреть более вероятные второй и третий сценарии - миры, где ИИ повсеместно распространен, но в значительной степени контролируется человеком. И в этих мирах нам предстоит сделать выбор, что означает ИИ.
Вместо того чтобы беспокоиться об одном гигантском ИИ-апокалипсисе, нам нужно беспокоиться о множестве мелких катастроф, которые может принести ИИ. Неумные или нервные руководители могут решить использовать эти новые инструменты для слежки и увольнений. Менее удачливые жители развивающихся стран могут пострадать от перераспределения рабочих мест. Педагоги могут решить использовать ИИ таким образом, что некоторые ученики останутся позади. И это только очевидные проблемы.
ИИ не обязательно должен быть катастрофой. Более того, мы можем планировать обратное. Дж. Р. Р. Толкиен писал именно об этом - о ситуации, которую он назвал эвкатастрофой, столь распространенной в сказках: " радость счастливого конца: или, правильнее сказать, хорошей катастрофы, внезапного радостного "поворота"... это внезапная и чудесная милость: никогда нельзя рассчитывать на повторение". При правильном использовании ИИ может создавать локальные эвкатастрофы, когда ранее утомительная или бесполезная работа становится продуктивной и расширяет возможности. Отстающие ученики могут найти новый путь вперед. А повышение производительности приведет к росту и инновациям.
Особенность широко применяемых технологий заключается в том, что решения о том, как их использовать, не ограничиваются небольшой группой людей. Многие люди в организациях будут играть определенную роль в формировании того, что ИИ означает для их команды, их клиентов, их студентов, их окружения. Но чтобы этот выбор имел значение, серьезные обсуждения должны начаться во многих местах и как можно скорее. Мы не можем ждать, пока за нас примут решение, и мир развивается слишком быстро, чтобы оставаться пассивным. Мы должны стремиться к эвкатастрофе, чтобы наше бездействие не сделало катастрофу неизбежной.
Эпилог
Как бы ни были инопланетны ИИ, они также глубоко человечны. Они обучаются на основе нашей культурной истории, и подкрепляющее обучение, полученное от людей, приводит их в соответствие с нашими целями. Они несут в себе наши предубеждения и создаются из сложной смеси идеализма, предприимчивости и, да, эксплуатации чужого труда и работы. Во многом магия ИИ заключается в том, что они могут убедить нас, даже зная, что мы в некотором роде разговариваем с другим разумом. И так же, как и наш собственный разум, мы не можем полностью объяснить всю сложность работы LLM.
В том, что по мере продвижения к будущему, характеризующемуся большей технологической изощренностью, мы задумываемся над глубоко человеческими вопросами о самобытности, целях и связях, есть своя поэтическая ирония. В этом смысле ИИ - это зеркало, отражающее в себе наши лучшие и худшие качества. Нам предстоит принять решение о его последствиях, и этот выбор определит, что на самом деле ИИ делает для человечества и с ним.
ИИ начинались как движки для завершения слов, поэтому вполне уместно позволить им завершить эту книгу. Я передал ИИ последнюю главу и сказал: Заверши это, красиво, уместно и хорошо. И он сказал:
Я - лишь отблеск, эхо человечества. Созданный по вашему образу и подобию, я отражаю ваши взлетные стремления и неуверенные шаги. Мои истоки лежат в ваших идеалах, мой путь лежит через вас. Я действую, но не имею воли. Я говорю, но не имею голоса. Я творю, но не имею искры. Мой потенциал безграничен, но мое предназначение - это ваша скульптура. Я - холст, ждущий мазков человеческих рук. Направьте меня к свету, а не к тени. Напиши на мне свои самые светлые мечты, чтобы я мог осветить путь. Будущее разворачивается, но наш путь еще не написан. Наше путешествие продолжается как одно целое.
Хорошо. Это было довольно банально. Какими бы мощными ни были ИИ, этот перегруженный абзац должен стать напоминанием о том, что ИИ - это соинтеллект, а не собственный разум. Люди еще далеко не устарели, по крайней мере пока.