Я не хочу погрязнуть в терминологическом вопросе. Предположим, мы принимаем точку зрения, что разумный труд не является "автоматическим". Тогда мы можем сразу же определить два способа, которыми наша способность к автоматизации может быть ограничена.
Один из них заключается в том, есть ли такие продукты или услуги, которые клиенты предпочитают, чтобы выполнялись разумным существом. Возможные примеры - работа доктора медицины и диджея. Возможно, некоторые люди просто предпочитают, чтобы существо, с которым они имеют дело, осознанно переживало взаимодействие. Тогда эти работы не могут быть полностью автоматизированы.
Другой способ ограничить нашу способность к автоматизации - если существуют определенные поведенческие характеристики, которых нельзя достичь, не генерируя сознательный опыт в качестве побочного эффекта. Например, может оказаться, что любая когнитивная система, способная вести себя очень похоже на человека в очень широком наборе ситуаций и в течение длительных периодов времени, может делать это только путем выполнения вычислений, которые инстанцируют феноменальный опыт. Я не берусь утверждать, так ли это на самом деле. Но если это так, то второе ограничение для автоматизации заключается в том, что может возникнуть потребность в определенных сложных видах поведения или взаимодействий, выполнение которых обязательно порождает разум; поэтому, если мы не считаем разумные процессы автоматическими, работа, требующая таких действий, не может быть полностью автоматизирована.
Все, что я сказал здесь о чувстве, можно сказать pari passu и о моральном статусе. Это актуально, если сознание не является необходимым условием для морального статуса. Например, если некоторые несенситивные формы агентства достаточны для морального статуса , могут существовать рабочие места (например, руководящие должности, требующие гибкого поиска целей в сложных условиях, но, возможно, и многие другие роли), которые могут выполнять только системы, обладающие моральным статусом. И если делегирование задач системам, обладающим моральным статусом, не считается автоматизацией, то и здесь мы имеем ограничение на возможность автоматизации.
Однако важно понимать, что даже если есть задачи, которые могут быть выполнены только разумным трудом или трудом, имеющим моральный статус, это не означает, что для людей не останется никакой работы. Ведь эти задачи могут выполнять нечеловеческие искусственные системы, обладающие разумом или моральным статусом. Такие "машины" (я не думаю, что было бы неправильно называть их так - они были бы высокотехнологичной робототехникой и вычислительной техникой) были бы гораздо эффективнее нас не только в производстве функционально или поведенчески определенных внешних представлений, но и в генерировании субъективной ментальности и в инстанцировании широкого спектра свойств, обосновывающих моральный статус (если это то, что требуется).
ПАМЯТКА 4. ВАКАНСИИ
Много объявлений... но есть ли у вас необходимая квалификация?
Какие еще существуют потенциальные ограничения для автоматизации?
Регулирование?
Правительства могут запретить использование автоматизации в некоторых отраслях или обложить ее такими высокими налогами, что человеческий труд останется конкурентоспособным даже при достижении технологической зрелости.
Конечно, когда я говорю "оставаться конкурентоспособным", я имею в виду, что нанимать человека для выполнения этой работы было бы эффективно, учитывая действующие правила. Сами правила вполне могут быть неэффективными, снижая общий объем экономического производства по сравнению с более свободным режимом. Чем больше технологических преимуществ у машин, тем больше затраты на предотвращение их использования.
Вполне возможно, что некоторые профессии уже защищены от автоматизации негласным требованием закона о том, чтобы их выполняли люди. Хотя в судах это пока не проверяется, одна из возможных интерпретаций действующих законов заключается в том, что только люди, но не столь же квалифицированные интеллектуальные машины, могут занимать должности законодателей, судей, нотариусов, руководителей, попечителей, членов советов директоров корпораций, опекунов, президентов, монархов и другие подобные юридически или конституционно закрепленные роли. Однако законы могут быть изменены. Если не будет причин сохранять юридические ограничения, запрещающие ИИ, обладающим более высокой компетенцией, выполнять эти функции, некоторые из этих должностей могут оказаться не более защищенными от автоматизации, чем телефонные операторы и туристические агенты.