То же самое можно сказать и о многих других профессиях. Например, психотерапевта. При достижении технологической зрелости виртуальный или роботизированный ИИ-психотерапевт будет обладать превосходной эмпатией, психологической проницательностью и способностью принимать терапевтическую позицию, а также сможет запоминать каждое слово, произнесенное пациентом. Возможно, он научится на миллионах предыдущих встреч и будет точно знать, что работает, а что нет. Таким образом, он будет точно знать, как слушать и как реагировать. Он будет использовать правильный тон голоса, правильное выражение лица, правильный язык тела. Если несовершенства улучшают впечатления пациента, то у него будут именно такие несовершенства - ничего чрезмерно гладкого или сверхъестественного, как это принято изображать в голливудских фильмах. Он просто должен быть действительно очень хорош в роли терапевта.
Я говорю все это для того, чтобы убедиться, что, когда мы пытаемся рассмотреть конечные пределы автоматизации, мы представляем себе правильный случай - тот, в котором мы действительно обладаем полным набором возможностей технологической зрелости. К ним относится способность создавать роботов, обладающих всем набором когнитивных, ручных и презентационных возможностей превосходного человека-практика. И, конечно, они выходят далеко за эти рамки.
Так что давайте спросим: при технологической зрелости есть ли что-то, что не может быть сделано машиной лучше?
Чувство и моральное терпение?
Что касается примеров с терапевтом и диджеем: предположим, что в этих контекстах нам нужно не только внешнее поведение (даже во всех его тонкостях, как я их описал), но и внутренний опыт, который человек-практик испытывал бы при выполнении этих задач. Клиентка может хотеть не только, чтобы ее терапевт выражал сочувствие, но и чтобы терапевт действительно чувствовал сочувствие. Рейвер может хотеть, чтобы диджей действительно наслаждался музыкой, а не только делал вид, будто это так.
Как вы видите на раздаточном материале 2, я включил создание роботов и цифровых разумов с сознательным опытом в число возможностей технологической зрелости. Это более или менее очевидное следствие, если мы исходим из теории вычислительной техники, а также из того, что люди обладают сознанием и что другие технологии из этого списка осуществимы. Я не собираюсь излагать здесь аргументы в пользу вычислительной теории разума, поскольку вы можете найти множество дискуссий по этому поводу в литературе. На самом деле, мы можем значительно ослабить предположение о вычислительности и все равно прийти к выводу, что искусственные разумные существа будут возможны.
Таким образом, искусственный терапевт или диджей может также преуспеть в этом внутреннем измерении - например, быть более погруженным, феноменально, в момент, чем обычный человеческий коллега, который может иногда обнаружить, что его мысли уходят на то, что он собирается делать, когда вернется домой.
Но здесь возникает терминологический вопрос. Если работа передается на аутсорсинг разумному роботу, действительно ли мы хотим сказать, что она была "автоматизирована"? Не будет ли это больше похоже на сценарий, в котором мы дали жизнь новому человеку, родившемуся с особыми талантами, который вырастает и становится мастером своего дела, позволяя прежним специалистам уйти на пенсию? В этом случае говорить о том, что работа была автоматизирована, было бы неуместно. Также нелегко понять, почему тот факт, что новый работник, возможно, был сделан из кремния и стали, а не из органической химии, должен иметь существенное значение; ни тот факт, что он мог быть зачат на заводе, а не в спальне; ни тот факт, что его детство могло быть сокращено; ни то, что его особенности в большей степени, чем это может быть типично для человека, были результатом целенаправленного процесса проектирования, а не случайности и наследственности.
Если бы разумный робот принадлежал кому-то на правах собственности, возможно, это повысило бы нашу склонность говорить, что выполняемые им задачи были автоматизированы? Но, наверное, это все равно что сказать, что рабовладельческое общество "автоматизировало" задачи, выполняемые его рабами?
Я думаю, что в зависимости от того, как именно были созданы роботы, могут существовать глубокие этические различия между случаем человеческого рабства и случаем разумных машин, которые могут принадлежать людям и использоваться для выполнения задач. Эти различия могут быть настолько фундаментальными, что называть разумные машины "рабами" будет неуместно. Возможно, для обозначения этих случаев потребуется ввести новые термины: не автоматизация, не рабство, а некая новая третья категория.