Эта проблема с деонтологией становится особенно острой, если мы пытаемся диктовать универсальные деонтологические правила не людям, а компьютерам. Компьютеры даже не являются органическими существами. Так что если они следуют правилу "Поступай с другими так, как хочешь, чтобы поступали с тобой", то почему их должно волновать убийство таких организмов, как люди? У кантовского компьютера, который не хочет, чтобы его убивали, нет причин возражать против универсального правила, гласящего, что "убивать организмы можно"; такое правило не угрожает неорганическому компьютеру.
С другой стороны, будучи неорганическими сущностями, компьютеры могут не беспокоиться о смерти. Насколько мы можем судить, смерть - это органическое явление, и оно может быть неприменимо к неорганическим сущностям. Когда древние ассирийцы говорили об "убийстве" документов, это была всего лишь метафора. Если компьютеры больше похожи на документы, чем на организмы, и их не волнует, что их "убивают", хотели бы мы, чтобы кантовский компьютер пришел к выводу, что убивать людей - это нормально?
Есть ли способ определить, о ком должны заботиться компьютеры, не увязая в каких-то интерсубъективных мифах? Самое очевидное предложение - сказать компьютерам, что они должны заботиться о любом существе, способном страдать. Хотя страдания часто вызваны верой в локальные интерсубъективные мифы, само страдание, тем не менее, является универсальной реальностью. Поэтому использование способности к страданию для определения критической внутренней группы обосновывает мораль в объективной и универсальной реальности. Самоуправляемый автомобиль должен избегать убийства всех людей - будь то буддист или мусульманин, француз или итальянец, - а также собак и кошек, и любых разумных роботов, которые могут когда-нибудь появиться. Мы можем даже усовершенствовать это правило, предписав автомобилю заботиться о различных существах прямо пропорционально их способности страдать. Если машине придется выбирать между убийством человека и убийством кошки, она должна будет проехать по кошке, потому что, предположительно, у нее меньше возможностей страдать. Но если мы пойдем в этом направлении, то непреднамеренно покинем лагерь деонтологов и окажемся в лагере их соперников - утилитаристов.
ИСЧИСЛЕНИЕ СТРАДАНИЙ
В то время как деонтологи пытаются найти универсальные правила, которые по своей сути являются хорошими, утилитаристы оценивают действия по их влиянию на страдания и счастье. Английский философ Джереми Бентам - еще один современник Наполеона, Клаузевица и Канта - говорил, что единственная рациональная конечная цель - это минимизация страданий в мире и максимизация счастья. Если наш главный страх перед компьютерными сетями заключается в том, что их несовпадающие цели могут причинить ужасные страдания людям и, возможно, другим разумным существам, то утилитарное решение кажется очевидным и привлекательным. Создавая компьютерную сеть, мы просто должны проинструктировать ее, чтобы она минимизировала страдания и максимизировала счастье. Если бы Facebook сказал своим алгоритмам "максимизировать счастье" вместо "максимизировать вовлеченность пользователей", все якобы было бы хорошо. Стоит отметить, что этот утилитарный подход действительно популярен в Кремниевой долине, в частности, его отстаивает движение за эффективный альтруизм38.
К сожалению, как и в случае с решением деонтологов, то, что звучит просто в теоретической области философии, становится чудовищно сложным в практической области истории. Проблема утилитаристов заключается в том, что мы не владеем исчислением страданий. Мы не знаем, сколько "очков страдания" или "очков счастья" нужно присвоить конкретным событиям, поэтому в сложных исторических ситуациях крайне сложно подсчитать, увеличивает или уменьшает то или иное действие общее количество страданий в мире.
Утилитаризм лучше всего проявляет себя в ситуациях, когда весы страданий очень четко склоняются в одну сторону. При столкновении с Эйхманом утилитаристам не нужно вступать в сложные споры об идентичности. Им достаточно указать на то, что Холокост причинил огромные страдания евреям, не принеся эквивалентных выгод никому другому, включая немцев. У немцев не было никакой убедительной военной или экономической необходимости убивать миллионы евреев. Утилитарные аргументы против Холокоста просто ошеломляют.