— Я понял вас, — Интеллект сделал небольшую паузу, будто брал передышку на переваривание информации. Глупость, конечно, при его-то мощностях, но мне так показалось. — Тогда еще один немаловажный вопрос: чем вам не угодил искусственный интеллект?
— Отсутствием меры, — ответил я не задумываясь.
— Как-как? — в голосе машины послышалось недоумение.
— Именно отсутствием меры. Я вовсе не против интеллекта и ни в коей мере не отношу себя к машиноборцам. Но машина, как мне кажется, должна быть помощником человеку, а не заменой его собственного мышление.
— Поясните свою мысль.
— Поясняю: если я хочу посмотреть телевизор, то мне достаточно для этого найти нужный мне канал, а не вступать в пустые прения с телевизором, доказывая ему, что эта передача меня не интересует, и рейтинги ее — тем более. Мне не нужен интеллект в чайнике или в стиральной машине, работающий на своего производителя. Я совершенно свободно могу сам себе купить продукты, а не перекладывать эту обязанность на холодильник, особенно учитывая, что он меня ни о чем не спрашивает. Я хочу сам крутить баранку своей машины, и не желаю, чтобы за меня это делал мудреный процессор.
— Разве это плохо?
— Очень плохо! К примеру, вождение — это искусство, требующее определенной подготовки, знаний и опыта. Автомобиль необходимо чувствовать, ощущать, как бьется его железное сердце, слышать его радости и боли, слиться с ним, сделать его своим продолжением, а не быть его бесполезным придатком. Это тоже своего рода радость — радость ощущения некоей малой победы над природой, которая не даровала человеку возможность быстрого передвижения. Но это еще и большая ответственность: за пассажиров, которые находятся рядом с тобой, за других людей. Ответственность помогает человеку осмыслить себя, свое поведение, воспитывает самоконтроль. Безответственность и безнаказанность, наоборот, ведет к наплевательскому отношению к окружающим, человек ощущает ложное превосходство над другими — это плохо.
— Бесспорно. Но, предположим, что плохого в том, что экскаватор сам выкопает траншею, без человека? Ведь искусственный интеллект справится с этой задачей не хуже человека? А, возможно, и лучше.
— А что в таком случае делать человеку? Чахнуть от безделья, увлекая себя всякими примитивными глупостями, теряя навыки и превращаясь в немощного младенца, который без мудрого родителя шагу ступить не сможет? Это, простите, уже не помощь, а пособничество вырождению человека как разумного вида. Если так дело пойдет и дальше, то мы скоро вновь будем прыгать по веткам, гукать и ждать, когда смышленая машина протянет нам банан, лишь мы нажмем кнопку. А если вдруг машина разладится? Или кнопку заест? Нет, человек должен быть сам хозяином своей жизни, только он и никто другой! Да, и что касается этических вопросов: я просто убежден, что их решение нельзя передоверять машине, даже такой мудрой, заботливой и правильной, как вы. Судить и решать должен человек, а машина должна лишь оказать ему в этом посильную помощь. Я в этом убежден.
— Вас не устраивает машинное правосудие? Оно не достаточно справедливо и гуманно?
— Справедливость — понятие относительное. Абсолютной справедливости не существует.
— Разумеется. Мы говорим о справедливости на основе законов.
— Вот именно. Что касается гуманности… Видите ли, излишняя гуманность ведет к появлению ощущения безнаказанности и вседозволенности.
— Но сомнения всегда толкуются в пользу человека! А возможность причинения человеку вреда есть вещь крайне сомнительная.
— В том-то все и дело. Закон должен защищать и карать. Кара — неизбежное наказание за проступок, особо серьезный и преднамеренный. Причем здесь гуманизм? Человек нарушил закон — он должен понести наказание. Гуманизм не может быть поводом избегнуть заслуженную кару.
— Это странно, господин Васильев, но в ваших соображениях есть корень истины. Мне нужно осмыслить полученную информацию. Благодарю вас.
— Постойте! — встрепенулся я.
— Слушаю вас.
— А… разве это все?
— Вы имеете еще что-нибудь сказать?
— Нет, но…
— В таком случае всего доброго, господин Васильев. У меня действительно много работы.
С неясным тягостным чувством я покидал обиталище Глобального Интеллекта. Чем все это закончится, и не напорол ли я еще массу глупостей? Очень уж не хотелось оказаться крайним, случись что непоправимое. Я попытался уверить себя, что все это лишь моя мнительность, и мудрый Интеллект не вытворит какой-нибудь глобальной глупости, но…