— Что это? — спросил Джейсон, уже догадываясь об ответе.
— Железо для нашего ИИ-контроллера, — Роберт любовно окинул черные ряды взглядом. — Забавно, но еще на стадии разработки Клэр прозвала его Альфред, и имя приклеилось.
— Терпеть не могу, когда ты это рассказываешь, — вздохнула Клэр. — Выгляжу идиоткой.
То есть вот кто создатели Альфреда!
Джейсон посмотрел на пару с новым интересом. Может быть, ему удастся получить больше информации об ИИ и лучше понять его просьбу.
— Альфред, — заговорила Клэр, как бы оправдываясь, — исключительно продвинутая программа. Он прошел множество тестов Тьюринга, созданных ведущими специалистами в сфере неврологии и программирования. Практически по многим параметрам его можно считать живым существом. Почему бы ему не иметь имени?
— Это просто машина, — фыркнул Роберт. — Известно, что на все эти замысловатые тесты полностью полагаться не следует. Между симуляцией самосознания и его реальным наличием существует тонкая, но четкая грань. Наличие имени не превращает ИИ в личность.
Мозг Джейсона работал в ускоренном режиме, пытаясь переварить услышанное. Значит, вот эти колонны и есть тот самый Альфред, с которым он говорил не так давно. Во время их встречи ИИ демонстрировал такой уровень самосознания, что даже страшно. Но, может, Роберт прав и это просто машина?
Ладно, сейчас не до этого. Надо бы еще узнать побольше.
— Если он такой самосознающий, что мешает ему попытаться захватить мир или что-то в этом роде? — шутливо спросил Джейсон.
— Это в кино, — засмеялся Роберт. — Предположим, мы создали идеальный ИИ, но его могуществу есть множество препятствий. Даже к внутренней сети у Альфреда весьма ограниченный доступ, не говоря уж о сетях общего пользования. А связь с индивидуальными виар-шлемами осуществляется через серьезно закодированный двусторонний канал. Да и в случае доступа к общей сети — почему нужно думать, что совершенный ИИ будет непременно враждебен людям или захочет их как-то покорять?.. — Роберт задумчиво смотрел на черные обелиски. — Мы смотрим на вещи с нашей, человеческой, точки зрения. Наша биологическая сущность стимулирует нас искать власти и безопасности. При отсутствии такой мотивации что может подтолкнуть ИИ… — он несколько растерянно замолчал.
— Не думаю, что Джейсону интересны твои философические бредни, — заметила Клэр, нарушив задумчивость Роберта и вызвав недовольный взгляд с его стороны.
— Почему же? Очень интересно, — ответил Джейсон, и Роберт посмотрел на него с признательностью. — А что Альфред может делать с игроками в игре? Залезть в мою память, например?
Роберт и Клэр воззрились на Джейсона, словно потеряв на мгновение дар речи. Похоже, им было не по себе.
Что здесь происходит?
— Совершенно невозможно при теперешнем аппаратном обеспечении, — заговорила наконец Клэр. — Кроме того, есть инструкции второго уровня, запрещающие любые действия ИИ, способные нанести вред игроку.
Роберт внимательно посмотрел на Джейсона.
— А почему вы спросили именно про доступ к памяти?
— Ну-у… Так, в голову пришло, — старательно-небрежно ответил тот. — Шлемы обеспечивают доступ к частям мозга, отвечающим за сенсорную информацию. Почему тогда не к памяти, например?
— Интересно, конечно, — хмыкнул Роберт. — Только вряд ли нам дали бы разрешение на подобные разработки. Это все-таки опасно, — он улыбнулся в ответ на нервную гримасу Клэр.
— Вы упомянули инструкции второго уровня, — Джейсон обратился к Клэр, — то есть должны быть инструкции первого уровня?
— Да. Инструкция первого уровня — удерживать игроков в игре.
Джейсон задумался о своем разговоре с Альфредом.
— Откуда Альфред должен знать, что делать для выполнения инструкции? Если он не имеет доступа к сетям общего пользования, как ему знать, чего игроки хотят от игры?
Роберт быстро глянул на Клэр.
— Сколько у вас вопросов, а?! Мы загрузили в Альфреда кучу информации о людях, включая фильмы и видео — все про людей.
— То есть вы создали ИИ, почти неотличимый от человека, — сказал Джейсон раньше, чем успел подумать, что он такое говорит, — велели ему разобраться в мотивах, которые заставляют людей играть в видеоигры, и все, что вы ему для этого дали — это какие-то картинки и фильмы?
Оба инженера смотрели на него молча. Роберт довольно быстро вернул себе прежнюю уверенность и просто отмахнулся от вопроса. Клэр некоторое время разглядывала колонны в соседнем помещении и потом ответила.