Но компьютеры – совсем другое дело, и работа с ними часто оказывалась для человека унизительной. Они всегда действовали исправно. Даже когда у них уходили недели на поиск решения какой-то проблемы, даже когда ту или иную программу десять раз проверяло множество разных людей, даже когда весь персонал постепенно приходил к выводу, что наконец-то в первый раз компьютерный интеллект дал сбой – всегда в конце концов оказывалось, что все дело в ошибке человека. Всегда.
Вошел Ричардс, сбросил блайзер и налил себе чашку кофе.
– Как дела?
Герхард покачал головой.
– У меня проблема с «Джорджем».
– Опять? Вот черт! – Ричардс взглянул на пульт. – А как «Марта?»
– «Марта» в порядке. Кажется. А вот «Джордж» барахлит.
– А который «Джордж»?
– «Святой Георгий». Просто сукин сын какой-то.
Ричардс отпил кофе и присел к терминалу.
– Не возражаешь, если я попробую?
– Валяй.
Ричардс начал нажимать клавиши. Он вызвал программу «Святой Георгий». Потом – программу «Марта». Потом набрал код взаимодействия.
Программы составили не Ричардс и Герхард – это были модификации нескольких программ, разработанных в различных университетах. Но основная идея осталась неизменной – создать программу, которая могла бы заставить компьютер эмоционально реагировать – подобно людям. И вполне логичным представлялось обозначить эти программы человеческими именами – «Джордж» и «Марта». Для этого были уже прецеденты: «Элиза» в Бостоне и «Олдос» в Англии.
«Джордж» и «Марта», в сущности, были двумя одинаковыми программами с незначительными вариациями. В первоначальном варианте у «Джорджа» были запрограммированы нейтральные реакции на внешние стимулы. Потом создали «Марту». «Марта» была немного стервозна. «Марте» многое не нравилось. Наконец был составлен новый «Джордж», очень милый добродушный «Джордж». Его-то и назвали «Святой Георгий».
Каждая программа могла реагировать тремя эмоциональными состояниями – любовь, страх и гнев. Каждая могла продуцировать три вида действий – сближение, отход и нападение. Все это, конечно, было чистой абстракцией. Эмоции и действия стимулировались разными группами чисел. Например, первоначальный «Джордж» был нейтрален к большинству чисел, но ему не нравилось число 751. Он был запрограммирован не любить именно это число. Кроме того, он не любил подобные числа – 743, 772 и так далее. Он предпочитал числа вроде 404, 133 и 918. При введении в программу одного из этих чисел «Джордж» отвечал числами, обозначающими любовь и сближение. При вводе 707 «Джордж» давал задний ход. В ответ на 750 «Джордж» свирепо нападал – судя по числам, которые появлялись на дисплее.
Сотрудники Центра уже давно играли с этими программами. Через какое-то время программу модифицировали так, что с компьютером можно было «разговаривать». Числа переводились во фразы. Это было забавно и очень интересно. Настоящее взаимодействие называлось «Рождественская игра», потому что этот «диалог» по сути сводился к обмену подарками – предметами, за которыми, как ранее за числами, закреплялось определенное эмоциональное значение.
Обычный «Джордж», взаимодействуя с «Мартой», в конечном счете одерживал над ней победу, и ее стервозность подавлялась.
Но вот «Святой Георгий» оказывал на нее куда более пагубное влияние. Его добродушная покладистость сводила ее с ума. Это когда все шло нормально. Ричардс следил за выскакивающими на дисплее словами.
ПРИВЕТ Я СВЯТОЙ ГЕОРГИЙ.
ПРИВЕТ.
КАК ТЕБЯ ЗОВУТ?
МАРТА.
ТЫ НЕРАЗГОВОРЧИВА МАРТА.
НЕТ.
НО ТЫ МНЕ НРАВИШЬСЯ.
А ТЫ МНЕ НЕТ.
ЗНАЮ Я МОГУ ПОМОЧЬ?
– Точки не всегда пропечатываются, – заметил Ричардс. – И давно это началось?
– Это еще ничего! Ты дальше смотри.
ПОМОЧЬ?
ДА, Я ХОЧУ ТЕБЕ ПОМОЧЬ.
ПОШЕЛ К КОШКЕ.
Ричардс вздрогнул. «Кошки» в программе символизировали то, что не нравилось и «Святому Георгию», и «Марте» в одинаковой степени.
СПАСИБО.
ПОШЕЛ К КОШКЕ.
СПАСИБО ТЫ ОЧЕНЬ ДОБРА.
ПОШЕЛ К КОШКЕ.
НЕТ СПАСИБО.
НЕ ЛЮБИШЬ КОШЕК?
ЛЮБЛЮ НО У МЕНЯ УЖЕ МНОГО КОШЕК.
ТОГДА ИДИ К ГОРИЛЛЕ.
– Гадость какая! – сказал Ричардс. – А другие взаимодействия как?
– Примерно в таком же духе.
– И так же мерзко?
– Примерно.
Они уже свыклись с мыслью, что, когда компьютеры взаимодействуют, результаты этого взаимодействия всегда непредсказуемы. Можно было догадаться в общих чертах, что произойдет, но конкретные ситуации всегда были неясны. Это все равно что компьютер, играющий в шашки: можно предположить, что он выиграет, но всякий раз он выигрывал по-другому, в зависимости от ходов противника.