Выбрать главу

В этом отрывке обойдены некоторые важные сложности, но читателю придется обратиться к первоисточнику для получения более подробной информации.

Трудности, с которыми пришлось столкнуться команде Хирнемейстера, включали в себя две особые задачи, выходящие за рамки тех, что обычно присущи передовым исследованиям в области искусственного интеллекта. Они возникали исключительно из-за морального статуса ThermoRex и связанного с ним морального императива уважать, а желательно и приумножать его достоинства и ценность.

Первым из них было "Требование подлинности". Поскольку речь шла о том, чтобы дать голос ThermoRex, необходимо было, чтобы он действительно - в максимально возможной степени - был голосом ThermoRex. Он не должен быть, например, простым отголоском чувств и идей исследователей, благодаря которым технология появилась на свет. Это вызывало серьезную озабоченность, поскольку в ходе разработки приходилось делать множество выборов - задавать множество значений параметров и т. д., - что создавало для исследователей соблазн опробовать различные варианты, а затем выбрать тот, который давал наиболее приемлемые результаты. Однако если бы они слишком часто занимались таким предварительным отбором и оценкой возможных результатов, то команда Хирнемейстера добилась бы того, что вербатрон стал бы не более чем автоматизированным способом генерирования зашифрованных записей их собственных предубеждений. Методология, которой они следовали, чтобы смягчить эту проблему, довольно интересна, но мой лимит слов не позволяет мне описать ее здесь.

Вторым особым вызовом, с которым столкнулись Хирнемейстер и его команда, было "Требование единственного рождения", которое гласило, что недопустимо, если вербатрон будет появляться на свет в разных версиях и на разных экспериментальных стадиях. Причина настаивать на единичном рождении была, в частности, этической: нельзя относиться к ThermoRex или любой его основной части как к простой вещи. Предположим, была бы реализована некая "предварительная" версия вербатрона, и она выразила бы пожелание - тогда было бы оскорбительно просто проигнорировать это пожелание; но также было бы невозможно выполнить это пожелание, например, если бы оно противоречило пожеланиям, выраженным другой вербатронной версией. Такой ситуации необходимо было избежать.

Кроме моральной, существовала и другая причина, по которой предпочтение было отдано необычному рождению, а именно драматургическая. Попечители сочли желательным, чтобы было определенное и ясное начало - а точнее, эффектное публичное представление, на котором, если все пойдет хорошо, ThermoRex произнесет свои первые слова. Это было бы не только приличным способом дебютировать с новыми возможностями, но и придало бы первым словам Терморекса особую общественную (и метафизическую?) значимость, которая, по их мнению, была бы утрачена, если бы перед официальным событием проводились какие-либо "прогоны" или репетиции.

Эти два требования - подлинность и единственное рождение - иногда в народе называли необходимостью непорочного зачатия, хотя Фонд не одобряет такое использование. Необходимость непорочного зачатия значительно усложняла задачу. Несмотря на напряженные и весьма изобретательные усилия Хирнемейстера и его знаменитой команды, вопрос о том, в какой степени стремление к непорочному зачатию было достигнуто, остается предметом постоянных споров.

10.

Наступил знаменательный день. Модуль вербатрона был завершен, хотя и не протестирован (из-за требования Singular Birth, как я уже говорил).

Как только вербатрон будет активирован, ТермоРекс, если все пройдет успешно, произнесет свои первые слова.

Мероприятие должно было проходить перед живой аудиторией, но миллионы других людей будут смотреть и слушать его из своих домов, или в своих машинах, или на работе, или в барах, или в других местах. По счастливому стечению обстоятельств работа над вербатроном была завершена примерно в то же время, что и юбилейный сороковой день рождения компании ThermoRex, считая от наилучшей доступной оценки даты его изготовления. Фонд решил объединить эти два события в одну большую неделю празднования.