- Изоставане? Като изоставане в ядрената надпревара? - попита Мелиса.
-Да.
Форд я погледна. Лицето ѝ бе пребледняло.
- Подробностите около предложението ни са в тази папка. Моля, вземете я и си помислете. Молим ви само да не го обсъждате с никого.
Тя побутна папката.
- Отговорът ми е не.
- Отказвате? - попита президентът. - Но вие дори не погледнахте предложението!
Мелиса стана от стола.
- Не е необходимо. Нямате представа за какво става въпрос. Както аз нямах представа, когато създавах Дороти за НАСА.
- Какво искате да кажете? - попита президентът.
Тя огледа всички присъстващи.
- Създаването на истински изкуствен интелект - на мощен изкуствен интелект - прилича на създаването на човешки разум. Дори само в това има нещо дълбоко неморално. А да се използва този разум за военни нужди, за убийства... Не! Прекалено опасно е да създадете оръжия, които сами да решават кого да убият, оръжия, заредени със софтуер, който ги учи да убиват, който ги кара да искат да убиват. Никога няма да можем да контролираме подобен изкуствен интелект. Както не можахме да контролираме и Дороти. Това е равносилно на отварянето на кутията на Пандора. При ядрените ракети поне има един пръст - пръст на човек, - който трябва да натисне копчето.
- Подобно твърдение е абсурдно - възрази генерал Донъли. - Всички системи с изкуствен интелект, които разработим, ще се намират под пълен човешки контрол.
- Така ли мислите? Това е защото никога не сте срещали Дороти.
- Доктор Шепърд, получихте уникално предложение - каза президентът, като повиши глас, за да покаже раздразнението си. - Можете да ни спестите лекцията си. Достатъчно е да ни отговорите с да или не. Има достатъчно кандидати, включително някои членове на екипа ви от НАСА, които с радост биха работили за нас.
- Това приемете, че отговорът ми е не - каза Дороти и взе чантата си. - Приятен ден, господин президент.
- Напомням ви, че предложението, което отхвърлихте, е строго секретно.
Мелиса спря, после се обърна рязко. Изненадващо, но гласът ѝ прозвуча умолително:
- Господин президент, моля ви, не тръгвайте по този път. Това е началото на края на човешката раса. Помислете върху думите ми.
- Благодаря ви, доктор Шепърд, но е излишно да ми казвате какво да правя като главнокомандващ на тази страна.
Мелиса се обърна и си тръгна. Форд я проследи с поглед.
Президентът се обърна към Локуд и се намръщи.
- Не ми каза, че е пацифистка!
- Нямах представа, господин президент. Искрено се извинявам.
Президентът се обърна към Форд.
- А вие какво мислите?
Форд стана.
- След като видях един изкуствен интелект в действие, опасявам се, че трябва да се присъединя към мнението на доктор Шепърд по този въпрос. Използването на изкуствени интелекти за военни цели ще се окаже последната крачка кьм унищожаването на човечеството. Това е много опасно.
- Китайците вече работят по въпроса - отвърна президентът.
- В такъв случай Бог да ни е на помощ - каза Форд и излезе.
64.
Настигна Мелиса в коридора. Тя вървеше бързо, токчетата ѝ тракаха по твърдия под, русите ѝ коси се вееха свободно.
- Съжалявам - каза той. - Бях смаян от предложението, което ти направиха.
Мелиса спря. Лицето ѝ бе побеляло, устните - стиснати.
- Аз също. Някой трябва да ги спре.
Форд я хвана за ръка.
- Не можем да направим нищо. Това е извън нашите възможности.
- Ще го направя публично достояние. Ще се обадя на „Ню Йорк Таймс“.
- Това няма да ги спре. Чу какво каза президентът за китайците. Това е нова надпревара във въоръжаването.