— Следващата голяма крачка била преходът от синтактическото към семантичното ниво на езика, тоест от превръщането на данните в знание, в разбиране. Минало се през прословутите „фрейми“ като минимално описание на конкретния обект или явление, като набор от признаци, без всеки от които обектът изчезва… Минало се през фиксиране на една базова група от понятия и конструирането на онази начална дирижирана свобода на раждащия се интелект за адекватно обвързване на тези понятия и екстраполиране на пространството между тях. Така бил постигнат пълноценен модел на света в мозъка на утрешния интелектуален робот.
Какво оставало? Оставало роботът да бъде приведен в действие. И то без да му се нареди „Свърши това!“. Осъществили го, като посветили робота в понятието „цел“ и пътя за постигането й чрез стъпълцата на „подцелите“.
И какво?
Така се стигнало до изкуствения интелект, до онази негова фаза, която е най-важна от кибернетична гледна точка — до интелекта като съвкупност от универсални процедури, позволяваща да се строят конкретни алгоритми за решаването на частни задачи… Точно тази фаза включва и формирането на СЪЗНАНИЕ на робота, поне в качеството му на интегрално осмисляне на постигнатото.
За пръв път откак бе започнала да говори, Сюзън се усмихна необичайно широко — не са много хората, които са я виждали да се усмихва! — и стана. Строгото й семпло облекло я правеше по-висока, отколкото беше в същност. Бавно отиде до прозореца. Продължи:
— И ето, може би е вече въпрос на време появата и на най-фантастичното, на най-невъзможното от милата ни, наивна човешка гледна точка — САМОСЪЗНАНИЕ в робота. Само че, докато при генезиса на интелекта в споменатата му фаза, включително и на съзнанието, човекът е бил активен, поне доколкото е участвувал и „ръчкал“ нещата, използвайки изводите и обобщенията на собствения си опит, при появата на самосъзнанието на робота човекът ще бъде вече само втрещен зрител! Нещо твърде досадно, разбира се.. Защото: Ами ако себеосъзналият се робот реши, че Първият закон на роботиката е в същност излишен?! — и това може да си помисли човек, нали? И защо себеосъзналият се робот не може да не си зададе въпросите, „проклетите“ въпроси за свободата на волята и избора примерно… И подобно на онзи объркан мъдрец от миналия век може би ще се провикне: „Свобода на избора ли?! Та вие ми давате свобода да избирам между тези и тези неща! А тя, свободата, свършва дори само с това, че ме заставяте да избирам!“… Въпросния! объркан и видял се в чудо мъдрец препоръчал накрая да се скъса с всичко, като се почне с унищожаването на „Джокондата“… А какво ли ще препоръча утре стигналият до своите нови изводи робот?!…
Има ли нещо, което да ни накара да бъдем сигурни, че в един хубав ден роботът няма да сметне, че е в състояние да замени живия земен човек във всичко съвършено, което човекът притежава, като при това се освободи от безкрайното изобилие на несъвършенствата му?
И с какво можем да докажем, че, ако в един хубав ден роботът наистина реши това, той няма да е прав? Някой беше казал: "Може ли разумният човек, отчитайки опита на миналите векове, да храни поне най-малка надежда за светло бъдеще на човечеството?.. " Човек, а не робот, е казал това, и то отдавна. Десетилетията след него само потвърдиха и обосноваха думите му. Има ли нещо, което да ни накара да бъдем сигурни, че идните десетилетия изведнъж ще обърнат на сто и осемдесет градуса тази вековна тенденция? Уви, едва ли… Поне аз не виждам. Тогава? Е, тогава.
след като самите ние не можем да обърнем хода на нещата, кой друг освен роботите трябва да стори това? След като, доколкото ми е известно, от доста време вече няма бог?… И обърнете внимание, намесата на роботите няма да бъде случайна! Роботите ще се намесят, понеже ще се почувствуват длъжни да се намесят! И ще бъдат прави… И това ще бъде началото на нашия край… Страшно ли ви изглежда? Не, не бих казала. Напротив… Това е единствената бляскава перспектива за земната цивилизация…
Припомням си тази първа моя среща със Сюзън Келвин и си мисля какво беше в същност целият ми живот от тогава насам? Целият ми уж тъй сложен динамичен, богат, триумфален и какъв ли не още мой живот? Какво друго, освен непрекъснато, дълго и убедително потвърждение на грубото предсказание на Сюзън Келвин
Тъй… И… докога?
… Минутите течаха мъчително бавно. Поисках връзка с Р-генерала.
— Ясно ви е, че сега не мисля за нищо друго освен за предстоящия ни разговор, нали?