Грей се намръщи.
— Сериозно?
Пейнтър кимна.
— Ленат дори изпробвал програмата си срещу експертни играчи в една военна игра. Неговият ИИ побеждавал всички противници три години наред. Тогава играчите променили правилата без знанието на разработчика, така че играта да е в тяхна полза. Въпреки това Евриско продължил да ги побеждава. След този случай Ленат започнал да се безпокои от развитието на творението си, от начина, по който се подобрява. Накрая го изключил и отказал да публикува програмния му код. Той си остава непубликуван и до днес. Мнозина смятат, че програмата е била на път да се превърне в ОИИ, при това сама.
Грей потръпна от ужас.
— И все пак, истина или не, ти смяташ, че не можем да попречим това да се случи отново в близко бъдеще.
— Такова е мнението на експертите. Но не това е най-големият им страх.
Грей можеше да се досети какво ги е уплашило още повече.
— Ако създаването на ОИИ е неизбежно, то ИСИ скоро ще го последва. — И преди Ковалски да успее да попита, добави: — ИСИ означава изкуствен свръхинтелект.
— Благодаря, че ми каза — кисело рече Ковалски. — Но какво точно означава това?
— Случайно да си гледал „Терминатор“? — попита Грей. — Филмът, в който роботите унищожават човечеството в бъдещето? Това е ИСИ. Суперкомпютър, който надминава хората и решава да се отърве от нас.
— Но това вече не е научна фантастика — добави Пейнтър. — Повечето смятат, че ако ни чака зад ъгъла, ОИИ няма да остане задълго общ интелект. Подобна самоосъзната система ще се стреми да се усъвършенства, при това бързо. Изследователите го наричат „твърд старт“ или „експлозия на разума“, при която ОИИ бързо израства в ИСИ. Със скоростта на днешните процесори това може да се случи за седмици, дни или часове, ако не и за минути.
— И после той ще се опита да ни убие — каза Ковалски и се надигна в стола си.
Грей разбираше, че такава възможност наистина съществува. „Можем да се окажем създатели на собствения си край“.
— Не може да се каже със сигурност — каза Пейнтър. — Подобен свръхинтелект със сигурност ще бъде непознаваем и неразбираем за нас. Ще бъдем като мравки пред бог.
На Грей му дойде до гуша от подобни предположения. Тази заплаха можеше да почака. Точно в момента имаше по-непосредствени грижи.
— Какво общо има това с нападението и с намирането на Сейчан и децата на Монк?
Пейнтър кимна. Разбираше нетърпението му.
— Тъкмо щях да стигна и до това. Както вече казах, АИОП излива пари в различни подобни проекти. И под пари имам предвид милиарди. Миналогодишният бюджет предвиждаше шейсет милиона за самообучаващи се програми, петдесет за когнитивни изчисления и четиристотин милиона за други проекти. Но по-важни — и свързани с нашия проблем — са стоте милиона, записани в категорията „Класифицирани програми“.
— Иначе казано, секретни проекти — каза Грей.
— АИОП тайно финансира няколко начинания, които не само са на път да създадат първия ОИИ, но и чиито проучвания са насочени към конкретна цел.
— И каква е тя?
— Да се гарантира, че първият появил се ОИИ на тази планета ще е доброжелателен.
— Приятелски настроеният робот Каспер, иначе казано — презрително изсумтя Ковалски.
— По-скоро етичен — поправи го Грей, който знаеше за тази посока на проучвания. — Машина, която няма да се опита да ни убие, когато се възнесе до божественост.
— Това е приоритет за АИОП — наблегна Пейнтър. — Както и за много други изследователски групи. Като Изследователския институт за машинен интелект. Или Центъра за приложна рационалност. Но тези организации са пренебрежително малобройни в сравнение с останалите, които се стремят към голямата награда за създаване на обикновен ОИИ.
— Това е тъпо — каза Ковалски.
— Не, просто е по-евтино. Много по-лесно и бързо е да създадеш първия ОИИ, отколкото първия безопасен ОИИ.
— И при такава ценна награда предпазливостта остава на заден план — допълни Грей.
— Именно затова АИОП финансира и отглежда талантливи индивиди и проекти, които показват обещания за създаване на приятелски ОИИ.
Грей усети, че Пейнтър най-сетне стига до темата.
— И една от тези програми има нещо общо със случилото се тази нощ, така ли?
— Да. Един обещаващ проект на университета в Коимбра в Португалия.
Грей се намръщи. „Защо това ми звучи познато?“
Пейнтър се наведе над компютъра на бюрото си, чукна няколко клавиша и зареди видеозапис на един от мониторите на стената. Картината показваше изглед към маса в каменно помещение. Покрай стените от двете страни се издигаха рафтове с книги. Няколко жени стояха около масата и гледаха право към камерата. Устните им се движеха, но звук нямаше.