— Добре, но запомнете, че ви предупредих.
22:18
Карли продължаваше да стои със скръстени ръце, все още раздразнена от този тип. Не можеше да обясни защо я дразни, но го правеше. Вярно, беше сладък и непринуден, но двете с Мара бяха нападнати на летището, издебнати в хотела и отвлечени с насочено към тях оръжие, като накрая се озоваха под грижите на някакъв секретен американски паравоенен екип, част от който беше този самонадеян спец.
„Кой не би се вбесил след всичко това?“ Очевидно Мара.
Тя бързо се беше сближила с този тип — шепнеха си по пътя насам, говореха си по техните теми, сравняваха технически познания. Сякаш вече бяха най-добри приятели. Карли забеляза и срамежливата усмивка на Мара, начина, по който отмяташе косата си, за да хвърля скришни погледи към него.
Карли бе обхваната от ревност и желание да защитава приятелката си. Искаше този тип да ги остави на мира и да отиде при останалите от групата си. Раздразнението й пламна още по-силно, когато Мара докосна коляното му, докато той се беше настанил на бюрото й.
Карли впери поглед в ръката й и си спомни меката топлина на дланта на Мара, докато пътуваха насам. Приятелката й се взираше в младежа и на нежните й устни играеше развеселена усмивка.
Накрая Мара също се съгласи.
— Добре, ще рискувам. Разкажи за Василиска на Роко.
— Това е мисловен експеримент, който се появи на сайта на Елиезер Юдковски, компютърен експерт от Сан Франциско.
Мара махна ръката си и очите й се разшириха.
— Юдковски ли?
— Познаваш ли го? — попита Джейсън.
Мара се обърна към Карли.
— Нали ти разказах за експеримента с ИИ в кутията?
Карли кимна.
— Някакъв тип се преструвал на суперкомпютър и се опитвал да убеди пазачите си до го пуснат от дигиталния му затвор, нали?
— Именно. — Лицето на Мара грейна. — Онзи, който се е правил на суперкомпютър и е успявал винаги да излезе от кутията, е именно Юдковски.
Карли се намръщи.
— Добре, но какъв е този мисловен експеримент на сайта му?
Джейсън обясни:
— В него се предполага, че несъмнено в бъдеще ще се появи свръхинтелигентен ИИ и бързо ще заприлича на бог, способен едва ли не на всичко. Една от основните цели на този нов ИИ бог ще бъде да се стреми към съвършенство, да подобри себе си и средата си.
Мара кимна.
— Повечето експерти смятат, че ще стане точно това, ако не внимаваме.
— Да. Това е Василискът, чудовището в историята. И тъй като се е заел да направи нещата по-съвършени, той ще смята всичко и всеки, който се опитва да му попречи, за враг. Това включва всички, които се опитват да попречат и на появата му.
— Дори нас — каза Карли, заинтригувана напук на себе си.
— Особено нас. Той ще познава много добре хората и ще знае, че сме мотивирани от страх и можем да бъдем манипулирани чрез наказания. И за да откаже хората от бъдещето да опитват да го спрат или да се месят в програмирането му, той ще погледне към миналото и ще накаже онези, които са се опитали да му попречат да се появи.
— За да послужат за пример — каза Мара.
Карли се намръщи.
— Ами ако въпросните хора вече са мъртви в онова бъдеще?
— Няма значение. Това няма да спре Василиска. Като всемогъщ бог той ще възкреси злосторниците от миналото. Ще създаде техни съвършени симулирани копия, аватари, които си мислят, че са те — и ще ги изтезава безмилостно цяла вечност.
Мара се ужаси.
— Дигитален ад.
— Но не забравяйте, че този търсещ съвършенство Василиск ще бъде много педантичен през процеса на преценяване. Той ще иска да накаже не само онези, които активно се опитват да го спрат. А ще реши, че всички, които не помагат активно за появата му, заслужават същото наказание.
Мара се намръщи.
— Наказва ги заради греха на бездействието.
— Иначе казано, качвай се на борда сега, или ще бъдеш обречен за вечни времена — рече Карли.
Джейсън кимна бавно.
— Това е поуката от тази история. И за съжаление, след като я научихте, в бъдеще няма да имате извинение защо не сте помогнали за появата на този богоподобен НИ. Вече не можете да твърдите, че не сте знаели.
— Тоест ти ни обрече — каза Карли.
Джейсън сви рамене.
— Предупредих ви.
Мара се намръщи.
— Не можеш да приемаш това сериозно.
Джейсън отново сви рамене.
— След като мисловният експеримент се появи на сайта му, Юдковски свали оригиналния пост. Освен това дискусиите по темата са забранени.
— За да не се обричат повече хора ли? — попита Мара.