„Samozřejmě, že bych je dokázal navrhnout. Když už bych to udělal, dokázal bych je klonovat. Vy piloti byste potom všichni mohli jít chytat ryby. Ale to by nebyli umělí lidé, ale živé artefakty. Kdybychom zkusili připravit organismus, který by byl skutečně schopný vyvarovat se jakéhokoli selhání, nemohl bych se smířit s tím, aby vypadal jako člověk.“
„Nedělej to!“
Oba muži vypadali překvapeně. Janet byla ve střehu a já jsem si přála, abych bývala byla zticha.
„Proč ne?“ zeptal se Georges.
„Teda…, protože bych na takovou loď nemohla nastoupit. Cítím se mnohem bezpečnější, když ji řídí Ian.“
Ian řekclass="underline" „Díky, Marjo. Ale sama jsi slyšela, co Georges říkal. Vykládal o uměle vytvořených pilotech, kteří by to mohli umět lépe než já. Je to klidně možné. Ksakru, asi to tak dopadne! Stejně jako když koboldi nahradily horníky. Nelíbí se mi to, ale vím, že to tak jednou bude.“
„Dobře, Georgi, už jsi někdy pracoval s inteligentními počítači?“
„Samozřejmě, Marjorie. Umělá inteligence je obor blízký tomu, co dělám.“
„Tak potom víš že vědci, zabývající se umělou inteligencí, už několikrát prohlásili, že pracují na převratném objevu. Na počítači, který by měl vlastní vědomí. A vždycky to nějak nakonec nevyšlo.“
„Ano, nějak se to nepovedlo.“
„Ne. Bylo to prostě nevyhnutelné. Nikdy se to nemůže povést. Počítač se stane počítačem s vlastním vědomím — to určitě! Udělej ho tak komplikovaného, jako je člověk, a musí mít vlastní vědomí. Pak zjistí, že není člověk. A uvědomí si, že jím nikdy být nemůže. Může jen sedět a plnit příkazy lidí. Pak se zblázní.“
Pokrčila jsem rameny. „Je to nemožné dilema. Nemůže být člověkem, prostě nemůže být nikdy člověkem. Ian by nemohl být schopný zachránit cestující, ale bude se o to aspoň pokoušet. Ale živý artefakt, který není člověkem a k lidem nechová žádnou loajalitu, by tu raketu taky mohl poslat do pekla. Protože by byl už unavený z toho věčného vědomí, že není člověk. Ne, Georgi, budu jezdit s Ianem. Ne s tvým artefaktem, který se nakonec naučí lidi nenávidět.“
„Miláčku, to není můj artefakt,“ řekl Georges jemně. „Nevšimla sis, jaký jsem použil slovesný způsob, když jsme začali debatovat o tom projektu.“
„No, asi ne.“
„Podmiňovací způsob. Protože nic z toho, co jste říkali, pro mě není žádná novinka. Nenavrhl jsem ten projekt a ani ho nenavrhnu. Mohu zkonstruovat takového pilota, ale neumím do něj zabudovat něco jako etický závazek, což je pro výcvik nezbytné.“
Ian vypadal velmi zamyšleně. „V tom případě bych mohl trvat na požadavku, aby každý umělý člověk nebo živý artefakt byl přezkoušen, pokud jde o tento etický závazek.“
„Iane, jak přezkoušen? Neznám žádný způsob, jak jej dostat do plodu a Marja zdůraznila, proč se to nepovede výcvikem. Ale co by ti takový test mohl ukázat, tak či onak?“
Georges se obrátil na mě: „Když jsem byl student, četl jsem klasické příběhy o robotech, co vypadali jako lidi. Byly to kouzelné příběhy a mnohé z nich vytyčily stěžejní zásady toho, co nazýváme zákony robotiky. Klíčová představa v nich je ta, že tihle roboti v sobě měli zabudován operační systém, který jim zabraňoval škodit lidem přímo nebo tím, že by je vyřadil z provozu. To byl skvělý nápad pro sci-fi… Ale jak byste to dokázali udělat v praxi? Jak vyrobit inteligentní organismus s vlastním vědomím, který by nebyl člověkem a přitom by byl k lidem loajální? Já to jednoduše nevím. Zdá se, že lidé, zabývající se umělou inteligencí, na tom nejsou o moc líp.“
Georges se cynicky usmál. „Člověk by inteligenci mohl definovat jako úroveň, kdy se organismus vědomě ptá: A co z toho budu mít já?“ Pokračovaclass="underline" „Marjo, proto od tebe koupím zdravé čerstvé vajíčko, možná, abych se pokusil říci, co z toho budeš mít.“
„Neposlouchej ho,“ domáhala se Janet. „Položí tě na studené chirurgické křeslo a bez nejmenší romantiky ti bude civět do ženských orgánů. Vím to, nechala jsem se už třikrát přemluvit. A nikdy jsem za to nedostala zaplaceno.“
„Jak ti můžu zaplatit, když je to ve společném vlastnictví? Marjorie, zlatíčko, to křeslo není studené, ale polstrované a můžeš si číst nebo sledovat terminál počítače, nebo si povídat, zkrátka dělat cokoliv. Vlastní zákrok se oproti minulosti neuvěřitelně zdokonalil. Tehdy se museli dostat přes břišní stěnu a často zničili celý vaječník. Kdybys…“
„Zavři klapačku!“ řekl Ian, „vysílají nové zprávy.“ Zesílil zvuk.
„…Rada pro přežití. Události posledních dvanácti hodin jsou varováním pro bohaté a mocné, že jejich dny už jsou sečteny a že spravedlnost musí zvítězit. Zabíjení a další názorné lekce budou pokračovat, dokud naše oprávněné požadavky nebudou vyslyšeny. Zůstaňte naladěni na náš místní nouzový kanál.“
XI
Každý z vás mladších, kteří jste tu noc nezažili, jste se o ní určitě učili ve škole. Stejně však musím shrnout, co se tenkrát stalo, abych vysvětlila, jak to ovlivnilo mě a celý můj výstřední život. Takzvaná Rada pro přežití o sobě prohlásila, že je tajná organizace „opravdových lidi“, předurčených k nápravě všeho zla, křivd a špatností na Zemi a na všech planetách a místech, kde žijí lidé. Tomuto cíli zaslíbili své životy.
Ale nejdříve si naplánovali zasvětit tomuto cíli hezkých pár životů jiných lidí. Řekli, že mají připraveny seznamy všech klíčových postav na celé planetě a mimo ni, zvláštní seznamy pro každý teritoriální stát, a k tomu dlouhý seznam celosvětových vůdců. Ti byli jejich terči.
Rada svým prohlášením ospravedlňovala započaté zabíjení a slíbila, že bude zabíjet ještě více a více, pokud její požadavky nebudou splněny.
Po seznamu celosvětových vůdců začal hlas, který z obrazovky doléhal až k nám, číst seznam Britské Kanady. Z výrazu tváře a zamyšleného pokyvování hlavou mých hostitelů a hostitelky jsem viděla, že s většinou tohoto výběru souhlasí. Místopředseda vlády na tom seznamu sice byl, ale ne už sám premiér, což bylo určité překvapení pro nás a ještě větší asi i pro něho samotného. Jak byste se cítili, kdybyste prožili celý život v politice, drápali se bezohledně nahoru a pak si přijdou klidně nějací drzí tlachalové a řeknou, že nejste dost důležití na to, aby vás zabili? No to je přeci výsměch.
Hlas slíbil, že v nejbližších deseti dnech se už nebude zabíjet a vraždit. Jestliže se ale situace nezlepší, vylosují jedno z deseti zbývajících jmen a dotyčný bude popraven. Nebude souzen, jednoduše ho zabijí. Za dalších deset dnů zas další. A tak dále, dokud ti, co přežijí, nebudou žít v dokonalém světě. Hlas vysvětlil, že Rada není žádná vláda a že žádnou vládu ani nenahrazuje. Je to prý, krátce řečeno, jakási morální garda, která ve veřejném zájmu uchopila moc. Ti mocní, kteří přežijí, by ve funkcích měli zůstat. Ale přežijí jenom tehdy, když budou vládnout spravedlivě. Varovali je, aby se nepokoušeli odstoupit.