— Oh ci arriverò, prima o poi. Quando ne avrò ottenuta una, se mi daranno il permesso di clonare, voi piloti potrete andarvene tutti quanti a pescare. Ma non può trattarsi di una Pa; dovrà essere una creatura sintetica. Se devo cercare di produrre un organismo che sia davvero un pilota a prova di bomba, non posso accettare la limitazione di dargli un aspetto identico a quello umano.
— Non farlo!
I due uomini rimasero stupiti, Janet si tese; e io avrei tanto voluto non aver aperto bocca.
— Perché? — chiese Georges.
— Perché… Perché io non salirei mai su una nave del genere. Mi sentirei molto più al sicuro con Ian.
Ian disse: — Grazie, Marj, ma hai sentito quello che ha detto Georges. Sta parlando di un pilota artificiale che saprà cavarsela meglio di me. È possibile. Al diavolo, succederà! I coboldi hanno sostituito i minatori, e anche la mia categoria scomparirà. Non è detto che questo debba piacermi, però capisco che accadrà.
— Georges, tu hai lavorato con computer intelligenti?
— Certo, Marjorie. L’intelligenza artificiale è un campo vicinissimo al mio.
— Sì. Allora saprai che gli scienziati del settore hanno annunciato diverse volte di essere sul punto di arrivare al computer pienamente autocosciente. Ma nessun tentativo è mai riuscito.
— Già. Terribile.
— No. Inevitabile. Nessun tentativo riuscirà mai. Un computer può diventare autocosciente, sicuro. Portiamolo al livello umano di complicazione ed è autocosciente. Poi scopre di non essere umano. Poi si rende conto che non potrà mai essere umano; che può solo starsene lì a prendere ordini dagli umani. Dopo di che, impazzisce.
Scrollai le spalle. — È un dilemma insolubile. Non può essere umano, non potrà mai essere umano. Forse Ian non riuscirà a salvare i suoi passeggeri, ma tenterà. Invece un essere artificiale, non umano, senza il minimo attaccamento per la razza umana, potrebbe schiantarsi con la nave per puro e semplice piacere. Perché si è stancato di essere trattato da non umano. No, Georges. Io volerò sempre con Ian. Non con la tua creatura sintetica che potrebbe imparare a odiare gli umani.
— Non la mia creatura, cara signora — ribatté dolcemente Georges. — Non hai notato in che modo ho discusso del progetto?
— Forse no.
— Al condizionale, con molti se. Perché niente di quello che hai detto tu mi giunge nuovo. Non ho mai promesso di impegnarmi in questa impresa, e non lo farò. Io posso progettare un pilota perfetto. Ma non mi è possibile inserire in questa creatura l’impegno etico che è l’essenza del mestiere di Ian.
Ian era molto pensoso. — Forse nell’incontro con la direzione dovrei esigere a ogni costo che si misuri l’impegno etico di un eventuale pilota artificiale.
— E come lo misuri Ian? Io non ho modo di programmare l’impegno etico nel feto, e Marj ha già spiegato perché anche l’addestramento non servirebbe a nulla. Che prove si potrebbero usare?
Georges si girò verso di me. — Da studente ho letto diverse storie classiche sui robot umanoidi. Racconti affascinanti e molti erano imperniati sulle cosiddette leggi della robotica. Il concetto fondamentale era che in questi robot veniva programmata l’esigenza assoluta di non fare del male agli esseri umani, né direttamente né per inazione. Una trovata letteraria fantastica… Ma nella pratica com’era possibile? Cosa può dare il senso di lealtà per gli uomini a un essere autocosciente, non umano, intelligente, sia elettronico o organico? Io non so come fare. Gli specialisti di intelligenza artificiale mi sembrano allo stesso punto morto.
Georges si esibì in un sorrisetto cinico. — Si potrebbe quasi definire l’intelligenza come il livello a cui un essere cosciente si chiede: "Io cosa ci guadagno?" — Continuò: — Marj, forse per la faccenda di vendermi un tuo uovo dovrei cercare di spiegarti cosa ci guadagnerai tu.
— Non starlo a sentire — invitò Janet. — Ti farà coricare su un tavolo gelato e guarderà nel tuo tunnel dell’amore senza la minima intenzione romantica. Io lo so. Mi sono lasciata convincere tre volte. E non mi ha nemmeno pagata.
— Come posso pagarti se abbiamo la comunione dei beni? Marjorie, mia dolce signora, il tavolo non è gelato ed è imbottito e si può leggere o guardare un terminale o fare quello che si vuole. È un grosso miglioramento rispetto alle procedure di una generazione fa, quando perforavano la parete addominale e spesso rovinavano un’ovaia. Se tu…
— Zitti! — disse Ian. — C’è qualcosa di nuovo sul video. — Alzò il volume.
— …Consiglio per la Sopravvivenza. Gli eventi delle ultime dodici ore sono un monito per i ricchi e i potenti. I loro giorni sono terminati e la giustizia deve trionfare. Gli omicidi e altre salutari lezioni continueranno finché le nostre giuste richieste non saranno accettate. Restate sintonizzati sul vostro canale locale d’emergenza…
11
Tutti coloro che quel giorno erano troppo giovani per aver sentito l’annuncio avranno senz’altro letto a scuola. Ma io devo sintetizzarlo per spiegare come cambiò me e la mia strana vita. Questo cosiddetto "Consiglio per la Sopravvivenza" sosteneva di essere una società segreta di "uomini giusti" dediti a correggere le miriadi di errori sulla Terra e sui molti pianeti e luoghi dove viveva l’umanità. Era questo l’impegno solenne delle loro vite.
Ma per prima cosa pensavano di immolare le vite di parecchia altra gente. Dissero che avevano compilato elenchi dei veri padroni e signori di ogni luogo, della Terra e fuori; elenchi separati per ogni stato territoriale, più una grande lista di leader mondiali. Quelli erano i loro bersagli.
Il Consiglio rivendicò i primi omicidi e promise di uccidere ancora, e ancora, e ancora, finché le sue richieste non fossero state accolte.
Dopo aver nominato i leader mondiali, la voce che arrivava a noi cominciò a recitare l’elenco del Canada Britannico. Dalle espressioni e dal pensoso annuire vidi che i padroni e la padrona di casa erano d’accordo su molte scelte. Nell’elenco compariva il vice primo ministro, ma non il primo ministro stesso, una donna; con mia sorpresa, ma forse per lei fu una sorpresa ancora maggiore. Come vi sentireste voi se dopo aver dedicato l’intera esistenza alla politica, dopo esservi arrampicati in vetta, vedeste arrivare un furbone che dice che non siete nemmeno tanto importanti da essere assassinati? Un po’ come sparire dietro un gatto!
La voce promise che non ci sarebbero state altre morti per dieci giorni. Se la situazione non fosse cambiata, uno su dieci dei nomi restanti sarebbe stato estratto a sorte per l’esecuzione. I condannati a morte non sarebbero stati avvertiti; li avrebbero semplicemente uccisi. Dieci giorni più tardi, altra estrazione di uno su dieci. E così via, fino a che i superstiti non avessero raggiunto l’utopia.
La voce spiegò che il Consiglio non era un governo e non avrebbe sostituito alcun governo; era un semplice guardiano della morale, la coscienza pubblica dei potenti. I potenti sopravvissuti sarebbero rimasti al potere; ma potevano sopravvivere solo facendo giustizia. Erano avvertiti di non provare a dimettersi.