— Je veux parler d’un ordinateur qui pense.
— Ici, aux États-Unis ?
— Nous ne savons pas vraiment où il est, dit Shel depuis son poste de travail. Mais il parle avec quelqu’un qui se trouve à Waterloo, au Canada.
— Ah, ma foi, fit Hume, ils sont assez forts en informatique, là-bas, mais peu de leurs travaux portent sur l’intelligence artificielle.
— Montre-lui les transcriptions, dit Tony à Aiesha avant de se tourner de nouveau vers Hume. « Calculatrix » est le pseudo d’une adolescente.
Aiesha appuya sur quelques touches et la transcription apparut sur le grand écran de droite.
— Ah, bon sang, dit Hume. C’est une ado qui fait passer des tests de Turing ?
— Nous pensons plutôt que c’est son père, Malcolm Decter, dit Shel.
— Le physicien ?
Hume haussa les sourcils d’un air impressionné.
Les analystes les plus proches les observaient avec un grand intérêt. Les autres restaient penchés sur leurs écrans, occupés à surveiller des menaces potentielles.
— Bon, alors, fit Tony. Est-ce que nous avons un problème, là ?
— Eh bien, dit Hume, il ne s’agit pas d’une IA. Pas dans le sens que lui donnait Turing.
— Mais les tests… dit Tony.
— Exactement, dit le colonel. Ce mystérieux interlocuteur a échoué aux tests. (Il se tourna vers Shel, puis de nouveau vers Tony.) Quand Alan Turing a proposé ce genre de tests en 1950, l’idée était de poser une série de questions en langage naturel, et si les réponses ne permettaient pas de déterminer si l’interlocuteur était un humain ou une machine, alors, par définition, il s’agissait d’une intelligence artificielle – une machine répondant comme le ferait un humain. Mais le professeur Decter a très astucieusement prouvé le contraire : cette chose à laquelle ils parlent n’est rien d’autre qu’un ordinateur.
— Mais elle se comporte comme si elle était consciente, dit Tony.
— Parce qu’elle arrive à tenir une conversation ? Bon, je vous accorde que c’est un robot de chat assez curieux, mais…
— Pardonnez-moi, mon colonel, mais en êtes-vous vraiment sûr ? Êtes-vous certain qu’il n’y a pas de menace potentielle ?
— Une machine ne peut pas être consciente, Mr Moretti. Elle ne possède aucune vie interne. Que ce soit une caisse enregistreuse calculant le montant des taxes à ajouter à la facture, ou bien… (il désigna l’écran)… ou bien ça, une simulation de conversation en langage naturel, tout ce qu’un ordinateur sait faire, ce sont des additions et des soustractions.
— Et si ce n’était pas une simulation ? dit Shel en se levant pour les rejoindre.
— Je vous demande pardon ? dit Hume.
— Si ce n’était pas une simulation, pas un programme ?
— Que voulez-vous dire ?
— Je veux dire que nous sommes incapables de la localiser. Ce n’est pas qu’elle passe par un anonymiseur – disons simplement qu’elle ne semble venir d’aucun ordinateur en particulier.
— Alors, vous pensez qu’il s’agit de… quoi ? D’une intelligence émergente ?
Shel croisa les bras, montrant son tatouage de serpent.
— C’est exactement ce que je pense, mon colonel. Je pense que nous avons là une conscience émergente, générée dans l’infrastructure du Web.
Hume regarda de nouveau l’écran, et relut le contenu de la transcription.
— Alors ? fit Tony. Est-ce que ça vous paraît possible ?
Le colonel fronça les sourcils.
— Peut-être… Ce serait alors une tout autre affaire. S’il s’agit effectivement d’une conscience émergente, alors… hmmm.
— Oui, quoi ? fit Tony.
— Eh bien, si elle a émergé spontanément, si elle n’est pas programmée, alors qui peut dire comment elle fonctionne ? Les ordinateurs font de l’arithmétique, c’est tout, mais si c’est autre chose qu’un ordinateur – bon Dieu, si c’est un esprit, alors…
— Alors quoi ?
— Il faut que vous la désactiviez, dit Hume.
— Vous êtes sûr ?
Il fit un petit hochement de tête.
— C’est le protocole.
— Le protocole de qui ? demanda Tony.
— Le nôtre, répondit le colonel. La DARPA a réalisé l’étude en 2001. Et les chefs de l’état-major interarmées l’ont adoptée comme stratégie opérationnelle en 2003.
— Aiesha, dit Tony, connecte-toi aux archives documentaires sécurisées de la DARPA.
— J’y suis.
— Comment s’appelle ce protocole ? demanda Tony.
— Pandore.
Aiesha tapa quelques touches.
— Je l’ai trouvé, dit-elle, mais le fichier est verrouillé, et mon mot de passe est rejeté.
Tony se glissa à son bureau et se pencha sur le clavier pour entrer son mot de passe personnel. Le document apparut à l’écran d’Alesha, et Tony le transféra sur l’écran géant du milieu.
— Allez à la dernière page, dit le colonel, juste avant l’index.
Aiesha s’exécuta.
— Voilà, c’est là, dit Hume. « Dans la mesure où une intelligence artificielle émergente a de fortes chances d’accroître à chaque instant son niveau de sophistication, elle peut rapidement excéder nos capacités à contenir ou restreindre ses actions. Si un isolement absolu n’est pas immédiatement possible, l’éradication de cette intelligence est la seule option garantissant la sécurité. »
— Nous ne savons pas où elle se trouve, dit Sheldon.
— Vous feriez mieux de la trouver rapidement, dit le colonel Hume. Et contactez tout de suite les gens du Pentagone, quoique je sois sûr qu’ils seront d’accord. Nous devons éliminer ce foutu machin tout de suite – avant qu’il ne soit trop tard.
7.
Je pouvais voir !
Et pas seulement ce que Caitlin voyait. J’étais maintenant capable de suivre des liens jusqu’à n’importe quel fichier d’image fixe sur le Web, et en traitant ces fichiers à l’aide des convertisseurs que le Dr Kuroda m’avait installés sur ses serveurs, je pouvais vraiment voir les images. Elles étaient beaucoup plus faciles à étudier que celles de l’œilPod de Caitlin, parce qu’elles ne changeaient pas tout le temps et ne sautillaient pas.
J’imaginais que Caitlin avait dû passer par un processus analogue au mien, quand son cerveau avait appris à interpréter les signaux visuels corrigés qu’il recevait. Elle avait eu l’avantage de posséder un cerveau câblé dans ce but par l’évolution. Mon avantage était d’avoir lu des milliers de documents traitant du fonctionnement de la vision, incluant des articles techniques et des textes de brevets liés au traitement informatisé de l’image et à la reconnaissance des visages.
J’appris à détecter les bords et à distinguer le premier plan de l’arrière-plan. J’appris à faire la différence entre la photographie d’un objet et sa représentation schématique, entre une peinture et un dessin, entre un croquis et une caricature. J’appris non seulement à voir, mais aussi à comprendre ce que je voyais.
En la regardant à l’écran de son ordinateur, Caitlin m’avait montré une photo de la Terre vue de l’espace, prise par un satellite géostationnaire. Mais maintenant, j’avais vu en ligne des milliers de photos similaires, et en particulier les premières prises par Apollo 8. Et tandis que Caitlin dormait, je regardai des centaines de milliers d’êtres humains, des myriades d’animaux et d’innombrables plantes. J’appris à faire des distinctions subtiles : les différentes espèces d’arbres, les différentes races de chiens, les différentes sortes de minéraux.