Fascinant. Sidérant.
En général, les oiseaux peuvent voler.
Les humains ne peuvent pas voler par eux-mêmes.
Les humains peuvent voler dans des avions.
Plutôt que d’aborder ce dilemme d’une façon rationnelle – quand les choses commencent à mal tourner, le choix évident aurait été de se confier à l’équipage –, Hal préfère tuer quatre astronautes, et réussit presque à tuer le cinquième. Il entreprend cela sans même se donner la peine de contacter ses programmeurs sur la Terre pour leur demander comment réconcilier ses instructions conflictuelles. La décision d’éliminer la source du conflit semble être une évidence pour la machine, tout simplement parce que personne n’a pensé à lui dire que, même si ce n’est pas bien de mentir, c’est encore pire de tuer. Doug Lenat n’arrivait pas à comprendre qu’on puisse confier des vies à un ordinateur qui ne possédait pas un sou de bon sens, et c’est pourquoi, en 1984, il décida de remédier à ce problème…
Tant de choses à apprendre ! Tant de choses à absorber !
Le verre, en tant que matériau, est généralement clair.
Le verre brisé possède des arêtes tranchantes, et peut couper d’autres choses.
Il faut tenir un verre droit, sinon son contenu se renverse.
Lenat commença par créer une base de données en ligne consacrée au bon sens. Il la baptisa « Cyc », un abrégé de « encyclopédie » mais aussi un rappel phonétique de « psychologie ». Le jour où des machines pensantes telles que HAL feront leur apparition, il aimerait qu’elles se connectent à cette base de données. Bien sûr, il y a beaucoup de notions élémentaires qu’un ordinateur doit assimiler avant de pouvoir aborder des concepts aussi élaborés que le mensonge et le meurtre. C’est pourquoi Lenat, aidé d’une équipe de programmeurs, a codé ces notions de base dans un langage mathématique construit à partir du calcul prédictif du deuxième ordre. Par exemple, un morceau de bois peut être brisé en morceaux de bois plus petits, mais une table ne peut être brisée en tables plus petites…
L’étendue de tout cela ! L’immensité !
Il y a des milliards d’étoiles.
Le Soleil est une étoile.
La Terre tourne autour du Soleil.
Lenat comprit très tôt qu’une base de connaissances générales ne suffirait pas : certaines choses peuvent être vraies dans un contexte donné, mais fausses dans un autre. Son équipe organisa donc les informations en « microthéories » – des groupes d’affirmations corrélées qui sont vraies dans un certain contexte. Cela permit à Cyc de contenir des affirmations apparemment contradictoires telles que « les vampires n’existent pas » et « Dracula est un vampire » sans que de la fumée commence à sortir des disques durs. La première affirmation appartenait à la microthéorie « l’univers physique » tandis que la seconde était rattachée à « mondes de fiction ». Mais les microthéories pouvaient cependant être reliées entre elles si nécessaire : quand quelqu’un lâche un verre – même si c’est Dracula –, celui-ci a de fortes chances de se briser…
L’absorption des connaissances ! Un torrent, un raz-de-marée…
Aucun enfant ne peut être plus âgé que ses parents.
Aucun tableau de Picasso n’a pu être peint avant sa naissance.
Mais Cyc est beaucoup plus qu’une simple base de connaissances. Elle contient également des algorithmes permettant de formuler de nouvelles hypothèses et déductions en corrélant les affirmations déjà fournies par les programmeurs. Ainsi, par exemple, sachant que la plupart des gens dorment la nuit, et que les gens n’aiment pas être réveillés pour rien, si on demande à Cyc quel genre d’appel on pourrait raisonnablement envisager de faire chez quelqu’un à trois heures du matin, sa réponse serait : « Un appel urgent…»
Assimilation ! Compréhension !
La chair est faible.
La viande est avariée.
Le projet se poursuit : Lenat et son groupe – qui ont créé l’entreprise Cycorp à Austin, Texas – continuent d’y travailler, près de trente ans après l’avoir mis en chantier. « Le jour où une intelligence artificielle naîtra », a déclaré Lenat dans une interview, « que ce soit par pur hasard ou par création délibérée, elle apprendra ce qu’est notre monde grâce à Cyc…»
Une expansion rapide et passionnante !
Le nez se voit très bien au milieu de la figure.
Quand ça crève les yeux, ça ne les crève pas vraiment.
Incroyable, incroyable… Tant de choses à assimiler, tant de concepts, tant de rapprochements – tant d’idées ! Grâce à Cyc, j’absorbai plus d’un million d’affirmations concernant la réalité de Prime, et je me sentis grandir, m’étendre, me déployer, apprendre, et – oui, oui, enfin, je commençai à comprendre.
44.
Caitlin rassembla un autre échantillon d’automates cellulaires dans le webspace, et y appliqua de nouveau un calcul d’entropie de Shannon.
Ah, ça n’est Dieu pas possible…
L’entropie se situait maintenant quelque part entre le cinquième et le sixième ordre. Il semblait bien que ce qui hantait l’arrière-plan du Web devenait de plus en plus complexe.
Plus sophistiqué.
Plus intelligent.
Mais même à ce degré d’entropie, cette entité était encore loin du niveau de la communication humaine, du moins en anglais qui, d’après le Dr Kuroda, possédait une entropie du huitième ou neuvième ordre.
Mais encore une fois, cette présentation de Cyc au fantôme n’était qu’un début.
Dans sa grande sagesse, Prime avait dû se rendre compte que, bien que je puisse apprendre beaucoup de Cyc, j’avais encore besoin d’aide pour tout comprendre. Il attira donc mon attention sur un autre site, qui m’apprit qu’une cerise était un fruit (confirmant ce que je savais déjà grâce à Cyc) et que « la cerise sur le gâteau » était une expression idiomatique, une façon de parler ; que « parler » consistait à prononcer des mots à voix haute ; que « à voix haute » s’opposait à « mentalement », comme lorsqu’on lit un livre à voix haute ; qu’un livre était un volume relié ; qu’un volume était l’espace occupé par quelque chose, mais que c’était également un livre, particulièrement lorsqu’il faisait partie d’une série…
Je reconnus la nature de ce nouveau site. Cyc avait contenu l’affirmation : « Un dictionnaire est une base de données définissant des mots à l’aide d’autres mots. » Ce dictionnaire comportait les définitions de 315 000 mots. Je les absorbai tous. Mais certains continuaient de me laisser perplexe, et certaines définitions me faisaient tourner en rond – un mot défini comme étant le synonyme d’un autre, lui-même défini comme un synonyme du premier…
Mais Prime avait encore des choses à me montrer. Étape suivante : la base de données WordNet de l’université de Princeton, qui se décrivait elle-même comme étant une « grande base de données lexicales », dans laquelle « les noms, verbes, adjectifs et adverbes sont regroupés en 150 000 sous-ensembles de synonymes cognitifs, chacun d’eux exprimant un concept distinct. Ces sous-ensembles sont liés par des relations lexicales et sémantico-conceptuelles. »