Але що, що вона робить? Яка її програма дій?
Вимикаються не всі каскади підряд. Є певна закономірність у згасанні індикаторів на дубляжній схемі.
— Професоре ! — Дейв схопився, стис кулаки. — Далі не можна! Вона… вона добирається до кнопки «Стоп!».
— Мовчіть! Пильнуйте!.. — Директор теж хвилюється. — Дивіться і запам'ятовуйте на все життя!
Дейв сердито засопів, але не заперечив. Це — загибель «Крихітки». Досить їй вимкнути кнопку «Стоп!», тобто ділянку електронного мозку, яка блокує всю схему, і машина повністю вийде з-під контролю людини. Енергії атомного реактора вистачить «Крихітці» надовго. Вона робитиме все, що їй заманеться, не підпустить до себе нікого, і її доведеться кінець кінцем просто розстріляти.
— Професоре, — Дейв насупився, потер рукою чоло. — Я прошу звільнити мене з інституту. Я не маю права марно витрачати матеріальні ресурси та час моїх колег. Хибність конструкції «Крихітки» — беззаперечна…
— Як ви сказали? — Професор відвів погляд од ілюмінатора, посміхнувся. — Хибність конструкції? Дейв, вітаю вас з величезним успіхом! Я недарма сказав: запам'ятовуйте на все життя! Зараз у цьому боксі народжується нова, ще нікому не відома кібернетична машина вищого класу — «Машина Дейва». Я пишаюсь тим, що ви мій учень!
— Нічого не розумію, професоре… — збентежено сказав Дейв.
— А от те, що не розумієте, — зле! Яку ви надали програму «Крихітці»? Будь-що боротись за своє, так би мовити, існування? Це означає: усувати всі перешкоди, протистояти всякому небажаному впливові. Кнопка «Стоп!» для електронно-обчислювальної машини — найсильніший небажаний подразник. Хай хоч яку програму виробить її електронний мозок, ви можете завжди втрутитись, порушити весь хід машинних рефлексів. Тож чи не природно, що кінець кінцем процес логічного аналізу привів «Крихітку» до рішення викинути кнопку «Стоп!»?
— Розумію, професоре! — Дейв кинувся до схеми, швидко переглянув основні вузли. — Отже, якщо так, то «Крихітка» з часом розвиватиметься і розумнішатиме?
Професор з жалем похитав головою.
— Мабуть, вона так і залишиться хижаком, бо такою ви створили її. Чого можна чекати від неї в майбутньому? Хіба того, що набуті нею механічні рефлекси удосконаляться до найвищого ступеня, та й годі.
— То що ж робити?
Професор замислився.
— Треба підвищувати інтелект машини. П'ятдесят сім тисяч каскадів — замало. Треба довести їх число хоча б до мільйона: лише при такій кількості елементів егоїзм машини вашого типу стане доцільним. Але ж ви розумієте самі: зараз це — неможлива річ. Обсяг і вага електронного мозку машини перейдуть всякі межі; монтаж стане майже нездійсненною справою.
Директор інституту давно пішов, порозходились працівники лабораторії, а Дейв усе ще сидів у кабіні спостереження, задумливо дивлячись перед собою. Піднесення, що охопило його після несподіваної похвали вчителя, було короткочасним і поступово змінилось пригніченням.
Давалося взнаки виснаження нервової системи — наслідок тривалої перевтоми. Понад чотириста днів Дейв не знав ні сну, ні спочинку, працюючи над своєю «Крихіткою». Він відчував у собі невичерпну енергію, був упевнений у своїх силах. Сьогодні ж упевненість його захиталась. Вчитель поквапився з висновком. «Машини Дейва» ще немає, і невідомо, коли вона буде. Щоб створити її, треба покинути вторований шлях, піти навпростець крізь хащі незвіданого, а на такий подвиг сили вже не вистачить.
Інженер поглянув у ілюмінатор. Бідолашна «Крихітко», які ще рефлекси снуються зараз у твоєму примітивному електронному мозку? Яка шалена програма дій записується на твоїх барабанах пам'яті?
«Крихітка» мовчала. Вона була всього-на-всього електронним пристроєм для розв'язування логічних задач. Хоч якими доцільними видаються її дії, мислити вона неспроможна. За неї мислив свого часу інженер Дейв. Його думка знайшла втілення в кібернетичній конструкції і продовжує жити в ній, набуваючи тепер несподіваного й небажаного напрямку.
— Стривай, стривай! — Дейв подивився на «Крихітку» навіть дещо злякано.
Свідомість… Мислення…
Де, на якому етапі розвитку матерії звичайні, приступні для розуміння сили електричної, хімічної, магнітної чи ще там якої взаємодії породжують чудесні, незбагненні явища — життя і свідомість?
Матерія дивиться сама на себе очима людини, осмислює себе людським мозком. А чи не можна оцю здатніть до аналізу передати машині? Машина існуватиме як завгодно довго; вона спроможна пронести розум людини крізь час і простір, аж у безконечність.