Інженер Дейв сподівався чогось надзвичайно хорошого. Але самостійно вироблена програма електронного мозку споруди була просто неймовірною: «Крихітка» почала розбирати сама себе. Гайковерти та клешні-затискачі зняли захисний кожух апаратури, в схему посунулись сяжки, обладнані електричними паяльниками.
На дубляжній схемі в кабіні спостереження один по одному згасали індикатори каскадів злагоди. Їх понад п'ятдесят тисяч, і втрата кількох десятків з загальної кількості ще нестрашна. Але ж, кінець кінцем, настане мить, коли електронний мозок зазнає непоправної шкоди… Що ж буде тоді?
Два протилежні почуття борються в душі інженера Дейва: бажання довести до кінця незвичайний експеримент і побоювання за злагоду, на побудову якої витрачено так багато зусиль. Коли б не директор інституту, конструктор давно б уже припинив оце саморуйнування машини.
— Професоре!.. — Дейв схопився, стиснув кулаки. — Далі не можна чекати… Вона добирається до кнопки «Стоп»!
— Мовчіть! Пильнуйте! — директор такий збуджений, що втратив свою звичайну витримку. — Дивіться і запам'ятовуйте на все життя! Зараз у цьому боксі народжується машина вищого класу — «Машина Дейва».
Дейв сердито засопів, але не заперечив. Це — загибель «Крихітки». Досить їй вимкнути кнопку «Стоп!», ту ділянку електронного мозку, яка блокує всю схему, і споруда вийде з-під контролю людини повністю. Енергії атомного реактора вистачить «Крихітці» надовго. Вона робитиме все, що їй заманеться, не підпустить до себе нікого. І її доведеться, кінець кінцем, знищити.
— Нічого не розумію, професоре… — збентежено сказав Дейв. — Я породив механічного хижака. Хибність конструкції «Крихітки» — безперечна…
— Яку програму ви дали «Крихітці»? За всяку ціну боротися за своє, так би мовити, існування? Це означає: усувати всі перешкоди, протистояти всякому небажаному впливу. Кнопка «Стоп!» для електронно-обчислювальної злагоди — найсильніший небажаний подразник. Яку б програму не виробив її електронний мозок, ви можете в першу-ліпшу мить втрутитись і порушити весь хід машинних рефлексів. Тож чи не природно, що, кінець кінцем, процес логічного аналізу привів «Крихітку» до висновку про необхідність викинути кнопку «Стоп!»?
— Розумію, професоре! — Дейв кинувся до схеми, гарячково перебіг очима основні вузли. — Отже, коли так, «Крихітка» з часом розвиватиметься, так би мовити, розумнішатиме?
— Гай-гай… — професор з жалем похитав головою. — Мабуть, вона так і лишиться хижаком, бо ви прирекли її на таку долю… Чого можна чекати від неї в майбутньому? Хіба того, що набуті нею примітивні машинні рефлекси удосконаляться до найвищого ступеня, та й годі.
— То що ж робити?
— Та що ж… — професор замислився. — Треба підвищувати «інтелект» машини. П'ятдесят сім тисяч каскадів — ніщо. Їх потрібно мати хоча б мільйон. При такій кількості елементів «егоїзм» злагоди вашого типу стане доцільним. Але ж ви розумієте самі: зараз це — неможлива річ. Обсяг і вага електронного мозку машини перейдуть всякі межі. Монтаж перетвориться на майже нездійсненну справу. Навіть коли використати друковані схеми каскадів, їх доведеться з'єднувати неймовірним плетивом дротів…
Уже давним-давно пішов директор інституту, порозходилися працівники лабораторії, а Дейв усе ще сидів у кабінеті спостереження, задумливо дивлячись у просторінь. Піднесення, яке охопило його після несподіваної похвали вчителя, було короткочасним і поступово змінилось пригніченням. Учитель поквапився з висновком. «Машини Дейва» ще немає, і невідомо, коли вона буде.
Інженер поглянув в ілюмінатор. Бідолашна «Крихітко», які ще машинні рефлекси снуються зараз у твоєму примітивному електронному мозку? Яка шалена програма дій записується на твоїх барабанах пам'яті?
«Крихітка» мовчала. Вона була всього-на-всього електронним пристроєм для розв'язування логічних задач. Хоч якими доцільними видаються її ідеї, мислити ця споруда не може. За неї мислив свого часу інженер Дейв. Його думка знайшла втілення в кібернетичній конструкції і продовжує жити в ній, набуваючи зовсім несподіваного й небажаного напрямку.
— Стривай, стривай!.. — Дейв глянув на «Крихітку» навіть трохи злякано.
Кожна людина має підставу вважати, що частка її розуму втілюється в зробленому нею. Але ж у даному разі йдеться про значно більше. Творча думка конструктора кібернетичної машини вищого класу житиме в електронній злагоді навіть після смерті її творця…