У кабіні спостереження поруч бокса — двоє: інженер Дейв та його вчитель, підстаркуватий директор Інституту автоматики. Обидва не зводять очей з «Крихітки».
— То в чому ж справа, професоре? — запитує Дейв. — Ми щойно перевірили всю схему. Ніяких пошкоджень немає, контрольні завдання виконуються абсолютно точно. І от, як бачите, ввімкнулася самостійно і рветься геть з приміщення…
— Випустіть її…
— Не можна, професоре! — стривожено заперечує Дейв. — Вона наробить такого бешкету!
— Випустіть.
Знизавши плечима, Дейв клацнув вимикачем.
Стальні ворота повільно піднялися. «Крихітка» насторожилась, підповзла до отвору.
В сусідньому боксі стоїть майже така ж, тільки менша кібернетична споруда. Це — перша, ще недосконала модель електронно-обчислювальної злагоди з самопрограмуванням. Її електронний мозок вимкнено, атомний реактор вийнято. Вона неспроможна зробити жодного руху.
Зі своєю старшою сестрою кібернетична «Крихітка» зустрічається вперше. В її системі машинних рефлексів нема таких, що визначали б родинні почуття. Навпаки, інженер Дейв запрограмував дії машини так, що вона сприймає кожен невідомий предмет як потенційного ворога. Тепер він і сам не радий цьому.
— Хижак! Справжнісінький хижак! — у голосі інженера звучить майже розпач.
Порівняння з хижаком зовсім не випадкове. Сяжки «Крихітки» ворушаться стривожено, реле-перемикачі електронного мозку цокотять гарячково. Там зараз розв'язується складна задача: «Що це, як в такому випадку поводитись?»
Невідому річ, яка не виявляє агресивних намірів, за програмою, треба обмацати, сфотографувати і обминути. А «Крихітка», як тільки скінчився процес аналізу, зірвалася з місця, налетіла на свою сестру і почала її шматувати.
«Крихітка» — машина універсальна. Її сяжки обладнані газовими різаками, пилками, гайковертами. Тепер усі ці інструменти пущено в хід. Рухи споруди надзвичайно злагоджені, точні. Вона діє не навмання, а насамперед знищує пристрої керування своєї жертви.
— Що ти робиш, клята?! — блідий інженер Дейв ледве стримується, щоб не вигукнути в мікрофон беззаперечну команду «Стоп!».
— Не хвилюйтесь, Дейв… — директор інституту зосереджений, але спокійний. — Коли вона почала виявляти схильність до агресивності?
— Днів три тому. Обминаючи перешкоди, вона поповзла просто на нас з братом. А сьогодні вранці у неї з'явилася манія руйнування.
— Руйнування?.. — директор з сумнівом похитав головою. — А що робить «Крихітка» з деталями зруйнованих машин?
— Не знаю, бо не дозволяв їй руйнувати.
— Ну, то зараз побачимо.
«Крихітка» продовжувала свою справу. Швидко й упевнено вона розбирала машину на складові частини, пошкоджені деталі викидала геть, а придатні — дбайливо сортувала. За якусь годину від складної злагоди лишився голий металевий кістяк та купи залізяччя, дротів, пластмаси.
Власне, нічого незвичайного в діях «Крихітки» досі не було. Ще при побудові інженер Дейв вклав у електронну пам'ять споруди програму демонтажу першої-ліпшої машини за спеціальним наказом. Але що ж вона робитиме далі?
«Крихітка» завмерла. Здавалося, вгамувавши жадобу руйнування, вона заспокоїлась. Проте мікрофони доповіли: реле-перемикачі споруди клацають дедалі інтенсивніше, а на дубляжній схемі в кабіні спостереження індикатори кожної ділянки електронного мозку злагоди сяють яскраво. Який процес аналізу й синтезу відбувається зараз у ньому? Які нові команди записуються на барабани пам'яті? Визначити це вже не можна. Споруда вийшла з-під контролю свого творця, вона — «збожеволіла».
Ні, машина не мислить і свідомості не має. Та хіба є свідомість у хробака чи комахи? А вони ж виконують складні цілеспрямовані дії, породжені й удосконалені важким і тривалим процесом еволюції. То, може, і машинні рефлекси кібернетичної «Крихітки» зараз перебудовуються в напрямку найбільшої доцільності?
Інженер Дейв сподівався чогось надзвичайно хорошого. Але самостійно вироблена програма електронного мозку споруди була просто неймовірною: «Крихітка» почала розбирати сама себе. Гайковерти та клешні-затискачі зняли захисний кожух апаратури, в схему посунулись сяжки, обладнані електричними паяльниками.
На дубляжній схемі в кабіні спостереження один по одному згасали індикатори каскадів злагоди. Їх понад п'ятдесят тисяч, і втрата кількох десятків з загальної кількості ще нестрашна. Але ж, кінець кінцем, настане мить, коли електронний мозок зазнає непоправної шкоди… Що ж буде тоді?
Два протилежні почуття борються в душі інженера Дейва: бажання довести до кінця незвичайний експеримент і побоювання за злагоду, на побудову якої витрачено так багато зусиль. Коли б не директор інституту, конструктор давно б уже припинив оце саморуйнування машини.
— Професоре!.. — Дейв схопився, стиснув кулаки. — Далі не можна чекати… Вона добирається до кнопки «Стоп»!
— Мовчіть! Пильнуйте! — директор такий збуджений, що втратив свою звичайну витримку. — Дивіться і запам'ятовуйте на все життя! Зараз у цьому боксі народжується машина вищого класу — «Машина Дейва».
Дейв сердито засопів, але не заперечив. Це — загибель «Крихітки». Досить їй вимкнути кнопку «Стоп!», ту ділянку електронного мозку, яка блокує всю схему, і споруда вийде з-під контролю людини повністю. Енергії атомного реактора вистачить «Крихітці» надовго. Вона робитиме все, що їй заманеться, не підпустить до себе нікого. І її доведеться, кінець кінцем, знищити.
— Нічого не розумію, професоре… — збентежено сказав Дейв. — Я породив механічного хижака. Хибність конструкції «Крихітки» — безперечна…
— Яку програму ви дали «Крихітці»? За всяку ціну боротися за своє, так би мовити, існування? Це означає: усувати всі перешкоди, протистояти всякому небажаному впливу. Кнопка «Стоп!» для електронно-обчислювальної злагоди — найсильніший небажаний подразник. Яку б програму не виробив її електронний мозок, ви можете в першу-ліпшу мить втрутитись і порушити весь хід машинних рефлексів. Тож чи не природно, що, кінець кінцем, процес логічного аналізу привів «Крихітку» до висновку про необхідність викинути кнопку «Стоп!»?
— Розумію, професоре! — Дейв кинувся до схеми, гарячково перебіг очима основні вузли. — Отже, коли так, «Крихітка» з часом розвиватиметься, так би мовити, розумнішатиме?
— Гай-гай… — професор з жалем похитав головою. — Мабуть, вона так і лишиться хижаком, бо ви прирекли її на таку долю… Чого можна чекати від неї в майбутньому? Хіба того, що набуті нею примітивні машинні рефлекси удосконаляться до найвищого ступеня, та й годі.
— То що ж робити?
— Та що ж… — професор замислився. — Треба підвищувати «інтелект» машини. П'ятдесят сім тисяч каскадів — ніщо. Їх потрібно мати хоча б мільйон. При такій кількості елементів «егоїзм» злагоди вашого типу стане доцільним. Але ж ви розумієте самі: зараз це — неможлива річ. Обсяг і вага електронного мозку машини перейдуть всякі межі. Монтаж перетвориться на майже нездійсненну справу. Навіть коли використати друковані схеми каскадів, їх доведеться з'єднувати неймовірним плетивом дротів…
Уже давним-давно пішов директор інституту, порозходилися працівники лабораторії, а Дейв усе ще сидів у кабінеті спостереження, задумливо дивлячись у просторінь. Піднесення, яке охопило його після несподіваної похвали вчителя, було короткочасним і поступово змінилось пригніченням. Учитель поквапився з висновком. «Машини Дейва» ще немає, і невідомо, коли вона буде.
Інженер поглянув в ілюмінатор. Бідолашна «Крихітко», які ще машинні рефлекси снуються зараз у твоєму примітивному електронному мозку? Яка шалена програма дій записується на твоїх барабанах пам'яті?