А трильйонер пишався своєю могутністю.
— Вперед! — скомандував він машині. І та враз рушила з місця, обережно обминула електрокар, посунула до воріт тунелю, розчинила їх і помчала в напрямку Уранії.
Кнопка «Стоп!»
Трапилось нещастя: розумна й лагідна «Крихітка», улюблениця всіх працівників Інституту автоматики Союзу Комуністичних Держав, «збожеволіла».
Споруда з банькуватими очима-локаторами, з незграбними кінцівками краба метлялася з кутка в куток в одному з боксів полідрому інституту, обмацуючи стіни та підлогу. Час від часу вона зупинялася, наче щось обмірковувала, потім знову починала досліджувати приміщення. Особливо її цікавили ті ділянки бокса, які були перекриті надійними стальними дверима.
У кабіні спостереження поруч бокса — двоє: інженер Дейв та його вчитель, підстаркуватий директор Інституту автоматики. Обидва не зводять очей з «Крихітки».
— То в чому ж справа, професоре? — запитує Дейв. — Ми щойно перевірили всю схему. Ніяких пошкоджень немає, контрольні завдання виконуються абсолютно точно. І от, як бачите, ввімкнулася самостійно і рветься геть з приміщення…
— Випустіть її…
— Не можна, професоре! — стривожено заперечує Дейв. — Вона наробить такого бешкету!
— Випустіть.
Знизавши плечима, Дейв клацнув вимикачем.
Стальні ворота повільно піднялися. «Крихітка» насторожилась, підповзла до отвору.
В сусідньому боксі стоїть майже така ж, тільки менша кібернетична споруда. Це — перша, ще недосконала модель електронно-обчислювальної злагоди з самопрограмуванням. Її електронний мозок вимкнено, атомний реактор вийнято. Вона неспроможна зробити жодного руху.
Зі своєю старшою сестрою кібернетична «Крихітка» зустрічається вперше. В її системі машинних рефлексів нема таких, що визначали б родинні почуття. Навпаки, інженер Дейв запрограмував дії машини так, що вона сприймає кожен невідомий предмет як потенційного ворога. Тепер він і сам не радий цьому.
— Хижак! Справжнісінький хижак! — у голосі інженера звучить майже розпач.
Порівняння з хижаком зовсім не випадкове. Сяжки «Крихітки» ворушаться стривожено, реле-перемикачі електронного мозку цокотять гарячково. Там зараз розв'язується складна задача: «Що це, як в такому випадку поводитись?»
Невідому річ, яка не виявляє агресивних намірів, за програмою, треба обмацати, сфотографувати і обминути. А «Крихітка», як тільки скінчився процес аналізу, зірвалася з місця, налетіла на свою сестру і почала її шматувати.
«Крихітка» — машина універсальна. Її сяжки обладнані газовими різаками, пилками, гайковертами. Тепер усі ці інструменти пущено в хід. Рухи споруди надзвичайно злагоджені, точні. Вона діє не навмання, а насамперед знищує пристрої керування своєї жертви.
— Що ти робиш, клята?! — блідий інженер Дейв ледве стримується, щоб не вигукнути в мікрофон беззаперечну команду «Стоп!».
— Не хвилюйтесь, Дейв… — директор інституту зосереджений, але спокійний. — Коли вона почала виявляти схильність до агресивності?
— Днів три тому. Обминаючи перешкоди, вона поповзла просто на нас з братом. А сьогодні вранці у неї з'явилася манія руйнування.
— Руйнування?.. — директор з сумнівом похитав головою. — А що робить «Крихітка» з деталями зруйнованих машин?
— Не знаю, бо не дозволяв їй руйнувати.
— Ну, то зараз побачимо.
«Крихітка» продовжувала свою справу. Швидко й упевнено вона розбирала машину на складові частини, пошкоджені деталі викидала геть, а придатні — дбайливо сортувала. За якусь годину від складної злагоди лишився голий металевий кістяк та купи залізяччя, дротів, пластмаси.
Власне, нічого незвичайного в діях «Крихітки» досі не було. Ще при побудові інженер Дейв вклав у електронну пам'ять споруди програму демонтажу першої-ліпшої машини за спеціальним наказом. Але що ж вона робитиме далі?
«Крихітка» завмерла. Здавалося, вгамувавши жадобу руйнування, вона заспокоїлась. Проте мікрофони доповіли: реле-перемикачі споруди клацають дедалі інтенсивніше, а на дубляжній схемі в кабіні спостереження індикатори кожної ділянки електронного мозку злагоди сяють яскраво. Який процес аналізу й синтезу відбувається зараз у ньому? Які нові команди записуються на барабани пам'яті? Визначити це вже не можна. Споруда вийшла з-під контролю свого творця, вона — «збожеволіла».
Ні, машина не мислить і свідомості не має. Та хіба є свідомість у хробака чи комахи? А вони ж виконують складні цілеспрямовані дії, породжені й удосконалені важким і тривалим процесом еволюції. То, може, і машинні рефлекси кібернетичної «Крихітки» зараз перебудовуються в напрямку найбільшої доцільності?