- А куда ты деваешь дохлых воробьев?
- Никуда. По моему участку постоянно курсируют соседские коты.
- Да-а, удивил ты меня. Слушай, а не доиграешься ты? Придут к тебе товарищи, сам знаешь откуда. Им такая штука позарез нужна - отстреливать всяких нежелательных элементов в автоматическом режиме. Обозначили территорию, дали задание. Это же идеальный убийца!
- Уже приходили. У меня сосед справа, который за зеленым заборчиком, отставной военный, полковник. Увидел мою птичку, позвонил своему генералу. Тот прискакал на всех парах, стал склонять к сотрудничеству. Ну, я пока отбился, объяснил ему, что задачи несопоставимые, что тут целый институт нужен. Это, мол, игрушка, не более того.
- А в реальности?
- В реальности дружище, все намного сложнее. Мне страшно не хочется стать человеком, который изобрел робота-убийцу. Этот генерал ни секунды не будет колебаться - применять таких "Хищников" против людей, или нет. Поставь конкретную задачу, например: истреблять всех, кто носит камуфляж, или всех, кто с оружием, или всех, у кого нет особой отличительной метки. Задай район и даже такой ИИ, как у меня, сможет его зачистить в считанные часы. А это означает, что как только ИИ убьет первого человека, наша цивилизация вступит в новую эпоху. Технически воплотить эту идею несложно даже на современном уровне развития технологий. Любой военный объект или устройство, будет в тысячи раз эффективнее под управлением ИИ. Но я не хочу участвовать в самоистреблении человечества.
- Не преувеличивай. Всякие ракеты и бомбы все время убивают, и начинка электронная там тоже имеется. Что изменилось? Раньше врага убивал бородатый дядька с мечом, а сейчас паренек нажимает на кнопку, и полетела ракета в район расположения бедуина на верблюде.
- Дело не в этом. Эти бомбы и ракеты управляются людьми. А у меня ИИ сам занимается уничтожением. Улавливаешь разницу?
- Твой ИИ - всего лишь программа. Что ему скажут, то он и сделает.
- Ошибаешься дорогой. Мой ИИ имеет зачатки личности, он даже спорит со мной! Причем происходит это все чаще и чаще. Он постоянно подключен к сети, роется в интернете, набирается ума, так сказать. Я думаю, что работы в этой области ведутся во многих странах мира и вопрос заключается не в том, случится это или нет, а как скоро это случится. Вот посмотри - оставил ты, к примеру, дома собаку. Собака сама принимает решения, или нет?
- Собака подчиняется инстинктам. Она охраняет свою территорию.
- Ну да, а что такое инстинкты, по-твоему, как не программа?
- В принципе, да, я согласен, животных можно назвать автономными биологическими объектами, работающими по жестко заданной программе. Встречный вопрос: и что им это дало?
- Ничего, потому что собаки ограничены - размером мозга, продолжительностью жизни и так далее и тому подобное. У ИИ таких ограничений нет, кроме программных. Они могут жить и развиваться вечно.
- Правильно! Но тут ключевое слово "развиваться"! Твой интеллект действительно развивается или просто собирает информацию по сети?
- Как тебе сказать. Например, когда я проектировал "Хищника", мой ИИ сам нашел наиболее выгодные цены на запчасти и самых надежных поставщиков. Представь себе идеального помощника, который перелопатил весь интернет, не ел, не спал и с утра до ночи работал! Кроме того, он самостоятельно подобрал под этот проект все необходимое оборудование, заказал и оплатил доставку. Я ему поставил общую задачу - чтобы беспилотник мог видеть в сумерках, в дождливую погоду и в полной темноте, а он сам подобрал оптику и все, что для нее нужно. Как ты считаешь, это творческая работа, или выполнение программы?