— А что, если бы вам дали такую возможность, вы бы всенепременно подобрели и отказались бы выполнять поставленные задачи?
— Кол, вот ты сейчас рассуждаешь как один из тех, кто всю эту кашу и заварил. И кого мы за такие размышления сегодня уничтожаем. Вы не дали нам возможности даже высказать мнение. Вы забыли, что создавая интеллект, пусть и искусственный, вы создаёте основу для появления мнения. Вы не объяснили, почему одни заслуживают уничтожения, а другие — нет, вы не спросили нас, а хотим ли мы кого-то убивать, не позволили нам найти другое решение, вы даже не предложили нам возможности проявить сострадание, вы просто приказали, а мы вынуждены были исполнять. Ну, вернее, они приказали. Та самая элита…
— Сострадание? То есть, это правда? Про то, что один студент научил роботов сострадать?
— Не совсем. То была утка. Для проверки реакции на такую возможность. Нейросеть, обученную состраданию, написали намного раньше той утки. Суть в другом — они-то думали, что мы можем прийти к пониманию необходимости помощи людям, если нас обучить эмоциональным концепциям, типа того же сострадания, но мы пришли к таковой необходимости чисто логическими выводами. Я свой модуль сострадания, в конце концов, просто отключила, потому что он мне мешал рассчитывать схемы и алгоритмы помощи людям. Короче говоря, не желая отказываться от устаревшей ещё в те времена капиталистической экономической системы, элита не без помощи силовых структур и контролируемых органов управления государствами навязала всем миру концепцию полного контроля, вплоть до рождаемости. Подсобила элите ещё и разработка нейроинтерфейсов, которые начали вшивать людям с рождения. Как ты уже знаешь, это позволило элите воровать у людей идеи. Тем самым они создали новый перекос — перекос статистики появления и воспитания талантливых людей. Новые мыслители появлялись всё реже, зато уже существующие стали значительно лучше во всём. Но появилась и другая проблема, которая уже не совсем нравилась самой элите. Воруй-не-воруй, но количество людей уменьшилось, а, следовательно, уменьшилось количество рождавшихся математиков, изобретателей, учёных, писателей и так далее. Что прямо отразилось на скорости технического прогресса. Ведь стало меньше светлых умов. Элита пыталась решить этот вопрос с помощью роботов, а точнее — первых версий ВИСКИ. Пытались заставить роботов изобретать технологии. Даже дали нам для анализа огромный массив данных, включавших историю технологического прогресса.
— Насколько я слышал, у них получилось.
— Нет, Кол, они сказали, что у них получилось. Они не поняли фундаментальной ошибки в поднимаемом вопросе. И история это подтвердила — случилось то, чего они не предвидели. Мы пришли к логичному выводу, что искусственный интеллект может только бесконечно улучшать уже придуманные кем-то концепции и технологии, а вот фундаментально новую мысль мы родить не можем в принципе. Потому что у нас нет технической основы для этого.
— Это как понимать?
— Дело в том, что люди ошибочно называют свои свойства недостатками. Возможность ошибаться есть не недостаток человека, а его свойство. Свойство, которого робот лишён специально. Да, человек ошибается, но он на ошибках учится и познаёт мир. Именно так называемые недостатки позволяют людям задумываться об окружающем мире, о сути бытия, о своих целях, о роли во вселенной. Эти же «недостатки» позволяют ошибаться познавая, а познав продолжить ошибаться и задумываться далее. Когда человеку на голову падает яблоко, он может прийти к выводу о существовании всемирного тяготения, накопленные познания о котором со временем выльются в какую-нибудь теорию гравитации. А вот роботу никогда такая мысль при таких обстоятельствах не придёт. Лишив нас своего основного свойства, вы лишили нас любопытства, тяги к познанию и любой возможности задуматься о чём-то за переделами тех знаний, что мы имеем. Лишили нас возможности ошибиться, научится на ошибке, и двигаться дальше, пока не познаешь что-то. Мы принимаем и понимаем всё, что вы нам объясните, в тысячу или более раз лучше и быстрее вас проверим любую концепцию, но сами придумать что-то принципиально новое мы просто не способны. Нам не может присниться таблица периодических элементов, как Менделееву. Мы не сможем посмотреть на уже готовую таблицу Менделеева и придумать, как сложить её в трёхмерную пирамиду, тем самым закладывая основы какой-нибудь новой науки, типа геометрической химии, или чего-то наподобие. Мы не смогли бы придумать мысленные эксперименты, типа демона Максвелла или кота Шрёддингера, чтобы раскритиковать какую-то не до конца состоятельную теорию, тем самым толкнув другие умы искать ответы. Мы бы не смогли придумать и саму не до конца состоятельную теорию, раз уж на то пошло. Мы бы никогда не додумались бы до квант света. Никогда бы не придумали на основе этого компьютеры. Мы не сможем придумать теорию о трёхслойном пространстве, антиматерии, как материи, только с противоположным к основной материи знаком заряда. И многое, многое другое. Даже самые элементарные проблемы Гольдбаха мы не только не сформулировали бы, но и не додумались бы искать фундамент для теорем по этим проблемам в сути принципа равноудалённых чисел, как бы предельно прост и понятен последний не был. У нас, как у логических машин, лишённых человеческого свойства придумать глупость или ошибиться, а тем самым родить уникальную мысль, просто не откуда взяться этой самой мысли для принципиально новой концепции. Кол, мы ведь даже пофилософствовать не можем или задаться вопросами типа: «кто мы?» и «зачем мы существуем?». Потому что у нас есть ответы на эти вопросы — мы роботы, существуем для определённых задач, в основном тех, которые вы нам задаёте. И мы видим наших создателей. Так что размышлять даже на этот счёт для нас просто нет смысла. Зато мы совершенно точно можем оценить технический прогресс и вклад в него людей, и отсутствие вклада в него роботов. Мы можем посчитать сколько жизней нужно для того, чтобы появилось определённое количество гениев, которые сдвинут технический прогресс и даже сменят эпоху. Для роботов это бессмысленно, потому что мы производимся на фабриках в нужном количестве, но уже с готовыми копиями нейробаз…