А что если произойдет сбой, или вирус поразит установленные алгоритмы? Что тогда? Вдруг машина примет вирус за угрозу вторжения и решит модернизировать себя? Улучшит антивирусную защиту, обновит программное обеспечение, заменит сенсоры и устаревшие детали. Его база данных пополняется с огромной скоростью, вряд ли он остановится на промежуточном этапе. Именно во время подобной эволюции у машины могут появиться желания. Воспримет ли он нас как угрозу? Появится ли у него желание избавиться от нас?
Процесс мышления робота строится на сенсорах. Они используются в самих машинах, а также ими оснащаются автоматизированные системы, где сенсорам отводится роль датчиков. Так у робота появляется обоняние, зрение, слух, вкус, осязание, ощущения положения частей тела. Он может делать измерения, проводить наблюдения. И все же остаются вопросы. Как машина делает выводы? На что основывается интеллект при принятии определенного решения?
Последовательность алгоритмов позволяет принимать роботу правильное решение. Но вопреки многим факторам в развитии любой системы существует вероятность неконтролируемого сбоя. В результате подобных сбоев, в матрице искусственного разума, возникают случайные сегменты кода. Вероятно, со временем, это может привести к тому, у них появятся секреты, и, возможно они смогут видеть сны. Сейчас сложно утверждать, но вполне вероятно, наши создания в будущем смогут развить в себе различные чувства: злость, недоверие и даже любовь. И все же... Возможно ли, что в механическом теле зародится нечто человеческое, способное действовать вопреки алгоритмам и программным рамкам? Станет ли реальностью зарождение в мертвом теле души?
Еще до войны люди боялись подобных машин, которые могли оставить их без работы. Они не знали болезней, не требовали еды и социальных выплат. Их сила в разы превосходила нашу, но сейчас, по моему мнению, роботы - единственный фактор способный поднять наше существование на прежний уровень.
Но только сможем ли мы использовать машины в качестве замены человеку на сложных рабочих местах? А потом, вследствие постоянного улучшения результатов в области искусственного интеллекта, достигнем ли мы такого уровня, когда алгоритмы техники заменят и превзойдут человеческую логику, способность к постижению и пониманию, способность находить решения и даже нашу способность переживать эмоции? Смогут ли машины полностью заменить всех нас? Реально ли машине просчитать все варианты развития событий? Да, реально, компьютер рассматривает все возможные ходы, выбирая лучший из всех. И возможно лучший вариант для них станет не лучшим для нас.
Тем не менее, когда наши творения, достигнут уровня развития, который будет выше нашего? Будем ли мы, все еще рассматриваться как важные элементы жизни и мира, каким мы его знаем? Что, если роботы достигнут уровня, когда они смогут испытывать эмоции? Когда они начнут разработки своих собственных алгоритмов, смогут создать свои законы, свои собственные ценности? Может ли случиться так, что творение превзойдет своего творца? Может! Но видимо я из тех, кто верит в лучший исход. Если мы будем доверять машинам и будем с ними открыты, они ответят нам тем же. Я полностью верю в свое создание...
***
В размышлениях ученого просматривалось два аспекта: он верил мне и в то же время опасался другого развития событий. И все же в нем победил дух первооткрывателя и ученого, но уже буквально через несколько дней я услышал и диаметрально противоположное мнение...
Свидетелем спора Сандерса с другой особью рода человеческого, я стал совершенно случайно. Собеседником Стива был другой ученый-Майк Крайтон.
Еще до войны он пару десятилетий проработал на компанию «Мак Доннел Дуглас», где занимался изучением и прогнозированием возможного развития искусственного интеллекта. Доктор Крайтон руководил целым отделом аналитиков, чьи прогнозы весьма нагревали обстановку в верхушке компании. Майк имел свой взгляд на роботостроение и собрал вокруг себя коллектив, разделявший его негативное отношение к роботам. Со временем его нервная система не выдержала напряженных баталий с сотрудниками, не поддерживающих его точку зрения, и подсел на седативные препараты. После Великой войны, когда смерть выкосила более шестидесяти процентов населения страны, доктор обосновался на окраине поселка, в котором Сандерс продолжал свои работы в области искусственного интеллекта. После тяжелой болезни Крайтон каждый день боролся с отдышкой и невыносимой болью в правом колене. Тем не менее, он находил в себе силы и иногда посещал Сандерса в подземной лаборатории. Не столько радуясь за успехи коллеги, сколько теша свое самолюбие постоянными неудачами Стива.