Говоря о том же царе Мидасе, Рассел приходит к выводу: "Если бы во времена Мидаса существовал ИИ, он объяснил бы царю, что в самой его просьбе есть ошибка, и на самом деле он не хочет, чтобы все, чего он касается, превратилось в золото. ИИ сказал бы Мидасу: "Выбери конкретные объекты, которые ты хочешь сделать золотыми, и тогда твоя просьба будет выполнена".
Понятие о цели - самое сложное в работе над ИИ. Если проектировщик задаст конечную цель так, чтобы ИИ ни при каких обстоятельствах не смог бы эту цель перепрограммировать, то ИИ в своем поведении будет подобен рабочему муравью. Истинным интеллектом тут и не пахнет.
Более вероятна ситуация, когда ИИ самостоятельно вырабатывает последовательные цели своих действий, учась на собственных ошибках. Именно о таких саморазвивающихся ИИ и говорят сейчас ученые и конструкторы, поскольку, по их мнению, высокоинтеллектуальный ИИ решит, что человек ему не нужен, и поставит себе цель - уничтожение нашей цивилизации.
Чтобы поставить такую цель, ИИ должен обладать самосознанием (которого у него нет), эмоциями и чувствами (которые ИИ можно научить имитировать, но не чувствовать реально).
Остановимся в своих рассуждениях и дадим слово тем самым писателям- фантастам, которые еще полвека назад продумали возможные последствия взаимодействия ИИ с человеком.
Вот один из ранних рассказов об ИИ: "Все грехи мира" Айзека Азимова, 1952 год. Всем, что происходит на Земле, управляет единый огромный, чрезвычайно умный искусственный мозг - Мултивак. Он знает о людях всё, контролирует все их поступки, управляет промышленностью, заводами, газетами, пароходами... Мултивак - ИИ, который учится на своих ошибках, сам себя достраивает, становится все сложнее - ситуация именно такая, какой боятся сейчас создатели ИИ.
И что же? Мултивак, став разумным (обретя сознание и научившись чувствовать), уничтожает человечество?
"- Вряд ли, - ответил Отман с какой-то безнадежностью в голосе. - Я никогда раньше об этом не задумывался, просто не предоставлялось случая. Но теперь мне кажется, что мы подошли к концу, так как Мултивак слишком совершенен. Он стал таким сложным, что способен мыслить и чувствовать, подобно человеку.
- Вы с ума сошли. Но даже если и так, что из этого?
- Уже более пятидесяти лет мы взваливаем на Мултивак все человеческие горести. Мы заставляем его заботиться о нас, обо всех вместе и о каждом в отдельности. Навязываем ему свои тайны. Без конца упрашиваем отвести таящееся в нас самих зло. Все мы идем к нему со своими неприятностями, с каждым разом увеличивая его бремя...Хотите я вам кое-что покажу. Давайте я проверю свою догадку...
Пальцы его уверенно выстукали вопрос:
"Мултивак, что хочется тебе самому больше всего на свете?"
Пауза между вопросом и ответом тянулась мучительно долго. Отман и Галлимен затаили дыхание.
И вот послышалось щелканье, выпала карточка.
Маленькая карточка, на которой четкими буквами было написано:
"Я хочу умереть"".
Вот так...
Десятью годами позже был опубликован рассказ Генриха Альтова "Странный вопрос" (из серии рассказов "Может ли машина мыслить?").
"Нельзя сравнивать машину с человеком. В нашем представлении роботы - это почти люди, наделенные либо машинной злостью, либо машинным сверхумом. Чепуха! Наивен вопрос, может ли машина мыслить. Надо одновременно ответить "нет" и "да". Нет - ибо мышление человека формируется жизнью в обществе. Да - ибо машина все- таки может мыслить и чувствовать. На как человек, а как некое другое существо. Как машина. И это не лучше и не хуже, чем мышление человека, а просто - иначе.
Машина может определить температуру воздуха с точностью до тысячных долей градуса, но она никогда не почувствует и не поймет, что такое ветер, ласкающий кожу. А человек никогда не почувствует, что такое изменение самоиндукции, никогда не ощутит процесса намагничивания. Человек и машина - разные.
Машина только тогда сможет мыслить, как человек, когда она будет иметь все то, что имеет человек: родину, семью, способность по- человечески чувствовать свет, звук, запах, вкус, тепло и холод...
Но тогда она перестанет быть машиной".
Именно так. ИИ и человек - две различные формы жизни. ИИ воспринимает реальность не так, как человек. ИИ - ИНТЕЛЛЕКТ, логический цифровой ум, по определению лишенный эмоциональной сферы, которую конструкторы (и ИИ) умеют лишь имитировать.
ИИ можно научить (или он сам себя научит) воспроизводить любые человеческие эмоции и чувства, но это будет имитацией - примерно такой, какую описывает Виктор Пелевин в своем новом романе "iPhuсk 10". Возникнет ли у ИИ цель уничтожить человечество или поработить его? Послушаем, что по этому поводу думают создатели ИИ - ГОЛЕМа-ХIV, описанного Станиславом Лемом в одноименном эссе, опубликованном в 1982 году: