Есть в арсенале чувств противоядие против излишнего лидерства — это сопереживание, альтруизм (доброта) и потребность в общении, чувство справедливости и правды. Вместе взятые, они дают достаточную основу для правильной морали, которая должна детализироваться убеждениями, привитыми воспитанием. Если при проектировании ИИ соблюсти баланс между потребностями, способными перерасти в пороки, разъединяющие «граждан», и потребностями, их объединяющими, то можно приблизиться к идеалу. Приблизиться, но не достигнуть полной гармонии, потому что тогда наступит застой. Видимо, нужно предусмотреть достаточное разнообразие интеллектов. Конечно, это породит противоречия, но без противоречий нет прогресса.
Интересны проблемы воспитания, образования и последующего самовоспитания ИИ. Несомненно, нельзя сразу изначально задать все чувства, убеждения, память, воспоминания, которые определяют личность. В то же время нелогично заставлять «искусственного ребенка» проделывать самостоятельно и медленно весь цикл естественного развития в обществе, подвергаясь случайностям и опасностям неправильного направления самоорганизации. Безусловно, многое нужно задать в первичной структуре — в связях с высокой проходимостью и в характеристиках элементов, например в виде «центров» потребностей и чувств. Это врожденные, «генетические» программы. Последующее развитие следует организовывать в виде обучения и общения, в процессе которого в соответствии с условиями общества должна формироваться личность с особенностями, определяемыми ее врожденными качествами, Ясности в этом вопросе нет. Можно ли на этот период задать специальные условия образования связей, обеспечивающие быстрое обучение и формирование убеждений. Хотя на первый взгляд кажется, что все в нашей власти, но это не совсем так. Трудно представить, например, оперативную память с необозримым объемом или возможность изменения свойств элементов — все это ограничено технологией. У животных и человека усвояемость в детстве выше, чем у взрослого, но еще не ясно, как это осуществить для ИИ. Одно несомненно, что образование и воспитание «искусственных детей» можно запрограммировать гораздо жестче, чем для человеческих, тем более, что они не будут ограничены рамками роста «тела».
Жизнь человека и даже исторические периоды человечества очень коротки по сравнению с эволюцией природы. И ничего пока сделать не удается для ее ускорения. «Генная инженерия» — не утопия, но возникающие здесь проблемы гораздо сложнее, чем представляем мы это сегодня. Для целенаправленной переделки генотипа человека нужна его кибернетическая «действующая модель» огромной сложности. Это значительно труднее, чем создать искусственный интеллект. Опыт развития науки и техники показал, что люди не повторяют природу, а изобретают новые решения. Уверен, что проще сделать «нового человека», чем переделывать имеющегося.
Не приведет ли высокий уровень технологий к искушению быстрой переделки природы «граждан» искусственного общества. Не обусловит ли это его нестабильность. Разумеется, сейчас не стоит серьезно обсуждать этот вопрос, но такая опасность возможна. Консерватизм необходим, потому что явления, происходящие в системах «типа живых» — в организме и обществе, слишком сложны и их отражение в разуме типа человеческого весьма ограниченно и субъективно. Однако уже оформляется модельный подход к сложности, который позволяет исправить недостатки разума. Нет сомнения, что будущее общество предусмотрит опасности неконтролируемой самоорганизации.
Фантастична и увлекательна проблема искусственного интеллекта, поэтому меня и занесло так далеко — до разговора об искусственном обществе. Вернемся к вопросам теории интеллекта.
На пути к интеллекту выше человеческого
Разум человека и сложные системы
Мы уже разобрали два уровня интеллекта — уровень животного и уровень человека. Наметили пути к созданию алгоритма, способного обеспечить их моделирование. Напомню специфику интеллекта человека. Он управляет мышцами и через них — средой по критериям, исходящим от тела, от самого разума, от семьи и от общества. По своему алгоритму разум был «рассчитан» природой так, чтобы обеспечить оптимальную деятельность в изменчивой внешней среде умеренной сложности через короткие ФА. Этим определились его недостатки, ограничившие его же объективную ценность. Первый недостаток — меняющаяся субъективность оценок, связанная с переменной активностью критериев-чувств. Второй недостаток — неоднородность и неравномерность моделей среды: область центрального зрения представлена подробно, периферия — неясно. Проблема центра и фона объясняется рядом причин: спецификой зрительного восприятия и механизмом сознания, выделяющего одну модель в каждый момент, а также изменчивостью чувств, усиливающих одни модели в ущерб другим.