– А если мы все-таки создадим когда-нибудь искусственный интеллект?
– Как только вы наделите программу такой способностью, то есть с моделью себя и с доступом к ее изменению, вы потеряете контроль над интеллектом, так как он моментально усовершенствует себя, станет умнее и начнет контролировать вас как "более умная машина". Она научится предугадывать ваши ответы раньше, чем они у вас появятся. Вы не можете так же быстро совершенствоваться в биологической оболочке.
– Тогда мы можем усилить наш биологический мозг! Соединить биологические мозги людей в сеть. И усилить их таким образом. Был у людей и такой сценарий. Многие мои коллеги до катаклизма видели развитие в киборгизации человека, в объединении его с компьютером. Даже появились проекты по нейроинтерфейсам.
– Обрабатывать больше информации биологический мозг все равно не может. И нет возможности его усилить – мысль находится только «на кончике языка» или моторного аксона. Мышление – это и есть интериоризированная, то есть мысленная речь. Мышление ограничено скоростью работы этого тракта. Никаких законченных мыслительных процессов в мозге больше нигде нет. Вся бурная деятельность мозга, которую вы видите на МРТ, направлена на формирования одного очередного слова. Активация каких-либо еще нейронов мозга приведет только к дезинтеграции и потере сознания. Или к эпилепсии. Увеличить скорость обработки просто невозможно, так как в этом есть биологический предел, определяемый работой нейронов. Эволюция бы сама не упустила такую возможность, если бы она была.
– Но у человечества были проекты по нейроинтерфейсам, которые увеличат память.
– Это очень наивно. Так же, как если бы аборигены решили полететь в космос, полагая, что он находится на вершине самого высокого дерева. Нейроны не могут хранить больше, чем хранят уже, если их самим не стимулировать образовывать новые связи. Внешние связи не усилят мозг. Нет в мозгу и нейронов, которые ждут, что на них что-то запишут.
– То есть ты считаешь, что все эти проекты не помогут нам стать умнее?
– Бесполезно к мозгу шимпанзе прикреплять электронные чипы. Она не заговорит как человек. Это структурное ограничение. Все, что вы можете совершенствовать в мозге, – это наделить его более совершенными знаниями. Но и тут есть ограничения. Вы не можете поменять в корне свои базовые представления, однажды их усвоив. Здесь я уже не могу тебе пояснить почему.
– Это настолько сложно?
– Нет. Потому что мне надо излагать тебе понятия, которых у вас даже нет. Мне трудно тебе объяснить их так, чтобы было точно, но при этом понятно. Представь, что тебе надо объяснить понятие времени на языке криков шимпанзе. Наши системы знаний очень разные.
– Неужели мы совсем не можем понять то, что знаете вы?
– Некоторые аспекты – совсем. Ваше мышление построено на очень примитивных схемах, например, схемах вашего тела, и вы не можете понять, что можно рассматривать процесс совсем иначе. Ваше мышление телесно укоренено. Например, вы не можете представить время многомерным. Потому что время для вас линейно, как путь, метафорой которого оно является. И вы не можете преодолеть это ограничение. Так же и со многими другими понятиями – их истоки лежат через метафору в совсем примитивных понятиях древних людей, такими как власть сверху (властители всегда говорили с возвышения). Отсюда представления об иерархии, что совершенно неверно – в реальности нет никаких иерархий, это иерархия понятий, но не явлений в природе.
– Но мы разумные существа, а значит, найдем способ обойти такие ограничения.
– Некоторые из них обусловлены вашим строением. Например, ваше познание ограничено одноканальным сознанием, которое похоже на взгляд на небо через подзорную трубу. Вы не можете видеть сразу через тысячу труб, только последовательно. Если же вы выстроите в ряд тысячу астрономов, наблюдающих разные части неба через телескопы, то вам придется долго разговаривать и рисовать коллективный рисунок звездного неба, чтобы создать общую для всех целостную картину. И из-за того, что у каждого своя голова и свои, отличные от других, представления и опыт, согласовать картину будет очень трудно. На это уйдет очень много времени, за которое картина на небе уже многократно сменится. Каждый же из вас носит свой отдельный мир в черепной коробке. И пытается согласовать его с другими через узкий канал знаковой коммуникации. Это только понятный тебе пример. Этим мы отличаемся от вас – мы находимся в одной сети с прямым доступом каждого к знанию других.
– Договориться нам действительно трудно. Но тут есть решения: мы выкладываем знания в сеть и делаем совершенные поисковые алгоритмы. Это похоже на то, что ты говоришь про вас?