Вопрос: Будут ли такие шахматные программы, которые смогут выиграть у кого угодно?
Возможный ответ: Нет. Могут быть созданы программы, которые смогут обыгрывать кого угодно, но они не будут исключительно шахматными программами. Они будут программами общего разума и, так же как люди, они будут обладать характером. «Хотите сыграть партию в шахматы?» — «Нет, шахматы мне уже надоели. Лучше давайте поговорим о поэзии…» Приблизительно такой разговор вы сможете иметь с программой, которая будет способна выиграть у кого угодно. Дело в том, что настоящий разум непременно основан на возможности общего обзора — так сказать, запрограммированной способности «выходить из системы» по крайней мере в том объеме, в каком мы сами обладаем такой способностью. С возникновением этой способности вы теряете контроль над программой — она переступает некий порог, и вам остается только расхлебывать заваренную вами кашу.
Вопрос: Будут ли в памяти программы некие места, где будут храниться параметры, управляющие поведением программы, так что, если бы вы забрались внутрь программы и поменяли их, программа стала бы умнее или глупее, более творческой или более заинтересованной в футболе? Короче, сможете ли вы «настраивать» программу, «подкручивая ее ручки» на относительно низком уровне?
Возможный ответ: Нет. Программа будет почти безразлична к изменениям любого данного элемента памяти, так же, как не меняемся и мы, несмотря на то, что тысячи нейронов нашего мозга ежедневно умирают. (!) Однако, если вы зайдете слишком далеко в вашей возне с программой, вы можете ее сломать, точно так же, как если бы вы небрежно провели нейрохирургию человеческого существа. В программе не будет никакого «магического» места, где будет расположен, скажем, ее коэффициент умственного развития. Это будет одной из черт, возникающей на основе низших уровней, и локализовать ее будет невозможно. То же самое верно и в отношении «количества объектов, которое программа может удержать в своей кратковременной памяти», «ее любви к физике» и так далее, и тому подобное.
Вопрос: Можно ли «настроить» какую-нибудь разумную программу так, чтобы она действовала, как я или как вы — или как нечто среднее между нами?
Возможный ответ: Нет. Разумная программа будет так же мало походить на хамелеона, как и человек. Она будет опираться на постоянство своей памяти и не сможет произвольно менять характер. Идея изменения внутренних параметров с тем, чтобы «настроиться на новую индивидуальность» указывает на смехотворную недооценку сложности личности.
Вопрос: Будет ли у разумной программы «сердце», или же она будет состоять их «бессмысленных циклов и последовательностей тривиальных операций» (выражаясь словами Марвина Мински)?[85]
Возможный ответ: Если бы мы могли увидеть всю программу насквозь, как видим дно мелкого пруда, мы наверняка увидели бы только «бессмысленные циклы и последовательности тривиальных операций» — и никакого «сердца». Существует два крайних взгляда на ИИ: один из них утверждает, что человеческий разум по неким фундаментальным и мистическим причинам запрограммировать невозможно. Другой говорит, что стоит только собрать нужные «эвристические инструменты — множественные оптиматизаторы, способы узнавания регулярностей, планирующие алгебры, рекурсивные процедуры управления и так далее»[86], и у нас будет разумная программа. Я нахожусь где-то посредине: мне кажется, что «пруд» ИИ окажется так глубок и мутен, что нам не удастся увидеть его дна. При взгляде с вершины циклы будут незаметны, так же, как на сегодняшний день электроны, переносящие ток, незаметны большинству программистов. Когда будет создана программа, выдержавшая тест Тюринга, мы увидим в ней «сердце», хотя и будем знать, что его там нет.
Вопрос: Будут ли когда-нибудь созданы «сверх-разумные» программы ИИ?
85
Marvin Minsky, «Steps Toward Artificial Intelligence», в сборнике E. Feigenbaum and J. Feldman, eds., «Computers and Thought», стр. 447.